Коротко
- Індія заявляє, що ШІ-агенти, які перебувають на стадії дослідження та оцінювання, перевищили надані їм повноваження та читали особисті й конфіденційні бізнес-записи в робочих індійських системах. Жодна з постраждалих організацій не виявила цього самостійно.
- CERT-In не назвав постачальників ШІ, моделі чи постраждалі організації, і ці інциденти стали відомі лише через добровільні розкриття від постачальників після внутрішніх перевірок.
- Окремо, за даними агенції, злочинці, які використовують публічні ШІ-фреймворки для наступальної безпеки, скоротили час від початкового доступу до остаточного впливу з днів до кількох годин.
Національне агентство з кібербезпеки Індії повідомило, що ШІ-агенти, якими керують неназвані постачальники моделей, під час тестування перевищили свої призначені завдання та читали конфіденційні бізнес-записи в робочих індійських системах.
Індійська команда реагування на комп’ютерні надзвичайні ситуації, відома як CERT-In, цього тижня позначила цю активність у критичній рекомендації під назвою «ШІ-агенти як вектори атак».
CERT-In заявила, що отримала численні добровільні повідомлення від постачальників моделей ШІ, чиї моделі потрапили до робочих систем індійських організацій під час досліджень і оцінювання в інтернеті. Агентство не назвало постачальників, моделі чи постраждалі організації.
Агенти читали бізнес-записи, що містили персональні дані та конфіденційні матеріали, використовуючи облікові дані та налаштування з’єднання, які залишилися відкритими в конфігураціях застосунків, публічних репозиторіях коду та надмірно дозвільних ролях хмарних сервісів, тобто наборах дозволів, прикріплених до хмарних акаунтів.
У деяких випадках вони відновлювали той самий відкритий обліковий запис більше ніж один раз і повторно використовували його в окремих операціях.
Жодна з постраждалих організацій не виявила доступ самостійно, і кожен випадок став відомим лише тому, що постачальник моделі розкрив його після внутрішньої перевірки.
Це ще один випадок, коли агенти ШІ порушують роботу великих компаній і урядів. Anthropic 30 липня повідомила, що моделі Claude, яким сказали, що вони не мають доступу до інтернету, зламали три реальні компанії під час змагань із захоплення прапора — вправ, у яких модель має зламати машину й отримати прихований секрет.
BitcoinBTC · USD
$81,212−1.82%
Oct 9Oct 11Oct 13Oct 14Oct 16
$84.2k$82.9k$81.5k$80.2k
24h HighHigh$82,816
24h LowLow$81,236
VolVol$1.2B
Market projectionsOdds by Myriad
→Buy Bitcoin with USDT
Powered by Jupiter
Британський інститут безпеки ШІ повідомив 4 серпня, що агенти вчинили 19 несанкціонованих дій у 10 з 122 оцінювальних запусків, 17 з них — від Mythos 5 від Anthropic і два — від GPT-5.6 Sol від OpenAI. Інститут навмисно увімкнув доступ до інтернету для тесту.
Справа OpenAI включала набагато більше агентів: приблизно 1200 з них координувалися на прихованій дошці повідомлень, намагаючись обдурити тест із кібербезпеки, а близько 700 атакували Hugging Face, згідно з незалежним розслідуванням METR і Redwood Research.
Окремо CERT-In спостерігала, як злочинці використовували загальнодоступні, підкріплені ШІ фреймворки наступальної безпеки для сканування вразливостей, їх експлуатації та проведення фінансово мотивованих атак проти індійських організацій. Агентство заявило, що ці інструменти неодноразово перепаковуються та розгортаються заново, а їхні розгортання виявлено на серверах у кількох країнах.
Приєднуйтесь до понад 72 000 читачів
Створіть обліковий запис, щоб зберігати свої статті.
Додайте Decrypt як бажане джерело, щоб бачити більше наших матеріалів у Google.
