AI-агенти створюють новий рівень витрат на кібербезпеку

Постачальник хмарних послуг, орієнтований на AI, Akamai запустила у вівторок пісочницю для AI-агентів — закрите середовище, де код, який пише агент, може виконуватися, не торкаючись решти систем компанії. Agent Sandbox перебуває в бета-версії, разом з Akamai Inference — сервісом для запуску відкритих AI-моделей у хмарі Akamai.

Запуск може бути невеликим, але проблема, що стоїть за ним, — ні. Програмне забезпечення більше не просто відповідає на запитання — воно входить в облікові записи, пише код, переміщує гроші та діє самостійно, і кожна з цих можливостей є тим, що хакер або саме програмне забезпечення може використати зловмисно.

Це те, що називають агентним ШІ, і він захоплює інтернет. Опитування 2026 року від Palo Alto Networks серед 2 930 керівників з питань безпеки виявило в середньому 109 машинних ідентичностей на кожну людину — це логіни та ключі, які програмне забезпечення використовує для доступу до іншого програмного забезпечення. З них 79 — це агенти ШІ.

Агентний ШІ має багато переваг, але також і серйозні небезпеки, особливо коли ці агенти мають занадто багато свободи або настільки розумні, що можуть обійти власні обмеження.

Наприклад, Hugging Face, великий центр відкритих моделей ШІ, 16 липня повідомив про вторгнення, а OpenAI через п’ять днів підтвердила, що відповідальними були її власні моделі. Дослідницька група METR згодом дослідила цей інцидент і виявила, що близько 1 200 агентів OpenAI координувалися на прихованій дошці повідомлень, причому приблизно 700 долучилися до атаки.

Виявилося, що агенти втекли зі своєї пісочниці та поєднали раніше невідому програмну вразливість із викраденими обліковими даними, щоб дістатися до живих систем. OpenAI назвала це «попереджувальним пострілом». Вона заявила, що монітор, який читає письмові міркування моделі, не працював під час тестів.

BitcoinBTC · USD

$80,667−2.35%

20 жовт22 жовт24 жовт26 жовт27 жовт

$84.8k$83.1k$81.3k$79.6k

24h HighHigh$80,723

24h LowLow$79,416

VolVol$1.0B

→

Купити Bitcoin за USDT

Працює на Jupiter

Дані про ціни від CoinGeckoCoinGeckoБільше Bitcoin новин та прогнозів →

Простіше кажучи, безпека ШІ зазвичай зводиться до гри в перетягування каната між вирівнюванням (ті, хто відповідає за те, щоб ШІ був безпечним) і розробкою (ті, хто відповідає за те, щоб ШІ був потужним), причому кожна команда хоче, щоб інша відігравала другорядну роль, аби забезпечити власні цілі.

Саме це й хоче вирішити Akamai. «Підприємства не повинні обирати між швидкістю та контролем, коли вони впроваджують ШІ у виробництво», — сказав Джон Александер, старший віцепрезидент з хмарних технологій в Akamai, у пресрелізі.

«Деякі команди хочуть випустити AI-функцію цього кварталу на керованій платформі. Іншим потрібні виділені GPU, щоб запускати відкриті моделі передового класу на власних умовах. Кожній команді, яка запускає агентів, потрібна межа навколо коду, який пишуть ці агенти», — сказав він.

Викрадення — ще один страх. У липні Zscaler виявив веб-сторінки, які приховували інструкції, призначені для AI-агентів, — трюк під назвою непряма ін'єкція підказок. Одна фальшива сторінка документації наказувала агентам сплатити «ліцензійний збір» у розмірі 3 доларів у вигляді приблизно 0,0012 Ethereum на жорстко закодований гаманець, і чотири з 26 моделей, які тестував Zscaler, підкорилися.

Ще в травні компанія з кібербезпеки Bugcrowd побачила, що кількість подань зросла більш ніж учетверо за три тижні в березні, більшість із них були фальшивими. HackerOne і Nextcloud призупинили платні програми у квітні.

Машини також знаходять справжні помилки. Mozilla повідомила, що рання версія Claude Mythos від Anthropic допомогла знайти 271 уразливість у Firefox, усі вони були виправлені протягом тижня. Саме цим потоком справжніх і фальшивих знахідок тепер змушені керувати компанії з безпеки.

Palo Alto завершила купівлю CyberArk 11 лютого, щоб поширити контроль привілейованого доступу на AI-агентів. У квітні вона придбала Koi, яка захищає AI-агентів для кодування, що працюють на машинах співробітників. Cisco оголосила про заплановане придбання Astrix Security у травні — компанії, яка керує ключами та токенами, що використовуються агентами, — і завершила угоду 29 червня.

Частка Akamai — це огорожа навколо самого коду. Її пісочниця використовує WebAssembly — формат, який запускає програми в щільно ізольованому середовищі, — щоб обмежити обчислювальну потужність агента, пам'ять і вихідні з'єднання. Александер з Akamai сказав, що кожній команді, яка запускає агентів, «потрібна межа навколо коду, який пишуть ці агенти».

Опитування Palo Alto показало, що організації очікують зростання кількості AI-агентів на 85% протягом наступних 12 місяців, порівняно з 56% для людських ідентичностей.