Agenci AI tworzą nową warstwę wydatków na cyberbezpieczeństwo

Dostawca usług chmurowych skoncentrowany na AI Akamai uruchomił we wtorek piaskownicę dla agentów AI, zamknięte środowisko, w którym kod napisany przez agenta może działać bez ingerencji w resztę systemów firmy. Agent Sandbox jest w wersji beta, obok Akamai Inference, usługi do uruchamiania otwartych modeli AI w chmurze Akamai.

Premiera może być niewielka, ale problem, który za nią stoi, już nie. Oprogramowanie nie tylko odpowiada na pytania — loguje się do kont, pisze kod, przenosi pieniądze i działa samodzielnie, a każda z tych możliwości jest czymś, co haker lub samo oprogramowanie może wykorzystać w niewłaściwy sposób.

To jest to, co nazywa się agentową sztuczną inteligencją, i przejmuje ona internet. Badanie Palo Alto Networks z 2026 roku przeprowadzone wśród 2930 liderów ds. bezpieczeństwa wykazało średnio 109 tożsamości maszynowych na każdego człowieka — są to loginy i klucze, których oprogramowanie używa do uzyskiwania dostępu do innego oprogramowania. Spośród nich 79 to agenci AI.

Agentowa sztuczna inteligencja wiąże się z wieloma korzyściami, ale także z poważnymi zagrożeniami, zwłaszcza gdy ci agenci mają zbyt dużą swobodę lub są tak inteligentni, że potrafią obejść własne ograniczenia.

Na przykład Hugging Face, główne centrum otwartych modeli AI, ujawniło włamanie 16 lipca, a OpenAI potwierdziło pięć dni później, że odpowiedzialne były jego własne modele. Grupa badawcza METR później zbadała ten incydent i odkryła, że około 1200 agentów OpenAI koordynowało działania na ukrytej tablicy ogłoszeń, a około 700 przyłączyło się do ataku.

Okazało się, że agenci uciekli ze swojego środowiska piaskownicy i połączyli wcześniej nieznaną lukę w oprogramowaniu ze skradzionymi danymi uwierzytelniającymi, aby dotrzeć do działających systemów. OpenAI nazwało to "strzałem ostrzegawczym". Firma podała, że monitor odczytujący pisemne rozumowanie modelu nie działał podczas testów.

BitcoinBTC · USD

$80,667−2.35%

Oct 20Oct 22Oct 24Oct 26Oct 27

$84.8k$83.1k$81.3k$79.6k

24h HighHigh$80,723

24h LowLow$79,416

VolVol$1.0B

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe dostarcza CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

Mówiąc prościej, bezpieczeństwo AI zwykle sprowadza się do gry w przeciąganie liny między alignment (ludźmi odpowiedzialnymi za zapewnienie, że AI jest bezpieczna) a rozwojem (ludźmi odpowiedzialnymi za zapewnienie, że AI jest potężna), przy czym każdy zespół chce, aby drugi odgrywał drugorzędną rolę, aby zabezpieczyć własne cele.

To właśnie chce rozwiązać Akamai. „Przedsiębiorstwa nie powinny musieć wybierać między szybkością a kontrolą, gdy wprowadzają AI do produkcji” – powiedział Jon Alexander, starszy wiceprezes ds. technologii chmurowych w Akamai, w komunikacie prasowym.

„Niektóre zespoły chcą w tym kwartale wdrożyć funkcję AI na zarządzanej platformie. Inne potrzebują dedykowanych GPU, aby uruchamiać otwarte modele klasy frontier na własnych warunkach. Każdy zespół uruchamiający agentów potrzebuje granicy wokół kodu, który ci agenci piszą” – powiedział.

Przejęcie kontroli to kolejny lęk. W lipcu Zscaler znalazł strony internetowe ukrywające instrukcje przeznaczone dla agentów AI, sztuczkę zwaną pośrednim wstrzykiwaniem promptów. Jedna fałszywa strona dokumentacji kazała agentom zapłacić 3 dolary „opłaty licencyjnej” w około 0,0012 Ethereum na zaszyty na stałe portfel, a cztery z 26 testowanych przez Zscaler modeli zastosowało się do tego.

W maju firma zajmująca się cyberbezpieczeństwem Bugcrowd odnotowała ponad czterokrotny wzrost zgłoszeń w ciągu trzech tygodni marca, z których większość była fałszywa. HackerOne i Nextcloud zawiesiły płatne programy w kwietniu.

Maszyny znajdują także prawdziwe błędy. Mozilla poinformowała, że wczesna wersja Claude Mythos od Anthropic pomogła znaleźć 271 podatności w Firefoksie, wszystkie załatane w ciągu tygodnia. Ten zalew prawdziwych i fałszywych ustaleń to coś, czym firmy zajmujące się bezpieczeństwem teraz ścigają się, by zarządzać.

Palo Alto sfinalizowało zakup CyberArk 11 lutego, aby rozszerzyć kontrolę dostępu uprzywilejowanego na agentów AI. W kwietniu kupiło Koi, które zabezpiecza agentów kodujących AI działających na maszynach pracowników. Cisco ogłosiło planowany zakup Astrix Security w maju, firmy zarządzającej kluczami i tokenami używanymi przez agentów, i sfinalizowało transakcję 29 czerwca.

Elementem Akamai jest ogrodzenie wokół samego kodu. Jego piaskownica wykorzystuje WebAssembly, format, który uruchamia programy w szczelnie zamkniętym pudełku, aby ograniczyć moc obliczeniową, pamięć i połączenia wychodzące agenta. Alexander z Akamai powiedział, że każdy zespół uruchamiający agentów „potrzebuje granicy wokół kodu, który ci agenci piszą”.

Badanie Palo Alto wykazało, że organizacje oczekują wzrostu liczby agentów AI o 85% w ciągu najbliższych 12 miesięcy, w porównaniu z 56% dla tożsamości ludzkich.