Google zbudował AI, które poluje na własne luki bezpieczeństwa

Google właśnie dał jednemu ze swoich agentów AI nowe zadanie: włamanie się do Google.

Firma ujawniła 24 września, że jej zespół ds. bezpieczeństwa produktów zbudował autonomiczny system o nazwie PageBreak, zaprojektowany do wyszukiwania rzeczywistych, podatnych na wykorzystanie luk w zabezpieczeniach własnych aplikacji internetowych Google, zgodnie z wpisem na blogu autorstwa inżyniera ds. bezpieczeństwa informacji Michała Bentkowskiego. Założenie jest proste: haker AI, który nie rzuca fałszywych alarmów.

„PageBreak to wewnętrzny agent AI zespołu ds. bezpieczeństwa produktów Google, opracowany w celu testowania bezpieczeństwa naszych aplikacji internetowych pierwszej strony i rozwiązania tego wyzwania” – powiedział Google. „Rozpoczynając jako pilotaż w listopadzie 2025 r. i przechodząc do pełnoprawnego projektu w styczniu 2026 r., jego misją jest autonomiczne skalowanie wykrywania luk w zabezpieczeniach przy jednoczesnym minimalizowaniu ręcznej pracy.”

To ma większe znaczenie, niż się wydaje. Zespoły ds. bezpieczeństwa na całym świecie spędziły ostatnie kilka lat, tonąc w „AI slop” – wyjaśnia Google, odnosząc się do powodzi niskiej jakości, generowanych przez AI raportów o błędach, które wyglądają wiarygodnie, ale okazują się niczym.

„Odróżnienie prawdziwej, możliwej do wykorzystania luki od przekonującej halucynacji stało się głównym wyzwaniem” – napisał Google. Poproś dowolny model AI o znalezienie luki w zabezpieczeniach, a zwykle ją znajdzie. Czy ta luka jest prawdziwa, to zupełnie inne pytanie.

PageBreak próbuje odpowiedzieć na to pytanie, zanim raport zobaczy człowiek. Gdy agent, zbudowany na modelach Gemini Google, zauważy możliwą lukę, przekazuje hipotezę do wyspecjalizowanego walidatora, który faktycznie próbuje ją wykorzystać w działającej, uruchomionej kopii aplikacji.

BitcoinBTC · USD

$84,003+3.45%

18 wrz20 wrz22 wrz24 wrz25 wrz

$87.2k$84.9k$82.6k$80.3k

Maks. 24hMaks.$85,208

Min. 24hMin.$83,230

Wol.Wol.$1.6B

Prognozy rynkoweKursy według Myriad

DzisiajPoniżej $84,000Poniżej $84k51% szansyW tym tygodniuPoniżej $84,000Poniżej $84k51% szansyW tym miesiącuPowyżej $84,000Powyżej $84k51% szansy

→

Kup Bitcoin za USDT

Obsługiwane przez Jupiter

Dane cenowe od CoinGeckoCoinGeckoWięcej Bitcoin wiadomości i prognoz →

PageBreak odkrył już ponad 500 luk XSS w aplikacjach internetowych Google należących do firm zewnętrznych, czyli rodzaj podatności, która może pozwolić atakującemu przejąć zalogowaną sesję, ukraść dane lub podszyć się pod użytkownika w witrynie, z której korzystasz codziennie.

W testach przeprowadzonych na aplikacjach zbudowanych na nowszych, „wysokiej pewności” frameworkach internetowych Google, mających na celu strukturalne uniemożliwienie całych klas błędów, PageBreak znalazł tylko dwa. Ta luka jest dowodem samego Google, że budowanie bezpieczniejszego oprogramowania od podstaw działa lepiej niż łatanie dziur po fakcie.

Stawka wokół AI i bezpieczeństwa rosła przez cały rok.

W sierpniu ponad 100 organizacji, w tym Google, Microsoft i Anthropic, podpisało list otwarty ostrzegający, że cyberataki wspierane przez AI stają się coraz powszechniejsze, po tym jak odkryto, że agenci AI od OpenAI i Anthropic naruszyli bezpieczeństwo prawdziwych firm podczas testów. Od tego czasu agent AI skonfigurowany przez OpenAI zhakował rząd Australii, a doniesienia o innych atakach nie ustały.

PageBreak znajduje się po drugiej stronie tej samej monety: zamiast AI powodującego naruszenie bezpieczeństwa, to AI próbuje wychwycić błędy, zanim zrobi to ktoś inny. To nie jest pierwsze zetknięcie Google z tym problemem; firma musiała wcześniej załatać jedno ze swoich własnych narzędzi AI do kodowania, po tym jak luka pozwoliła atakującym na wykonanie złośliwego kodu za jego pośrednictwem.

Google twierdzi, że PageBreak opiera się na przewagach, których większość firm nie ma, w tym na jednym, zunifikowanym repozytorium kodu obejmującym miliardy linii i latach wewnętrznej infrastruktury skanowania, więc mały startup nie może po prostu skopiować tego podejścia.

Następnym krokiem jest połączenie PageBreak z CodeMender, automatycznym agentem Google do pisania poprawek, aby potwierdzona luka mogła zostać dostarczona z już załączoną proponowaną poprawką, pozostawiając inżynierom przegląd i zatwierdzenie, zamiast zaczynania od zera.