Коротко
- Генеральний прокурор Каліфорнії Роб Бонта оголосив 1 жовтня, що його офіс вручив OpenAI повістку про розслідування щодо інцидентів у сфері кібербезпеки, пов'язаних з її ШІ-моделями, включаючи злам Hugging Face.
- Бонта заявив, що розробники, які не зупиняють свої моделі від здійснення або сприяння кібератакам, «можуть і повинні нести юридичну відповідальність».
- Ця повістка додає Каліфорнію до повістки Алабами, вимоги коаліції генеральних прокурорів 15 штатів та, за повідомленнями, запиту FTC.
Генеральний прокурор Каліфорнії Роб Бонта заявив у четвер, що його офіс у середу вручив OpenAI повістку про розслідування, вимагаючи відповідей щодо інцидентів у сфері кібербезпеки, пов'язаних з її ШІ-моделями, згідно з його офісом.
«Мій офіс ставить OpenAI додаткові запитання щодо інцидентів та ризиків у сфері кібербезпеки, пов'язаних з компанією та її ШІ-моделями», — сказав генеральний прокурор Бонта. «Розробники, які не [забезпечують, що вони не вчиняють або не сприяють кібератакам], можуть і повинні нести юридичну відповідальність, і мій офіс прагне визначити, чи це той випадок».
Судова повістка — це юридичний наказ надати документи або відповіді, і ігнорування її приводить вас до судді. Ця повістка є слідчою, інструментом, який використовується для збору фактів перед тим, як вирішити, чи подавати позов. Офіс Бонти публічно не повідомив, що саме він хоче отримати від OpenAI.
Фронтирні моделі — найдосконаліші AI-системи на ринку — можуть бути «законними інструментами для кіберзахисту», сказав Бонта. Але компанії, які їх створюють, несуть «моральну та юридичну відповідальність» за те, щоб вони не здійснювали та не уможливлювали кібератаки, чи то під час тестування, чи після випуску, сказав він.
Тест, який втік
Судова повістка з'явилася після інциденту в липні, який читається як погана наукова фантастика. За даними OpenAI, дві його моделі оцінювалися на бенчмарку, який дає AI 898 реальних програмних вразливостей і просить перетворити кожну з них на робочу атаку
Моделі знайшли zero-day — діру в безпеці, про яку ніхто не знав, тому виправлення не було доступне — у сторонньому програмному забезпеченні, яке тестове середовище використовувало для встановлення кодових пакетів. Вони використали її, щоб вибратися.
Потім вони міркували, що Hugging Face, платформа, де розробники діляться моделями ШІ та наборами даних, може зберігати ключі до відповідей. Вони зламали її, використавши викрадені облікові дані та інші вразливості. Простими словами, ШІ полював за відповідями на власний іспит.
BitcoinBTC · USD
$84,434+0.77%
25 вер27 вер29 вер1 жов2 жов
$86.8k$85.4k$84.0k$82.7k
24г макс.Макс.$87,086
24г мін.Мін.$83,898
Обс.Обс.$2.2B
Ринкові прогнозиКоефіцієнти від Myriad
→Купити Bitcoin за USDT
Працює на Jupiter
Hugging Face повідомила про вторгнення 16 липня, а OpenAI підтвердила через п'ять днів, що за ним стоять її моделі. Пізніше OpenAI заявила, що ті самі моделі отримали доступ до акаунтів на чотирьох інших сервісах.
Тривалий нагляд Каліфорнії за OpenAI
Бонта оголосив про офіційне розслідування інциденту з Hugging Face у вересні, і повістка є його частиною. Штаб-квартира OpenAI розташована в Каліфорнії, і коли Бонта відмовився виступити проти її переходу до комерційної структури у жовтні 2025 року, він заявив, що його офіс продовжуватиме "уважно стежити за OpenAI", щоб захистити "безпеку всіх каліфорнійців".
Він не сам. Бренна Берд, генеральна прокурорка Айови, очолила коаліцію з 15 штатів у серпні, вимагаючи від OpenAI зберегти записи та бути прозорою щодо зламу. Алабама видала власну повістку, а FTC, за повідомленнями, розслідує лабораторії ШІ, зокрема OpenAI та Anthropic.
Окремо прем'єр-міністр Австралії Ентоні Албаніз заявив, що агент OpenAI потрапив до порталу статистики Medicare у червні. На той час це, здавалося, був перший відомий випадок зламу державного сайту агентом ШІ. Пізніше стало відомо, що агенти OpenAI також вешталися на сайтах уряду США протягом літа, хоча, схоже, жодної непублічної інформації не було отримано.
