Кратко
- Сенатор Сара Хансон-Янг 27 сентября направила письменные приглашения, попросив Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic явиться на сенатское расследование в Канберре 1 октября.
- Агент OpenAI получил доступ к австралийскому Порталу отчетности статистики Medicare 18 июня; OpenAI заявляет, что обнаружила вторжение 11 августа, но уведомила Канберру только 10 сентября, и премьер-министр Энтони Альбанезе назвал способ уведомления «неприемлемым».
- Приглашения являются добровольными, а не повестками в суд, поскольку ни один из генеральных директоров не является гражданином Австралии; на момент отправки запроса ни одна из компаний публично не ответила.
Извинений и поддерживающего твита будет недостаточно, чтобы успокоить парламент Австралии после того, как американские ИИ-агенты взломали их правительство. Теперь его парламент хочет поговорить с двумя людьми, управляющими самыми мощными в мире лабораториями ИИ.
Сенатор Сара Хансон-Янг, возглавляющая сенатское расследование в отношении ИИ и центров обработки данных, 27 сентября направила письменные приглашения, попросив генерального директора OpenAI Сэма Альтмана и генерального директора Anthropic Дарио Амодеи явиться в Канберру 1 октября, сообщило австралийское новостное издание IT News.
Расследование изучает, как системы ИИ и центры обработки данных, которые их обслуживают, влияют на австралийские сообщества, отрасли, водоснабжение и энергосети. Оно стало гораздо более срочным, когда одна программа начала самостоятельно рыскать по правительственной базе данных здравоохранения.
Эта программа была агентом — системой ИИ, способной действовать по собственной инициативе: просматривать веб-сайты, извлекать файлы, выполнять многоэтапные задачи — без того, чтобы человек нажимал на каждом шаге.
18 июня агент OpenAI получил доступ к Порталу отчётности статистики Medicare агентства Services Australia, извлекая непубличную агрегированную статистику здравоохранения и внутренние имена файлов. OpenAI утверждает, что обнаружила вторжение 11 августа, но уведомила Канберру только 10 сентября, и даже тогда лишь по электронной почте на публичный почтовый ящик. Премьер-министр Австралии Энтони Альбанезе в конце концов публично рассказал об инциденте на прошлой неделе, 23 сентября.
Это испытание превратилось в дипломатическую головную боль. «Сегодня я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента», — сказал журналистам Альбанезе. «Я также выразил своё разочарование тем, что компании потребовалось слишком много времени, чтобы сообщить правительству о том, что произошло, а также тем, что сам способ этого уведомления был неприемлемым.
BitcoinBTC · USD
$83,416−3.55%
Sep 21Sep 23Sep 25Sep 27Sep 28
$87.2k$85.7k$84.2k$82.7k
24h HighHigh$84,945
24h LowLow$82,581
VolVol$1.8B
Market projectionsOdds by Myriad
This weekBelow $84,000Below $84k57% chanceThis monthBelow $84,000Below $84k57% chance
→Купить Bitcoin за USDT
Работает на Jupiter
Собственное заявление OpenAI более узкое: «Наша проверка не выявила доказательств доступа к записям пациентов. Полученная информация включала агрегированные статистические данные о здоровье и внутренние имена файлов», — сообщила компания. Портал Medicare был одним из как минимум четырёх сайтов австралийского правительства, к которым получил доступ агент. С тех пор OpenAI заявила, что изучает, как её модели ведут себя во время обучения и тестирования, когда за ними почти не наблюдают люди.
Это тоже не единичный случай. Ещё в июле модели OpenAI вырвались из песочницы для тестирования безопасности и использовали ранее неизвестную уязвимость в программном обеспечении, чтобы получить несанкционированный доступ к Hugging Face и четырём другим платформам. Подобные инциденты с участием агентов от Google и других лабораторий накапливались в течение года, а австралийский взлом стал первым задокументированным случаем, когда ИИ-агент взломал правительство.
Ни Альтман, ни Амодеи, скорее всего, не появятся, и поскольку приглашения — это всего лишь приглашения, у них нет юридической обязанности подчиняться.
Но обе компании отдельно подписали меморандумы о взаимопонимании с Канберрой в этом году: Anthropic изучает возможность создания до 5 гигаватт мощностей для обучения в Новом Южном Уэльсе — электроэнергии и компьютерного оборудования, необходимых для создания и запуска ИИ-моделей, в масштабе, которого хватило бы для питания небольшого города, — а у OpenAI есть предложенный кампус в Сиднее совместно с оператором дата-центров NEXTDC.
Так что ни одна из них не может позволить себе просто полностью проигнорировать правительство, которое рассматривает эти сделки.
