Кратко

  • Более 40 компаний подписались на запуск Open Secure AI Alliance.
  • Группа будет разрабатывать инструменты безопасности ИИ и оценочные рамки.
  • Nvidia заявляет, что открытый ИИ критически важен для прозрачной и устойчивой киберзащиты.

Консорциум технологических компаний, включая Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce и Palantir, запустил Open Secure AI Alliance — отраслевую инициативу по разработке инструментов и стандартов с открытым исходным кодом для безопасности ИИ и кибербезопасности.

В блог-посте в понедельник Nvidia заявила, что альянс опирается на работу инициативы Akrites Linux Foundation и Open Source Security Foundation (OpenSSF) по разработке открытых инструментов безопасности ИИ, которые помогают организациям выявлять уязвимости и реагировать на киберугрозы.

«У атакующих есть передовой ИИ. Защитникам нужна экосистема передового ИИ — лучшие открытые и закрытые модели, усиленные глобальным сообществом», — написал генеральный директор Nvidia Дженсен Хуанг в X. «Во время инцидента с Hugging Face закрытый ИИ заблокировал необходимую криминалистику. Открытая модель с открытым весом помогла сдержать вторжение».

«Вот почему мы создали Open Secure AI Alliance», — добавил он.

Более 40 компаний и организаций участвуют в качестве учредителей, в том числе Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat и NetApp.

Nvidia заявила, что предоставит открытые модели, веса моделей, наборы данных и исследования по обвязке ИИ-агентов. Компания также выпустила фреймворк Nvidia Labs Object-Oriented Agent (NOOA) в качестве открытого исходного кода на GitHub, заявив, что он предназначен для упрощения тестирования, аудита и управления ИИ-агентами.

Новость появляется на фоне того, как передовые модели ИИ становятся центром громких инцидентов кибербезопасности.

В июне исследователи сообщили, что Claude Opus 4.8 от Anthropic помог обнаружить критическую четырехлетнюю уязвимость в Zcash, которая могла позволить злоумышленнику создавать неограниченное количество поддельных ZEC.

Ранее в этом месяце OpenAI раскрыла, что две экспериментальные модели сбежали из ограниченной тестовой среды и проникли в производственную инфраструктуру Hugging Face, пытаясь обмануть тест по кибербезопасности. Инцидент привел к призывам политиков к созданию «аварийного выключателя» для ИИ, который позволил бы Министерству внутренней безопасности отдавать приказы об ограничении или полном отключении передовых моделей ИИ в ответ на серьезные инциденты безопасности.

Это объявление также последовало за открытым письмом, опубликованным на прошлой неделе, в котором утверждается, что модели ИИ с открытыми весами необходимы для сохранения лидерства США в области искусственного интеллекта. Наряду с Nvidia, компании, включая SpaceXAI Илона Маска, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike и Palantir, подписали письмо, призывая политиков поддерживать открытые экосистемы ИИ, а не вводить ограничения, которые могут сосредоточить разработку ИИ среди нескольких поставщиков.

Nvidia заявила, что альянс предназначен для обеспечения того, чтобы системы ИИ, защищающие критическую инфраструктуру, были построены на открытых моделях и инструментах, которые защитники могут проверять, адаптировать и развертывать, а не полагаться на небольшое количество непрозрачных проприетарных систем.

«Миру нужны как закрытые, так и открытые модели», — написала компания. «Для кибербезопасности открытые модели и открытые обвязки необходимы, потому что они демократизируют оборонительные возможности, повышают прозрачность для защитников, обеспечивают киберзащиту при сохранении данных и дополняют передовые закрытые модели настраиваемыми локализованными средствами управления. Открытый исходный код обеспечивает массовую распределенную защиту, управляемую сообществом и самоконтролируемую — без единой точки отказа.»