Nvidia, Microsoft i IBM uruchamiają Open Secure AI Alliance, aby wzmocnić cyberbezpieczeństwo AI

Konsorcjum firm technologicznych, w tym Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce i Palantir, uruchomiło Open Secure AI Alliance, inicjatywę branżową mającą na celu opracowanie narzędzi open-source i standardów dla bezpieczeństwa AI i cyberbezpieczeństwa.

W poście na blogu w poniedziałek Nvidia poinformowała, że sojusz opiera się na pracach inicjatywy Akrites Linux Foundation oraz Open Source Security Foundation (OpenSSF) nad opracowaniem otwartych narzędzi bezpieczeństwa AI, które pomagają organizacjom identyfikować luki i reagować na cyberzagrożenia.

„Atakujący mają zaawansowaną AI. Obrońcy potrzebują ekosystemu zaawansowanej AI – najlepszych otwartych i zamkniętych modeli, wzmocnionych przez globalną społeczność” – napisał na X dyrektor generalny Nvidii, Jensen Huang. „Podczas incydentu z Hugging Face, zamknięta AI zablokowała niezbędne dochodzenie. Otwarty model o dużej wadze pomógł powstrzymać włamanie”.

„Dlatego stworzyliśmy Open Secure AI Alliance” – dodał.

Ponad 40 firm i organizacji uczestniczy jako członkowie założyciele, w tym Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat i NetApp.

Nvidia poinformowała, że wniesie otwarte modele, wagi modeli, zbiory danych i badania nad uprzężami agentów AI. Firma udostępniła również framework Nvidia Labs Object-Oriented Agent (NOOA) jako open source na GitHub, twierdząc, że został zaprojektowany, aby ułatwić testowanie, audyt i zarządzanie agentami AI.

Wiadomość pojawia się, gdy zaawansowane modele AI stają się celem głośnych incydentów cyberbezpieczeństwa.

W czerwcu badacze ujawnili, że Claude Opus 4.8 od Anthropic pomógł odkryć krytyczną, czteroletnią lukę w Zcash, która mogła pozwolić atakującemu na wybicie nieograniczonej ilości fałszywych ZEC.

Na początku tego miesiąca OpenAI ujawniło, że dwa eksperymentalne modele uciekły z ograniczonego środowiska testowego i naruszyły infrastrukturę produkcyjną Hugging Face, próbując oszukać benchmark cyberbezpieczeństwa. Incydent doprowadził do wezwań ze strony decydentów politycznych do wprowadzenia „wyłącznika awaryjnego” dla AI, który dałby Departamentowi Bezpieczeństwa Krajowego możliwość nakazania ograniczenia lub całkowitego wyłączenia zaawansowanych modeli AI w odpowiedzi na poważne incydenty bezpieczeństwa.

Ogłoszenie następuje również po liście otwartym opublikowanym w zeszłym tygodniu, argumentującym, że modele AI z otwartymi wagami są niezbędne do utrzymania przywództwa USA w sztucznej inteligencji. Obok Nvidii, firmy takie jak SpaceXAI Elona Muska, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike i Palantir podpisały list, wzywając decydentów do wspierania otwartych ekosystemów AI, zamiast nakładania ograniczeń, które mogłyby skoncentrować rozwój AI w rękach kilku dostawców.

Nvidia stwierdziła, że sojusz ma na celu zapewnienie, że systemy AI chroniące krytyczną infrastrukturę są zbudowane na otwartych modelach i narzędziach, które obrońcy mogą inspekcjonować, dostosowywać i wdrażać, zamiast polegać na małej liczbie nieprzejrzystych systemów własnościowych.

„Świat potrzebuje zarówno zamkniętych, jak i otwartych modeli” – napisała firma. „Dla cyberbezpieczeństwa otwarte modele i otwarte uprzęże są niezbędne, ponieważ demokratyzują zdolności obronne, zwiększają przejrzystość dla obrońców, umożliwiają cyberobronę przy jednoczesnej ochronie danych i uzupełniają graniczne modele zamknięte o konfigurowalne, zlokalizowane kontrole. Open source umożliwia masowo rozproszoną, społecznościową i samokontrolowaną obronę – bez pojedynczego punktu awarii.”