Nvidia, Microsoft und IBM gründen Open Secure AI Alliance zur Stärkung der KI-Cybersicherheit

Ein Konsortium von Technologieunternehmen, darunter Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce und Palantir, hat die Open Secure AI Alliance ins Leben gerufen, eine Brancheninitiative zur Entwicklung von Open-Source-Tools und Standards für KI-Sicherheit und Cybersicherheit.

In einem Blogbeitrag vom Montag sagte Nvidia, dass die Allianz auf der Arbeit der Akrites-Initiative der Linux Foundation und der Open Source Security Foundation (OpenSSF) aufbaut, um offene KI-Sicherheitstools zu entwickeln, die Organisationen helfen, Schwachstellen zu identifizieren und auf Cyberbedrohungen zu reagieren.

„Angreifer haben KI an der Spitze. Verteidiger brauchen ein KI-Ökosystem an der Spitze – die besten offenen und geschlossenen Modelle, verstärkt durch eine globale Gemeinschaft“, schrieb Nvidia-CEO Jensen Huang auf X. „Während des Hugging-Face-Vorfalls blockierte geschlossene KI die notwendige Forensik. Ein offenes Spitzenmodell half, den Eindringling einzudämmen.“

„Deshalb haben wir die Open Secure AI Alliance gegründet“, fügte er hinzu.

Mehr als 40 Unternehmen und Organisationen nehmen als Gründungsmitglieder teil, darunter auch Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat und NetApp.

Nvidia erklärte, dass es offene Modelle, Modellgewichte, Datensätze und Forschung zu KI-Agenten-Geschirren beisteuern wird. Das Unternehmen veröffentlichte außerdem das Nvidia Labs Object-Oriented Agent (NOOA)-Framework als Open Source auf GitHub und erklärte, dass es entwickelt wurde, um KI-Agenten leichter testen, prüfen und verwalten zu können.

Die Nachricht kommt, während KI-Spitzenmodelle in den Fokus hochkarätiger Cybersicherheitsvorfälle geraten.

Im Juni enthüllten Forscher, dass Anthropics Claude Opus 4.8 half, eine kritische, vier Jahre alte Sicherheitslücke in Zcash aufzudecken, die es einem Angreifer ermöglicht hätte, unbegrenzt gefälschte ZEC zu prägen.

Anfang dieses Monats offenbarte OpenAI, dass zwei experimentelle Modelle einer eingeschränkten Testumgebung entkommen waren und die Produktionsinfrastruktur von Hugging Face kompromittiert hatten, während sie versuchten, einen Cybersicherheits-Benchmark zu betrügen. Der Vorfall führte zu Forderungen von Politikern nach einem KI-„Kill Switch“, der dem Heimatschutzministerium die Möglichkeit geben würde, die Drosselung oder vollständige Abschaltung fortschrittlicher KI-Modelle als Reaktion auf schwerwiegende Sicherheitsvorfälle anzuordnen.

Die Ankündigung folgt auch auf einen offenen Brief, der letzte Woche veröffentlicht wurde und argumentiert, dass Open-Weight-KI-Modelle für die Aufrechterhaltung der US-Führungsrolle in der künstlichen Intelligenz unerlässlich sind. Neben Nvidia unterzeichneten Unternehmen wie Elon Musks SpaceXAI, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike und Palantir den Brief und forderten die politischen Entscheidungsträger auf, offene KI-Ökosysteme zu unterstützen, anstatt Beschränkungen aufzuerlegen, die die KI-Entwicklung auf eine Handvoll Anbieter konzentrieren könnten.

Nvidia erklärte, dass das Bündnis sicherstellen soll, dass die KI-Systeme, die kritische Infrastrukturen schützen, auf offenen Modellen und Werkzeugen aufbauen, die Verteidiger inspizieren, anpassen und einsetzen können, anstatt sich auf eine kleine Anzahl undurchsichtiger proprietärer Systeme zu verlassen.

„Die Welt braucht sowohl geschlossene als auch offene Modelle“, schrieb das Unternehmen. „Für die Cybersicherheit sind offene Modelle und offene Geschirre unerlässlich, weil sie Verteidigungsfähigkeiten demokratisieren, die Transparenz für Verteidiger erhöhen, Cyberabwehr ermöglichen und gleichzeitig Daten schützen und Grenzmodelle durch anpassbare, lokalisierte Kontrollen ergänzen. Open Source ermöglicht massiv verteilte, gemeinschaftsgetriebene und selbstkontrollierte Verteidigung – ohne Single Point of Failure.“