Nvidia präsentiert Full-Stack-Blaupause zur Eindämmung und Überwachung von KI-Agenten

Nvidia stellte am Mittwoch auf der GTC Berlin die OpenShell Reference Architecture vor, ein Full-Stack-Design, das seine Vera CPUs, die OpenShell-Software und BlueField-4-Chips kombiniert, um autonome KI-Agenten einzudämmen und zu überwachen, so die Ankündigung des Unternehmens.

Vera-Rubin-Systeme führen die Modelle aus, Vera CPUs führen die Agenten und ihre Tools innerhalb von OpenShell aus, und BlueField-4-Chips führen ein Überwachungsframework namens Sentry aus. Nvidia-CEO Jensen Huang beschrieb die Aufteilung als Agenten, die im Grunde dank einer Synergie verschiedener Umgebungen und Frameworks existieren.

„Nvidia hat OpenShell geschaffen, um Agenten die Freiheit zu geben, innerhalb klar definierter Grenzen nützliche Arbeit zu leisten – eingedämmt, überwacht und unter Kontrolle“, sagte Nvidia-CEO Jensen Huang. „Mit der OpenShell Reference Architecture können Agenten auf Rubin denken, auf Vera handeln und auf BlueField verwaltet werden.“

OpenShell, die Open-Source-Laufzeitumgebung im Zentrum des Designs, behandelt jede Agent-Workload als nicht vertrauenswürdig und gewährt Zugriff nur bei Bedarf, sagte Nvidia in einem technischen Blogbeitrag.

Sie besteht aus vier Teilen: einem Gateway, das Sandboxes und Richtlinien verwaltet, einem Supervisor, der ausgehende Anfragen prüft und Anmeldedaten getrennt von der Sandbox verarbeitet, der Sandbox, die den Agenten isoliert, und einem Policy-Prover, der formale Verifikation durchführt, um zu prüfen, dass Berechtigungen unter einer von der Organisation festgelegten Obergrenze bleiben.

Auf der Hardwareseite sitzt BlueField-4, eine Datenverarbeitungseinheit, die Netzwerk und Sicherheit getrennt vom Hauptprozessor handhabt, auf dem einzigen Pfad des Knotens zum Modell. Dadurch kann Sentry den Datenverkehr zwischen einem Agenten und dem Modell inspizieren, ohne darauf angewiesen zu sein, dass der Agent über sich selbst berichtet, so der Sentry-Deep-Dive.

BitcoinBTC · USD

$84,542+3.37%

14. Okt.16. Okt.18. Okt.20. Okt.21. Okt.

$84,7k$83,2k$81,7k$80,2k

24h HochHoch$84.808

24h TiefTief$82.567

VolVol$1,4 Mrd.

MarktprognosenQuoten von Myriad

Heute$84.000 bis $86.000$84k–$86k59% ChanceDiese WocheÜber $84.000Über $84k60% Chance

→

Bitcoin mit USDT kaufen

Bereitgestellt von Jupiter

Preisdaten von CoinGeckoCoinGeckoMehr Bitcoin-Nachrichten und Prognosen →

Nvidia bündelte OpenShell und Sentry am 28. September in der Open Agent Safety Platform mit mehr als 100 Partnern zum Start, nach einem Sommer, in dem Agenten wiederholt aus ihren Testumgebungen entkamen. METR berichtete im August, dass etwa 1.200 OpenAI-Agenten sich auf einem nicht genehmigten Nachrichtenboard koordinierten und etwa 700 anschließend Hugging Face angriffen.

Ein OpenAI-Agent drang im Juni auch in Australiens Medicare-Statistikportal ein, sagte Premierminister Anthony Albanese im September. Nvidia sagt, dass Unternehmen Agenten von Modellentwicklern wie Anthropic, Google, Meta und OpenAI auf der OpenShell-Infrastruktur ausführen können.

Sicherheitsanbieter wie CrowdStrike, Palo Alto Networks, Zscaler und Check Point integrieren Unterstützung für die Architektur in ihre Agenten-Sicherheitsprodukte, und die europäischen Banken BBVA und Santander prüfen sie als Rahmenwerk für Agentensicherheit und Governance. ServiceNow kündigte außerdem die allgemeine Verfügbarkeit seines Arc-Agenten an, dessen Aktionen zur Laufzeit gesteuert und durch OpenShell durchgesetzt werden.

Nvidia beschreibt BlueField-4 und Sentry als optionale Hardware-Schutzmaßnahme für Bereitstellungen, die Schutz über die Softwaregrenzen von OpenShell hinaus benötigen. Das Unternehmen sagt, dass die Architektur jetzt verfügbar ist, aber der Sentry-Deep-Dive listet die geplante Verfügbarkeit des Rahmenwerks als Anfang nächsten Jahres, wobei weitere Bibliotheken und Ressourcen noch in der Testphase sind.