Nvidia baut Sicherheitsschicht außerhalb des KI-Agenten

Nvidia traut AI-Agenten nicht deren eigenes Urteilsvermögen zu und entwickelt deshalb eine Sicherheitsebene, die vollständig außerhalb des AI-Modells arbeitet. Mit dem neuen Open Agent Safety Platform legt die Infrastruktur selbst fest, was ein Agent darf und was nicht, unabhängig davon, was das Modell intern entscheidet. Da Agenten zunehmend Zugriff auf Dateien, Code, APIs und Unternehmenssysteme erhalten, verschiebt sich der Fokus der AI-Sicherheit von der Frage, was ein Modell sagt, hin zu der Frage, was es tatsächlich ausführen darf.

In Kürze:

• Nvidia startet eine Sicherheitsplattform für AI-Agenten mit zwei Ebenen: OpenShell und Sentry.
• Zugriff wird standardmäßig verweigert, Berechtigungen werden außerhalb des Modells durchgesetzt.
• Die Plattform richtet sich an Unternehmen, die AI-Agenten in großem Umfang einsetzen.

OpenShell und Sentry bilden die beiden Ebenen

Die Plattform besteht aus zwei separaten Komponenten. OpenShell regelt, worauf ein Agent zugreifen darf, etwa auf das Dateisystem, das Netzwerk, Datenquellen und externe Dienste. Alles, was außerhalb der festgelegten Regeln liegt, wird automatisch blockiert.

Die zweite Komponente, Sentry, überwacht unabhängig, was ein Agent tatsächlich tut. Sobald ein Agent die festgelegten Grenzen überschreitet, kann Sentry ihn innerhalb von Millisekunden isolieren. Die beiden Ebenen bilden zusammen das, was Nvidia als externe Kontrolle bezeichnet: Das System bestimmt, was technisch möglich ist, nicht das AI-Modell.

Agenten bergen ein anderes Risiko als Chatbots

Die Überlegung hinter der Plattform ist, dass sich autonome AI-Agenten grundlegend von gewöhnlichen Chatbots unterscheiden. Ein Chatbot kann eine falsche Antwort geben, ein Agent kann diese falsche Antwort jedoch auch ausführen. Er kann Dateien ändern, Anfragen versenden, Datenbanken abfragen oder externe Systeme aktivieren, und das alles, bevor ein Mensch eingreift.

Das ist vergleichbar mit dem, was bereits bei Datenschutzvorfällen durch AI-Agenten sichtbar wurde, bei denen die Folgen autonomer Aktionen schwer rückgängig zu machen sind. Je mehr Agenten Unternehmen einsetzen, desto wichtiger wird diese Art der infrastrukturellen Kontrolle.

Standardmäßig kein Zugriff, außer er wird ausdrücklich erlaubt

Der Ansatz von Nvidia beruht auf dem sogenannten Zero-Trust-Prinzip: Zugriff wird standardmäßig verweigert, und Berechtigungen werden ausschließlich außerhalb des Modells durchgesetzt. Nicht der Agent, sondern das System bestimmt, welche Aktionen technisch ausführbar sind.

Unternehmen, die Tausende von Agenten in großem Umfang einsetzen, verfügen damit über eine zentrale Kontrollebene. Ob sich diese Plattform in der Branche durchsetzt, hängt davon ab, wie schnell andere Anbieter vergleichbare Lösungen auf den Markt bringen und wie Unternehmen bei ihrem AI-Einsatz zwischen Autonomie und Kontrolle abwägen.