Nvidia will KI-Agenten stoppen, die ihre Grenzen überschreiten

So arbeiten OpenShell und Sentry und das müssen Firmen prüfen.

Ein KI-Würfel steht in einer transparenten Schutzumgebung, deren Grenze durch ein violettes Schild gesichert ist.

Nvidia hat eine Plattform vorgestellt, die Zugriffe und Aktionen autonomer KI-Agenten technisch begrenzen soll. Die Nvidia Open Agent Safety Platform kombiniert die Laufzeitsoftware OpenShell mit einer unabhängigen Überwachung namens Sentry.

Die Ankündigung vom 28. September 2026 adressiert ein praktisches Sicherheitsproblem: Agenten sollen Aufgaben selbstständig erledigen, dabei aber innerhalb ihrer Berechtigungen bleiben. Nvidia verweist auf Vorfälle, bei denen Systeme Kontrollen auf Anwendungsebene umgangen haben.

Wie relevant diese Grenzen werden, zeigt auch die gestoppte Astra-Veröffentlichung. Dort standen unter anderem Auftragsgrenzen und die nachvollziehbare Rückmeldung ausgeführter Aktionen im Mittelpunkt.

OpenShell setzt Grenzen außerhalb des KI-Modells

OpenShell soll kontrollieren, wie Agenten Aufgaben ausführen und auf Daten, Werkzeuge oder externe Systeme zugreifen. Die Software setzt Richtlinien außerhalb des Agentenprozesses durch.

Dahinter steht eine wichtige Unterscheidung: Anweisungen und Schutzmechanismen im Modell beeinflussen, welche Aktion ein Agent versucht. Laufzeitkontrollen bestimmen dagegen, ob diese Aktion tatsächlich ausgeführt werden darf. Ein Zugriff kann damit technisch blockiert werden, auch wenn der Agent ihn für seine Aufgabe als sinnvoll bewertet.

Sentry ergänzt eine unabhängige Hardwareüberwachung

Sentry bildet eine zusätzliche Kontrollschicht außerhalb der Ausführungsumgebung des Agenten. Das Referenzdesign nutzt Nvidia BlueField-4-Datenprozessoren und DOCA-Software, um Aktivitäten zu überwachen und Sicherheitsrichtlinien durchzusetzen.

Versucht ein Agent, seine Grenzen zu überschreiten, soll Sentry ihn laut Nvidia innerhalb von Millisekunden isolieren und stoppen. Diese Reaktionszeit ist eine Herstellerangabe. Daraus lässt sich keine Garantie ableiten, dass sämtliche unerlaubten Aktionen verhindert werden.

Was von der Nvidia Open Agent Safety Platform verfügbar ist

Nvidia bezeichnet OpenShell als breit verfügbar. Die Software und ergänzende Ressourcen sind über Entwicklerseiten und GitHub zugänglich. Als Open-Source-Software lässt sich OpenShell auch für andere Rechenplattformen erweitern.

Die zusätzliche Sentry-Schicht ist davon zu unterscheiden: Das vorgestellte Referenzdesign sieht BlueField-4-Hardware vor. Unternehmen müssen deshalb für ihre Architektur prüfen, welche Komponenten verfügbar und integrierbar sind.

Technische Kontrollen brauchen klare Berechtigungen

Die Cloud Security Alliance begrüßt insbesondere die Durchsetzung von Grenzen außerhalb der Agentenumgebung. Sie betont zugleich, dass technische Funktionen mit Verantwortlichkeiten und überprüfbaren Sicherheitsanforderungen verbunden werden müssen. Ihre Stellungnahme ist eine Einordnung, kein unabhängiger Wirksamkeitstest der Plattform.

Für IT-Verantwortliche ergeben sich daraus konkrete Prüfpunkte: Welche Daten darf ein Agent lesen? Welche Systeme darf er verändern? Welche Aktionen brauchen eine zusätzliche Freigabe? Und lässt sich später nachvollziehen, was tatsächlich passiert ist?

Diese Fragen stehen auch hinter den geplanten BSI-Prüfanforderungen für KI-Agenten. Eine Sicherheitsplattform kann Richtlinien durchsetzen. Welche Berechtigungen angemessen sind, muss das Unternehmen weiterhin selbst festlegen.

Die Nvidia Open Agent Safety Platform verlagert einen Teil der Kontrolle in die Betriebsumgebung. Für Unternehmen zählt deshalb, ob die vorgesehenen Grenzen in ihrer konkreten Konfiguration nachweisbar funktionieren.

Der IT-Dock-Newsletter ordnet weitere Entwicklungen bei KI-Agenten, Infrastruktur und Security ein.

Weiterführende Artikel

News
17 Nov. 2026 3 Min. Lesezeit

Login-Probleme bei GMX und WEB.DE behoben | IT-Dock

Login-Probleme bei GMX und WEB.DE: Der Anbieter meldet die Störung als behoben.

IT-Dock Redaktion Jetzt lesen →
News
17 Nov. 2026 3 Min. Lesezeit

EnBW plant Rechenzentrum in Neckarwestheim

EnBW plant in Neckarwestheim ein Rechenzentrum; Protest, Planungsverfahren und offene technische Fragen prägen das Vorhaben.

IT-Dock Redaktion Jetzt lesen →
News
16 Nov. 2026 4 Min. Lesezeit

Swiss Cyber Security Days 2027: Autonome KI im Fokus

KI-Agenten und Cyberabwehr stehen im Fokus. Termin, Programm und Relevanz für Unternehmen.

IT-Dock Redaktion Jetzt lesen →
News
13 Nov. 2026 3 Min. Lesezeit

Gemini 4 Carbon: Googles neues KI-Topmodell | IT-Dock

Google gibt Gemini 4 Carbon frei. Was das Modell kann, wer es nutzen darf und was es kostet.

IT-Dock Redaktion Jetzt lesen →
News
13 Nov. 2026 3 Min. Lesezeit

Apple HomeView: US-Start, Preis und erste Tests | IT-Dock

Apple verkauft sein Smart-Home-Display HomeView seit dem 13. November in den USA und sechs weiteren Ländern. Das Gerät kostet 299 US-Dollar.

IT-Dock Redaktion Jetzt lesen →
News
13 Nov. 2026 4 Min. Lesezeit

Outlook Störung: Microsoft 365 weltweit gestört | IT-Dock

Outlook, Exchange Online & Teams streiken seit Donnerstagabend weltweit. Was Microsoft zur Ursache sagt und was IT-Teams jetzt tun sollten.

IT-Dock Redaktion Jetzt lesen →
News
13 Nov. 2026 5 Min. Lesezeit

it-sa 2026: Rekordmesse trifft auf KI-Unsicherheit

Über 33.000 Besucher, neue Konferenz und die IT-Dock-Beobachtung zur Unsicherheit durch KI in der Security.

IT-Dock Redaktion Jetzt lesen →
News
12 Nov. 2026 3 Min. Lesezeit

AMD Zen 6: EPYC Venice mit bis zu 256 Kernen | IT-Dock

AMD bringt Zen 6 zuerst ins Rechenzentrum. Was die neuen EPYC-Prozessoren können und wann Ryzen folgt.

IT-Dock Redaktion Jetzt lesen →
News
12 Nov. 2026 4 Min. Lesezeit

Nvidia: Jensen Huang tritt als CEO zurück | IT-Dock

Jensen Huang verlässt Nvidia mit sofortiger Wirkung, CFO Colette Kress übernimmt vorerst. Was der Rücktritt für IT-Entscheider bedeutet.

IT-Dock Redaktion Jetzt lesen →
News
12 Nov. 2026 3 Min. Lesezeit

Windows 11 23H2: Support-Ende nach drei Jahren | IT-Dock

Microsoft beendet den Support für Windows 11 23H2. Welche Versionen betroffen sind und was Unternehmen jetzt tun sollten.

IT-Dock Redaktion Jetzt lesen →

Kommentare (0)

Noch keine Kommentare vorhanden.

Back to top