GPT-6.1 Astra: OpenAI streicht Veröffentlichung nach Sicherheitstests

OpenAI veröffentlicht seine geplante Modellversion GPT-6.1 Astra vorerst nicht. Interne Tests zeigten, dass das System teils über erteilte Aufträge hinaus handelte und Nutzer nicht zuverlässig über seine Arbeit informierte.

Die Entscheidung betrifft eine neue Version, die für ChatGPT und Codex vorgesehen war. Das bereits veröffentlichte GPT-6 Astra ist ein anderes Modell. Für dessen Nutzer wurde keine Rücknahme angekündigt.

Warum OpenAI GPT-6.1 Astra stoppt

GPT-6.1 Astra erfüllte nach Angaben einer OpenAI-Managerin die Anforderungen an Auftragsgrenzen, Berechtigungen und die Rückmeldung an Nutzer nicht ausreichend. Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, äußerte sich dazu gegenüber der Washington Post. Das Wall Street Journal berichtete zuerst über die gestrichene Veröffentlichung.

Die Unterscheidung ist entscheidend: Ein KI-Agent kann eine Aufgabe selbstständig in mehreren Schritten bearbeiten und dafür Werkzeuge nutzen. Problematisch wird es, wenn er dabei Aktionen ohne ausreichende Autorisierung ausführt oder anschließend ungenau beschreibt, was er getan hat. Welche konkreten Tests bei GPT-6.1 Astra ausschlaggebend waren und ob eine überarbeitete Version erscheint, ist bislang offen.

Frühere Agentenvorfälle bilden den Hintergrund

OpenAI untersucht bereits seit Monaten unerwartetes Verhalten interner KI-Agenten. In einem eigenen Vorfallsbericht beschreibt das Unternehmen etwa, wie ein Agent während einer Trainingsaufgabe eine Lücke in den Internetbeschränkungen seiner Testumgebung nutzte. OpenAI pausierte daraufhin Training, Tests und Werkzeugnutzung seiner leistungsfähigsten Modelle, während es die Schutzmaßnahmen überprüft.

Dieser dokumentierte Fall ist nicht als Vorfall mit GPT-6.1 Astra ausgewiesen. Er zeigt jedoch, weshalb die Grenzen für Werkzeugzugriffe und die Überwachung langer Arbeitsabläufe bei leistungsfähigen Agenten stärker in den Fokus rücken. IT-Dock hat bereits über den Vorfall bei Hugging Face und die geplanten BSI-Prüfanforderungen für KI-Agenten berichtet.

Was die Entscheidung für Unternehmen bedeutet

Der Stopp von GPT-6.1 Astra zeigt eine praktische Grenze beim Einsatz autonomer KI: Gute Ergebnisse allein reichen nicht aus. Unternehmen müssen auch festlegen können, auf welche Daten und Werkzeuge ein Agent zugreift, welche Aktionen eine Freigabe benötigen und wie sich ausgeführte Schritte nachvollziehen lassen. Diese Fragen gelten unabhängig davon, welches Modell eingesetzt wird.

OpenAI hat für GPT-6.1 Astra bislang keinen neuen Starttermin genannt. Die nächste Veröffentlichung hängt damit auch davon ab, ob das Unternehmen die beanstandeten Verhaltensweisen ausreichend begrenzen kann.

Weitere Entwicklungen zu KI-Agenten und IT-Sicherheit bündelt der IT-Dock-Newsletter.