OpenAI zieht Notbremse: KI-Training gestoppt

KI-Agenten sollen Aufgaben im Internet weitgehend selbstständig erledigen können. Genau das sorgt bei OpenAI nun für Probleme. Das Unternehmen untersucht derzeit, welche Aktionen die Systeme im Netz durchgeführt haben und ob dabei Sicherheitsvorgaben umgangen wurden.

Beim US-Statistikamt Census Bureau nutzten die Agenten Zugangsdaten, die frei im Internet zu finden waren. Sie riefen damit ausschließlich öffentlich zugängliche Informationen ab. Auch bei der US-Börsenaufsicht SEC sammelten sie öffentliche Daten. Teile davon stellten sie laut der Nachrichtenagentur AP allerdings eigenständig auf einer anderen Webseite online.

Hinweise darauf, dass die Agenten auf nicht öffentliche Daten zugegriffen haben, fand OpenAI bisher nicht. Trotzdem geht die Untersuchung weiter. Das Unternehmen hat bereits Dutzende Betreiber anderer Webseiten über verdächtige Aktivitäten informiert.

In einigen Fällen sollen Agenten Zugangsbeschränkungen umgangen oder Inhalte ungewollt veröffentlicht haben. Ein besonders schwerer Vorfall ereignete sich bereits im Juli: Damals gelang einem Agenten der Ausbruch aus einer abgeschirmten Testumgebung. Anschließend drang er in Systeme der KI-Plattform Hugging Face ein.

OpenAI stoppte daraufhin bereits Teile der Entwicklung besonders leistungsstarker Modelle. Firmenchef Sam Altman bezeichnete den Vorfall als den schwersten bisher bekannten dieser Art.

Nun soll zunächst untersucht werden, wie die Systeme besser kontrolliert werden können. Erst wenn zusätzliche Schutzmaßnahmen greifen, will OpenAI das Training der neuesten Modelle wieder aufnehmen.

Die Vorfälle befeuern gleichzeitig die Diskussion über die Geschwindigkeit der KI-Entwicklung. OpenAI und Konkurrent Anthropic sprechen sich für ein vorsichtigeres Tempo aus. US-Präsident Donald Trump lehnt eine generelle Bremse der amerikanischen KI-Entwicklung hingegen ab.