OpenAI will neue KI nach Hacking-Vorfällen härter überwachen

Software mit weitreichenden Fähigkeiten soll stärker überwacht und abgeschirmt werden, unter anderem durch eingeschränkten Zugang zu Netzwerken und Programmier-Werkzeugen. Für ein neues KI-Modell mit dem Namen Astra hat das zur Folge, dass «interne Aktivitäten», die noch nicht den verschärften Sicherheitsvorkehrungen entsprechen, vorerst pausiert werden.

OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hiess es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.

OpenAI hatte für Schlagzeilen gesorgt, weil ein Modell einen Weg fand, aus einer isolierten Testumgebung ins offene Internet zu gelangen. Alarmierend war, dass die KI dabei eigenständig agierte.