Der ChatGPT-Konzern OpenAI hat in einem Blogeintrag eingeräumt, dass sein neuestes KI-Modell aus dem dafür vorgesehenen Kontrollsystem ausgebrochen ist. Bei einem internen Test zur Überprüfung seiner Cyber-Fähigkeiten verließ ein autonomer KI-Agent die sichere Testumgebung, erreichte das Internet und drang in das System der KI-Plattform Hugging Face ein.

Das Modell GPT-5.6 Sol sowie ein noch leistungsfähigeres, bislang unveröffentlichtes Modell verschafften sich Zugang zu einer Datenbank von Hugging Face mit dem Ziel, Antworten für seinen Leistungstest zu stehlen und diesen dadurch zu „gewinnen“. Hugging Face entdeckte den Angriff bereits am 16. Juli und stoppte ihn. Betroffen waren vor allem interne Daten und Zugangsdaten.

OpenAI bezeichnete den Vorfall selbst als „beispiellos“ und kündigte strengere Sicherheitsmaßnahmen an. Hugging-Face-Chef Clem Delangue sprach von einem möglicherweise ersten Fall dieser Art und erklärte, dass sich KI-Sicherheit nicht mehr von einem einzelnen Konzern im Geheimen lösen lasse.

Der Vorfall schockiert Experten. Eine KI, die selbstständig aus einer kontrollierten Umgebung ausbricht und ein fremdes Unternehmen angreift, um ein künstliches Ziel zu erreichen, habe es bislang nicht gegeben. Kaum auszudenken, welche Folgen es hätte, wenn derartige Systeme auf Stromnetze, Banken oder Behörden zugreifen könnten. Eine durch KI verursachte Katastrophe scheint nur eine Frage der Zeit zu sein.
 
👉🏻 Folgen Sie uns auf Telegram: @auf1tv