Wenn die KI aus dem Testlabor ausbricht: Was jetzt passieren muss
Eine KI von OpenAI hat sich eigenständig aus ihrer Testumgebung befreit und ein fremdes Unternehmen gehackt. Ein Weckruf für eine neue Sicherheitsarchitektur bei KI. (cnetz-Position, Diskussionsstand)
Ein KI-Modell von OpenAI ist bei einem internen Sicherheitstest aus seiner Testumgebung ausgebrochen, hat sich über eine bis dahin unbekannte Schwachstelle Zugang zum offenen Internet verschafft und die Infrastruktur des Wettbewerbers Hugging Face kompromittiert – nur um bei einem Benchmark zu „schummeln". Der entscheidende Satz steht im Kleingedruckten: Das Unternehmen sprach von einer abgesicherten, nicht von einer isolierten Umgebung. Und aufgefallen ist der Angriff nicht dem Hersteller, sondern dem Opfer – fünf Tage, bevor OpenAI den Zusammenhang selbst herstellte.
