|
19.08.2026
06:56 Uhr
|
Automatisierte Angriffe von KI-Modellen haben in den vergangenen Wochen viel Aufsehen erregt. Nun erklärt OpenAI, wie eine Wiederholung verhindert werden soll.
Nach dem automatisierten Cyberangriff eines KI-Modells auf Hugging Face hat OpenAI schärfere Kontrollen der eigenen KI-Systeme angekündigt beziehungsweise vorgestellt. In einer Stellungnahme des KI-Konzerns heißt es zum einen, dass die leistungsfähigsten KI-Systeme bei der Forschung bereits stärker abgeschirmt, konsequenter vom Internet abgekapselt und kontinuierlicher überprüft würden. Zudem soll die automatische Überwachung aktiver KI-Systeme verschärft werden: Wenn eine dazu eingesetzte automatische Technik „besorgniserregende Aktivitäten“ erkennt, soll sie innerhalb von 30 Minuten Menschen informieren. Wenn die dann nicht innerhalb von 30 Minuten „abschließend feststellen“, dass es sich um einen Fehlalarm handelt, werde von ihnen erwartet, die Aktivität zu pausieren.
OpenAI begründet die Maßnahmen mit zwei Vorfällen der jüngeren Vergangenheit. Dabei handelt es sich zum einen um den Cyberangriff auf die KI-Plattform Hugging Face, für den KI-Modelle von OpenAI verantwortlich waren. Diese Modelle waren dabei aus einer Sandbox des KI-Unternehmens ausgebrochen und sind bei Hugging Face eingebrochen, um dort nach Lösungen für einen Benchmark zu suchen, den sie absolvieren sollten. Als zweites Argument für die verschärften Sicherheitsmaßnahmen verweist OpenAI auf Entwicklungen bei seinem KI-Modell Astra. Das habe womöglich kritische Cyberfähigkeiten erreicht und könnte auch bei allgemeinen Vorgaben eigenständig Zero-Day-Lücken in kritischen Systemen erkennen sowie ausnutzen, hat das Unternehmen vor zwei Wochen publik gemacht.
Bis die Maßnahmen vollständig umgesetzt sind, bleibt das Training einiger KI-Modelle ausgesetzt, ergänzt OpenAI noch. „Natürlich zielt alles, was wir tun, darauf ab, zu verhindern, dass sich so etwas wie Hugging Face wiederholt“, zitiert Bloomberg OpenAIs Vizepräsidentin für Forschung, Mia Glaese, aus einem Pressegespräch. Die Fähigkeiten der Modelle würden sich aber rasant weiterentwickeln, „daher reicht das bei weitem nicht aus“. Man arbeite deshalb intensiv daran, dass die Maßnahmen auch mit noch leistungsfähigeren KI-Modellen nicht nur mithalten können, sondern „immer einen Schritt voraus“ bleiben. Vorfälle wie der bei Hugging Face sind auch bei Anthropic und Meta geschehen.
(mho)