Die Warnung ist deutlich: Die großen Entwickler künstlicher Intelligenz handelten unverantwortlich »und spielen mit unseren Leben«, schreibt ein Forscher der KI-Firma Anthropic, der nun seinen Rücktritt verkündet hat.

Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Onlineplattform X. Künstliche Intelligenz würde dann »alles hacken können« und die Möglichkeit haben, sich »Zugang zu echter Macht und Ressourcen« zu verschaffen.

»Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte«, warnte Coxon. Dem »Wall Street Journal«  sagte der 27-jährige Brite, nach den »aggressivsten Szenarien« könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.

»Extreme Vorsicht«

Warnungen vor den wachsenden Fähigkeiten von KI sorgen immer wieder für Schlagzeilen – und dienen in der Branche mitunter auch als Marketinginstrument, weil sie für reichlich Aufmerksamkeit sorgen. Doch zuletzt häufen sich kritische Stimmen von Experten.

So mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, »extreme Vorsicht« an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten künstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.

Der OpenAI-Manager umschrieb ausführlicher, warum moderne KI-Systeme schwerer zu kontrollieren seien. Man lasse diese künstliche Intelligenz eher »wachsen«, statt sie zu designen. KI-Systeme seien ein Produkt komplexer Prozesse. »Unsere groß angelegten Trainingsläufe sind Experimente – und wir sind manchmal überrascht von ihren Ergebnissen.« Und je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es, zu verstehen, zu was sie in der Lage seien.

Zugleich sieht Pachocki ein Argument für die Fortsetzung rapider Forschung: künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.

Hacking-Attacken als Alarmsignal

Ein Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit künstlicher Intelligenz, die selbstständig Aufgaben für die Nutzer erfüllen sollen.

Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.

Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Frühjahr eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht hatten. Ein aktueller Schutzmechanismus der KI-Entwickler ist, dass die Modelle mit künstlicher Intelligenz ihr Handeln in menschlicher Sprache erklären müssen. Die KI-Agenten nutzten die Kommunikationsmöglichkeit in Testläufen, um sich über Notizen auf der Wiki-Seite untereinander zu Antworten auf gestellte Fragen auszutauschen.