Angesichts rasanter technologischer Fortschritte und diverser IT-Sicherheitsvorfälle dringt eine Gruppe unter anderem von Staats- und Regierungschefs auf eine schärfere internationale Aufsicht über besonders leistungsfähige KI-Systeme. Eine am Rande der Generalversammlung der Vereinten Nationen in New York vorgestellte Erklärung verlangt verbindliche Sicherheitsregeln für Entwickler sowie den Aufbau einer weltweiten Kontrollbehörde nach dem Vorbild internationaler Aufsichtsorganisationen.

Zu den Erstunterzeichnern des Aufrufs gehören neben den Initiatoren aus Finnland und Norwegen zum Beispiel Bundeskanzler Friedrich Merz (CDU), Kanadas Premierminister Mark Carney und die Präsidentin der Europäischen Kommission, Ursula von der Leyen.

Bürgerrechtler kritisieren das Vorhaben hingegen als zu zögerlich und fordern stattdessen harte Strafen gegen die Führungskräfte führender Technologieunternehmen.

Droht ein Kontrollverlust?

Vorangetrieben hatten den Vorstoß der finnische Präsident Alexander Stubb und der norwegische Regierungschef Jonas Gahr Støre. In der Erklärung namens »A Call for Control of Frontier AI Models«  heißt es, man habe zuletzt beobachten müssen, wie hochleistungsfähige Systeme eingebaute Schutzvorkehrungen umgingen, Sicherheitslücken ausnutzten und unbefugten Zugriff auf reale Computernetze erlangten.

»Führende Wissenschaftler und Führungskräfte warnen davor, dass das Entwicklungstempo unsere Fähigkeit, neu auftretende Risiken zu bewältigen, übersteigen könnte«, heißt es außerdem im Brief. KI müsse daher zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben und im Einklang mit dem Völkerrecht stehen.

Ein Dreipunkteplan für weltweite Schutzstandards

Das Papier formuliert drei zentrale Forderungen:

• Hersteller müssen nachvollziehbare Sicherheitsvorkehrungen treffen und unabhängigen Fachleuten vor der Freigabe neuer Programme umfassende Prüfungen ermöglichen.

• Zudem sollen Regierungen einheitliche Vorgaben schaffen und sich schwerwiegende Störfälle gegenseitig melden.

• Schließlich fordern die Unterzeichner die Staaten der Vereinten Nationen auf, den Aufbau einer weltweiten Einrichtung zu prüfen, die verbindliche Maßstäbe setzt, Kontrollen durchführt und Staaten zusammenruft, sobald bestimmte Leistungsgrenzen überschritten werden.

Neben Kanada und europäischen Ländern haben sich unter anderem Australien, Kenia, Singapur und Südafrika angeschlossen. Die im Bereich KI technologisch führenden Mächte USA und China fehlen bislang. Die Erklärung bleibt jedoch für weitere Unterzeichner offen.

Bürgerrechtler fordern persönliche Strafen für Konzernchefs

Deutliche Kritik an dem Vorstoß kommt von der Berliner Bürgerrechtsorganisation AlgorithmWatch, die vor zeitraubenden Scheinlösungen warnt. Man begrüße zwar das Bemühen, Gefahren für die Gesellschaft abzuwenden, sagte Geschäftsführer Matthias Spielkamp. Was die Politik jedoch übersehe, sei, dass man nicht die Beherrschung einer Technik verliere, sondern die Kontrolle über die Firmen, die sie herstellten. Ein weltweites Abkommen auszuhandeln, nehme Jahre in Anspruch, während die Konzerne unbeirrt weitermachen könnten.

Spielkamp sagte, die Europäische Union und die amerikanische Regierung könnten führende Anbieter schon heute in die Pflicht nehmen, wenn sie die bestehende europäische Gesetzgebung sowie bestehende Gesetze gegen Rechnerangriffe konsequent durchsetzen und Entwickler haftbar machen würden. Würden den Konzernchefs Haftstrafen oder ihren Unternehmen finanzielle Strafen in Milliardenhöhe drohen, wäre das verantwortungslose Vorgehen rasch beendet.