Die Rede ist natürlich von Chatbots wie ChatGPT oder Claude, die mittlerweile in vielen Klassenzimmern allgegenwärtig sind. Ihre Verbreitung hat an den Schulen viele Fragen aufgeworfen: Haben Hausaufgaben überhaupt noch einen Sinn? Wie bewertet man Aufsätze, die zum Teil mit KI erstellt wurden? Sollte man Störsender installieren, um Chatbots bei Klassenarbeiten einen Riegel vorzuschieben? Verlernen die Schülerinnen und Schüler nicht das eigenständige Schreiben, Rechnen und Denken? Wie kann man sicherstellen, dass alle von den Vorzügen der KI profitieren? Und wie verhindern wir, dass noch eine Mitschülerin per Deepfake nackt im Klassenchat gezeigt wird?

Solche grundlegenden Diskussionen werden nicht nur an Schulen geführt. In vielen Unternehmen, Parlamenten und Familien fragt man sich: Was darf die KI? Und wer bestimmt eigentlich darüber?

Vom Silicon Valley in die ganze Welt

Die Technologie, die maßgeblich im kalifornischen Silicon Valley entwickelt wird, hat weltweite Auswirkungen. »KI ist wie der Klimawandel ein Problem, das nicht von einem Staat allein gelöst werden kann«, sagte Maria Ressa kürzlich in einem Interview . Sie leitet eine Gruppe von Expertinnen und Experten, die den Vereinten Nationen Anfang Juli einen Bericht vorgelegt haben. Darin haben sie die Vor- und Nachteile der KI-Nutzung zusammengetragen.

Bestimmte Krebserkrankungen etwa lassen sich mithilfe der KI schneller erkennen, und die Forschung nach neuen Medikamenten wird beschleunigt. KI kommt als Frühwarnsystem zum Einsatz, um Hungersnöte zu vermeiden. Doch sie wird auch verwendet, um Accounts zu hacken oder Falschinformationen zu verbreiten. Letzteres kann das Vertrauen in die Demokratie zerstören.

Hinzu kommt: Wenn der überwältigende Anteil der Rechenkraft, die zum KI-Training nötig ist, nur den USA und China zur Verfügung steht, droht die weltweite Ungleichheit größer zu werden. In ihrem Bericht kommen die Expertinnen und Experten daher zu dem Fazit: KI ist an sich weder gut noch schlecht. Doch jetzt müssten klare Regeln für den weltweiten Einsatz von KI geschaffen werden. In der Europäischen Union (EU) gibt es bereits ein Regelwerk dafür. Und schon bei dessen Entstehung fragten sich manche:

Braucht es wirklich noch mehr Regeln?

Manche Firmen und Politiker sorgen sich, dass Europa den Anschluss an die USA und China, also die großen KI-Mächte, verlieren könnte, wenn man zu viele Regeln für die KI-Entwicklung aufstellt. Die Juristin, KI-Expertin und Humboldt-Professorin Sandra Wachter, die an der Oxford University und am Hasso-Plattner-Institut forscht, sagt dazu: »Nur weil andere KI-Modelle entwickeln, die schädlich sind, heißt das ja nicht, dass wir denselben Weg gehen müssen. In Europa ist uns der Schutz der Natur und der Menschen­rechte wichtig. Und darauf sollten wir auch bei der KI-Entwicklung achten.«

Ihr Lieblingsbeispiel stammt aus der Auto-Industrie: Niemand würde heute in ein Auto ohne Sicherheitsgurte einsteigen. »Doch als die Regel aufgestellt wurde, dass die Hersteller Autos mit Sicherheitsgurten bauen müssen, haben sich alle aufgeregt. Dabei wollte niemand die Firmen davon abhalten, Autos zu bauen. Es ging nur darum, sie sicherzumachen. Und das soll auch für die KI gelten.«

In der EU ist vor zwei Jahren die KI-Verordnung in Kraft getreten. Bestimmte Systeme sind nun in der EU verboten. So dürfen in der Schule etwa keine KI-gestützten Kameras eingesetzt werden, die die Aufmerksamkeit der Schülerinnen und Schüler messen. Dieses Jahr werden zudem zwei weitere wichtige Regelungen wirksam: Seit August müssen realistisch wirkende Bilder und Videos, die mit einer KI erstellt wurden, als solche gekennzeichnet werden. Und ab Dezember werden Apps verboten sein, mit deren Hilfe man gefälschte Nacktbilder von echten Menschen erzeugen kann.

In gewisser Weise ist die KI-Verordnung der Sicherheitsgurt, den Sandra Wachter fordert. Sie kritisiert allerdings: »Eigentlich sollten im August weitere Regeln für sogenannte Hochrisiko-KI-Systeme in Kraft treten. Sie wurden aber verschoben, weil sie eini­gen Firmen zu streng waren. Das ärgert mich.« Und sie fügt hinzu: »Wenn wir schon darüber reden, welche Regeln für die KI gelten, sollte es nicht nur darum gehen, das Risiko kleinzuhalten. Ich finde, wir sollten darüber nachdenken, wie uns die KI zufriedener machen kann.«

Das Problem mit dem Chatbot

Laut Wachter gibt es bestimmte Grundpfeiler, die darüber bestimmen, wie zufrieden wir sind . Dazu zählt zum Beispiel die Verbundenheit mit anderen Menschen. Wachter erklärt: »Wir haben gern Freunde und Familie um uns.« Doch bringt uns die KI mit anderen Menschen zusammen? Im Gegenteil: »Chatbots sind absichtlich so designt, dass sie sich wie ein Freund oder ein Beziehungspartner verhalten. Sie schmeicheln uns, und vielleicht flirten sie sogar ein bisschen.« Einer von fünf US-amerikanischen Jugendlichen gibt an, schon mal in einen Chatbot verliebt gewesen zu sein oder jemanden zu kennen, der solche Gefühle hatte. »Sie versuchen, uns im Bann zu halten, so lange wie möglich«, sagt Wachter. Doch je mehr Zeit mit einem Chatbot draufgeht, desto weniger bleibt für echte Beziehungen, die einen wirklich glücklich machen.

Ein zweiter wichtiger Faktor für ein zufriedenes Leben ist es, sich kompetent zu fühlen. »Wenn uns ein Chatbot in der Schule oder auf der Arbeit aber die ganze Denkarbeit abnimmt, nehmen unsere geistigen Fähigkeiten ab«, sagt Wachter. »Für unsere Zufriedenheit ist jedoch das Gefühl wichtig, etwas selbst geschafft zu haben.« Wachter verweist zudem auf eine Studie . Diese zeigt, dass Ärzte, die drei Monate lang Diagnosen mithilfe von KI gestellt haben, am Ende ohne KI schlechter waren als vorher. »Wenn Ärztinnen, Anwälte, Brückenbauerinnen oder Journalisten ihre wichtigen Fähigkeiten verlieren, schadet das uns allen.«

Sandra Wachter folgert daraus, dass die KI nicht besonders gut darin ist, uns zufriedener zu machen. Ihre Forderung: »Wir müssen die KI-Firmen mehr in die Pflicht nehmen.« Wenn sie ein großes Rechenzentrum bauen oder Daten von uns nutzen wollen, sollten sie detailliert nachweisen, welchen Nutzen das für uns alle hat, findet Wachter. Erst dann dürften ihnen Steuererleichterungen oder Fördermittel für den Bau oder der Zugriff auf die Daten gewährt werden. »Wenn ich weiß, dass meine Daten verwendet werden, um ein Heilmittel für Krebs zu finden, dann bin ich eher bereit, sie zur Verfügung zu stellen. Wenn es aber nur darum geht, dass ein Unternehmen mehr Gewinn macht, ist das ein bisschen wenig.«

Wer bestimmt am Ende: die KI-Firmen oder wir?

Immer wieder reden die Chefs großer KI-Firmen davon, dass bald übermächtige KI-Modelle auf den Markt kommen könnten, die alles über den Haufen werfen würden. »Einige KI-Chefs sagen quasi: Gebt uns all die Macht, denn wir sind die Einzigen, die diese KI verstehen und unter Kontrolle halten können«, meint Wachter. Doch damit würden sie von den eigentlichen Problemen der KI ablenken. Man denke nur an die vielen Künstlerinnen und Künstler, deren Stimme, Musik und Bilder zum Trainieren der KI benutzt werden – ohne dass sie angemessen dafür vergütet werden.

»Die KI-Firmen haben so viele Geschenke von uns erhalten«, sagt Wachter. Damit meint sie unsere Daten, die die KI-Firmen aus dem Internet kopiert haben. Aber auch die Unmengen an Wasser und Strom, die für den Betrieb von Rechenzentren nötig sind. Oder die Wälder, die für den Bau abgeholzt wurden. Hinzu kommen Steuererleichterungen und finanzielle Hilfen vom Staat. »Wir stehen an einer Weggabelung«, meint Sandra Wachter. »Wir müssen den Firmen und unseren Politikerinnen und Politikern klarmachen, dass wir für all diese Geschenke etwas zurückbekommen wollen. Denn wir sind diejenigen, die die KI zu dem machen, was sie ist.«