KI-Update Deep-Dive: Wer hat die Kontrolle über unsere Gesundheitsdaten?

Künstliche Intelligenz wird im Gesundheitswesen als Lösung für viele Probleme wie Personalmangel und Bürokratie gesehen. Doch während Anbieter wie Doctolib, Amazon oder Microsoft ihre KI-gestützten Angebote von der Terminvergabe bis zur Dokumentation im Behandlungszimmer ausbauen, bleiben die Risiken für Patientendaten oft unberücksichtigt. Davor warnt die Juristin Paulina Joe Pesch, Junior-Professorin für Recht der Digitalisierung, Datenschutz und Künstliche Intelligenz an der Friedrich-Alexander-Universität Erlangen-Nürnberg im KI-Update.

Gesundheitsdaten seien „besonders riskante Daten“, so Pesch. Würde beispielsweise eine HIV-Infektion bekannt, könne dies weitreichende Folgen haben. „Vielleicht entscheidet sich irgendjemand, mich nicht einzustellen wegen meiner Gesundheitshistorie“, erklärt die Juristin. Die aktuelle Devise sei jedoch oft: zuerst die Innovation, später die Konsequenzen. Kommt es dann zu einem Datenleck, ist es für Betroffene bei solch komplexen Systemen mit vielen beteiligten Akteuren „schwer nachvollziehbar, was da geschehen ist", geschweige denn, wer die Verantwortung trägt.

Im Gesundheitsbereich, wo die Verarbeitung sensibler Daten meist auf Einwilligungen beruht, sei die Bereitschaft zur Datenfreigabe für Forschungszwecke hoch. Hier arbeite man oft mit einem sogenannten „Broad Consent“, einer breiten Einwilligung für zukünftige, noch unbestimmte Forschungsprojekte. „Die Datenschutzbehörden akzeptieren das aus der Abwägung heraus, dass der Nutzen so hoch sein kann“, sagt Pesch.

Die Kontrolle gehe für die Betroffenen damit aber oft verloren. Auch die Anonymisierung von Daten biete keine endgültige Sicherheit. Dies sei keine binäre, sondern eine graduelle Angelegenheit. „Was ist denn in fünf Jahren?“ Wir wüssten noch nicht, was passiert, wenn wir ein Datenset mit einem anderen zusammenführen und dann eine KI damit trainieren, gibt Pesch zu bedenken. Die informationelle Selbstbestimmung und die darauf basierende Regulierung stoßen hier an ihre Grenzen.

Wer die eigenen Daten für die Forschung zur Verfügung stellen möchte und dabei die Kontrolle behalten will, könnte laut Pesch „zum Beispiel ein Portal haben, das die Einwilligungen und auch das Widerrufen der Einwilligungen erleichtert“. Dies würde es ermöglichen, nachvollziehbar zu machen, was mit den eigenen Daten geschieht.

Letztlich sei es entscheidend, den Einsatz von KI und datengetriebenen Ansätzen immer zu prüfen und nicht vorschnell anzunehmen, dass dies immer die bessere Lösung seien. Denkprozesse sollte man nicht vorschnell an KI auslagern. „Wenn ich lange Texte schreibe oder lese, habe ich am Ende das Thema erst verstanden“, erklärt Pesch. Wir sollten uns daher „immer im Einzelnen Gedanken machen und den Menschen nicht aus dem Blick verlieren. Das finde ich am wichtigsten.“

KI-Update Deep-Dive: Wer hat die Kontrolle über unsere Gesundheitsdaten?

Der Einsatz von KI im Gesundheitswesen verspricht viel, doch wer dabei die Kontrolle über sensible Patientendaten hat, ist oft unklar.