Unsere europäischen Gesundheitssysteme stehen für universellen Zugang, hohe Qualität und vor allem: Gerechtigkeit. Es ist ein Grundpfeiler unserer Gesellschaft, dass jeder Mensch – unabhängig von Herkunft, Geschlecht oder sozialem Status – die bestmögliche Versorgung erhält. Doch in einer zunehmend digitalen Welt steht dieses Ideal vor einer neuen, subtilen Herausforderung: Künstliche Intelligenz (KI).
KI hat das Potenzial, die Medizin zu revolutionieren – von präziseren Diagnosen bis hin zu optimierten Behandlungsplänen. Doch die Technologie, die uns so viel verspricht, birgt auch Risiken, die wir nicht ignorieren dürfen. Algorithmen sind keine neutralen Wesen; sie lernen von den Daten, die wir ihnen geben. Und wenn diese Daten bereits bestehende Ungleichheiten widerspiegeln oder unvollständig sind, können die intelligentesten Systeme unbeabsichtigt Diskriminierung perpetuieren oder sogar verstärken.
Die Tücken der Daten: Wenn Algorithmen unfair werden
Man stelle sich vor: Ein hochentwickelter Algorithmus soll Hautkrebs erkennen, wurde aber hauptsächlich mit Bildern von Menschen mit heller Haut trainiert. Was passiert mit Patient*innen mit dunklerer Haut? Oder ein System zur Erkennung von Herz-Kreislauf-Erkrankungen, dessen Trainingsdaten überwiegend von Männern stammen. Frauen könnten falsch diagnostiziert oder ihre Symptome übersehen werden. Solche Szenarien sind keine Science-Fiction. Sie sind das Ergebnis sogenannter „Messfehler“ und „Selektionsverzerrungen“: „Garbage in, garbage out“ – wenn die Daten, auf denen die KI basiert, unzureichend oder nicht repräsentativ sind, sind die Ergebnisse fehlerhaft.
Besonders vulnerable Gruppen sind hier gefährdet. Sprachliche Barrieren, sozioökonomische Hürden oder strukturelle Ungleichheiten führen dazu, dass ihre Gesundheitsdaten in den großen Datensätzen oft unterrepräsentiert sind. Die Folge: Die KI sieht sie nicht oder interpretiert das Fehlen von Daten als Fehlen einer Krankheit. Das untergräbt nicht nur unser Gerechtigkeitsideal, sondern kann auch gravierende Folgen für die Gesundheit einzelner Individuen haben.
Brücken bauen: Technologie und Gerechtigkeit vereinen
Die gute Nachricht ist: Wir sind dieser Herausforderung nicht hilflos ausgeliefert. Expert*innen erkennen das Problem und arbeiten an Lösungen. Ein vielversprechender Ansatz, der Jura, Ethik und Technologie zusammenbringt, schlägt beispielsweise die Entwicklung eines „technischen Standards“ vor, der es Technologieentwickler*innen ermöglicht, Diskriminierung schon frühzeitig zu erkennen. Hierbei wird ein komplexes juristisches Konzept, die „bedingte demografische Disparität“, in eine statistische Methode übersetzt.
Diese Methode soll Richter*innen helfen, mögliche Diskriminierungen durch Algorithmen besser zu beurteilen, indem sie die Verteilung von Ergebnissen zwischen verschiedenen Gruppen vergleicht. Sie liefert zwar keine Ja/Nein-Antwort auf die Frage der Diskriminierung, aber sie gibt uns die Werkzeuge an die Hand, um genauer hinzuschauen und informierte Entscheidungen zu treffen. So können wir die Kluft zwischen technischen Möglichkeiten und unseren ethischen Ansprüchen überbrücken und sicherstellen, dass KI im Gesundheitswesen wirklich dem Wohl aller dient.
Als progressive Pragmatiker*innen wissen wir: Technologie ist ein mächtiges Werkzeug, aber ihre Wirkung liegt in unserer Verantwortung. Indem wir uns den algorithmischen Herausforderungen stellen und innovative Lösungen fördern, können wir eine Zukunft gestalten, in der KI nicht nur effizient, sondern vor allem fair ist – eine Zukunft, in der unsere europäischen Werte von Gerechtigkeit und universellem Zugang in jedem Algorithmus widerhallen.
