Diskriminierung ist nicht nur menschlich: Warum es am Ziel vorbeigeht, Menschen für vorurteilbehaftete Maschinen verantwortlich zu machen

Die Pandemie wird uns mit einer neuen Wahrnehmung der Vorteile von Technologien der Künstlichen Intelligenz (KI) für die Entscheidungsfindung zurücklassen. Überall auf der Welt erkennen die Menschen, dass diese Technologie täglich ohne ihr Wissen eingesetzt wurde. Sie erkennen jedoch auch, dass ihre Implementierung zu einer Notwendigkeit im öffentlichen Interesse geworden ist.
Dementsprechend haben Regierungen und Unternehmen verschiedene Arten von KI eingesetzt, um die Pandemie zu bekämpfen. Sie haben Diagnosen verbessert oder Behandlungen entwickelt. Was aber, wenn jemand von den öffentlichen Verkehrsmitteln ausgeschlossen wird, weil ein prädiktives KI-Modell die Person als potenzielle Ansteckungsquelle markiert? Was, wenn jemand wegen einer Covid-19-Infektion keine Krankenversicherung oder Hypothek erhält? Reichen die von einer KI erzielten Ergebnisse aus, um die Einschränkung der individuellen Freiheit zu rechtfertigen?
Aus rechtlicher Sicht werden Konzepte wie «Diskriminierung» oder «objektiv» infrage gestellt, wenn KI-Technologie in die Entscheidungsfindung einbezogen wird. KI-gestützte Entscheidungen basieren auf Algorithmen oder Mathematik. Dies verleiht ihnen wohl ein gewisses Mass an Objektivität. Ihre Ergebnisse könnten dennoch diskriminierend sein.

Was ist KI-gestützte Entscheidungsfindung?

Künstliche Intelligenz wird im Oxford English Dictionary definiert als «die Theorieentwicklung von Computersystemen, die in der Lage sind, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern, wie visuelle Wahrnehmung, Spracherkennung, Entscheidungsfindung und Übersetzung zwischen Sprachen».
KI nutzt Algorithmen, um zu klassifizieren, zu analysieren, Profile zu erstellen oder Vorhersagen zu treffen, um Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Dazu gehören die Auswahl von Mitarbeitenden oder Studierenden, Werbung, die Bewertung von Versicherungsrisiken, Bildsuchanalysen und die Verhinderung der Ausbreitung einer Pandemie.
Algorithmen wiederum werden von Frederik Zuiderveen Borgesius, Professor für Recht am Institute for Computing and Information Sciences der Radboud-Universität in den Niederlanden, beschrieben als «eine dokumentierte Abfolge von Schritten, die zur Transformation bestimmter Daten führt».. Er nennt sie «eine abstrakte, formalisierte Beschreibung eines Rechenverfahrens». Es handelt sich um Anweisungen, die den Entscheidungsprozess Schritt für Schritt leiten, um ein bestimmtes Ergebnis oder eine bestimmte Lösung zu erhalten.
KI und Algorithmen sind somit eng miteinander verwandte Konzepte. Ein Algorithmus besteht aus den intern codierten Anweisungen, die es einer KI ermöglichen, zu arbeiten und ihren Zweck zu erfüllen.
Mit der Leichtigkeit und Genauigkeit, mit der Algorithmen und KI grosse Datenmengen organisieren können, könnte diese Technologie den Entscheidungsprozess jeder Regierung, Organisation oder Einzelperson verbessern. Tatsächlich könnte jede soziale, wirtschaftliche oder politische Entscheidung, die eine Kombination aus menschlichen und KI-Systemen beinhaltet, als teilweise oder vollständig automatisch betrachtet werden.

Die wahre Natur eines Algorithmus

Sind diese Algorithmen dennoch völlig frei von Vorurteilen und Diskriminierung? Können wir uns wirklich auf Algorithmen oder KI verlassen, um objektive Entscheidungen zu treffen? Sind sie nicht einfach Maschinen, die Daten mit Logik und Mathematik verarbeiten?
Die Wahrheit ist, dass viele Fälle auf der ganzen Welt bewiesen haben, dass Algorithmen und KI weder neutral noch frei von Vorurteilen oder Diskriminierung sind. Es gab Algorithmen, die bestimmte Personen als «Gorillas» erkannten. Andere zeigen Männern besser bezahlte Stellen an als Frauen oder sortieren bei Bewerbungen sogar die Lebensläufe von Frauen aus. In einem weiteren Fall wurde verhindert, dass Personen, die in gefährlichen Nachbarschaften leben, für Express-Lieferdienste bezahlen können. Dies sind nur einige Beispiele dafür, dass Menschen allein aufgrund ihres Geschlechts oder Phänotyps unterschiedlich behandelt werden.
Wenn die Gesellschaft sich auf diese Technologie verlassen will, um den Entscheidungsprozess zu verbessern, ist es notwendig zu verstehen, wie diese Vorurteile auf Algorithmen und KI übertragen oder von diesen übernommen werden.

Diskriminierung durch Algorithmen und KI

Mit den Worten von Ramón López de Mántaras, Direktor des Instituto de Investigación en Inteligencia Artificial-CSIC in Barcelona: «Wenn die Daten, aus denen Sie lernen, verzerrt sind (absichtlich oder nicht), wird der Algorithmus verzerrt entscheiden».
Algorithmen sind schlichtweg Anweisungen für einen Computerablauf. Die Daten, die er als Eingabe erhält, könnten menschliche Vorurteile oder Verzerrungen replizieren oder sogar verstärken. Aus diesem Grund könnte KI diskriminierende Datenanalyseprozesse und spätere Vorhersagen fortführen, die verschiedene bestehende Stereotypen in der Gesellschaft verschlimmern könnten.
Kann das Risiko einer Diskriminierung durch vollständig oder teilweise automatische Entscheidungsprozesse verringert oder gemildert werden, wenn die Datenerfassung sorgfältig und korrekt durchgeführt wird?
Experten wie Karen Hao, Autorin der MIT Technology Review, sagen, dass dies nicht ausreichen wird. Der Algorithmus selbst könnte zu einer vorurteilbehafteten Entscheidung führen, wenn er so programmiert ist, dass er die Daten auf «falsche» oder «verzerrte» Weise analysiert. «Historische Diskriminierungsmuster», so Hao, werden von KI-Designern diskutiert, da diese Technologie lernen könnte, genau wie ein Mensch zu denken. Dazu gehört auch das Nachahmen unserer Vorurteile oder Stereotypen.
Andererseits sollten wir bedenken, dass derzeit noch kein KI-System eine eigene Intentionalität besitzt. Jede verzerrte Entscheidung in einem teilweise oder vollständig automatischen Entscheidungsprozess, die zu einer Diskriminierung führt, ist daher auf eine Verzerrung in den eingegebenen Daten oder der Verarbeitungs-Programmierung zurückzuführen. So oder so muss die Absicht oder der böse Wille dem Programmierer oder dem Eigentümer des KI-Systems zugeschrieben werden.
In diesem Sinne müssen die Entscheidungen eines KI-Systems oder Algorithmus bei dessen Bewertung aus rechtlicher Sicht analysiert werden, um Fälle von Diskriminierung zu identifizieren.

Wie schützen wir uns vor KI-gestützter Diskriminierung?

Wie wir alle wissen, ist Diskriminierung durch viele Verträge und Verfassungen auf der ganzen Welt verboten. Reicht dies jedoch aus, um eine Gleichbehandlung zu schützen und zu gewährleisten, wenn Entscheidungen von einem KI-System getroffen werden?
Artikel 7 der Allgemeinen Erklärung der Menschenrechte der UNO lautet:

«Alle Menschen sind vor dem Gesetz gleich und haben ohne Unterschied Anspruch auf gleichen Schutz durch das Gesetz. Alle haben Anspruch auf gleichen Schutz gegen jede Diskriminierung, die gegen diese Erklärung verstösst, und gegen jede Aufhetzung zu einer derartigen Diskriminierung».

Dementsprechend haben alle Menschen das Recht, keine Verletzung ihrer Menschenrechte zu erleiden, die durch ein diskriminierendes KI-System oder einen entsprechenden Algorithmus verursacht wird. Dies hängt jedoch von der Wirksamkeit der Gesetze oder Vorschriften des jeweiligen Landes ab. Es gibt zahlreiche Ansätze, um einen nichtdiskriminierenden automatischen Algorithmus oder einen KI-gestützten Entscheidungsprozess zu erreichen.
Einerseits verbietet in der Europäischen Union Artikel 14 der Europäischen Menschenrechtskonvention (EMRK) die Diskriminierung mit den Worten:
«Der Genuss der in dieser Konvention anerkannten Rechte und Freiheiten ist ohne Diskriminierung insbesondere wegen des Geschlechts, der Rasse, der Hautfarbe, der Sprache, der Religion, der politischen oder sonstigen Anschauung, der nationalen oder sozialen Herkunft, der Zugehörigkeit zu einer nationalen Minderheit, des Vermögens, der Geburt oder des sonstigen Status zu gewährleisten».
Darüber hinaus unterscheidet die EMRK zwischen direkter und indirekter Diskriminierung. Direkte Diskriminierung richtet sich aufgrund eines bestimmten Merkmals gegen eine Person, beispielsweise ein Verbot gegen Personen einer bestimmten Religion. Wenn eine Diskriminierung als Folge einer scheinbar neutralen Praxis auftritt – wie eine Regelung gegen jegliche Kopfbedeckungen, die gläubige religiöse Menschen von vornherein daran hindert, sich um eine Stelle zu bewerben –, kann sie als indirekt angesehen werden.
Beide Arten von Diskriminierung könnten durch einen Algorithmus oder ein KI-gestütztes System verursacht werden, insbesondere die indirekte Form. Algorithmen und KI-Systeme können unbeabsichtigt eine bestimmte Gruppe von Menschen eines bestimmten Phänotyps, einer bestimmten Kultur oder eines bestimmten Geschlechts durch scheinbar neutrale Kriterien, Praktiken oder Auswahlen benachteiligen. Ein aktueller Fall, der dies veranschaulicht, ist das Urteil des Europäischen Gerichtshofs für Menschenrechte EGMR, Biao gegen Dänemark (Grosse Kammer), Nr. 38590/10, 24. Mai 2016, Absätze 91 und 92.
Infolgedessen verlangen die derzeitigen europäischen Vorschriften, dass allgemeine Richtlinien, Massnahmen oder Praktiken, die auf Algorithmen oder KI-Systemen basieren, vor der Verwendung analysiert und möglicherweise genehmigt werden, da unklar ist, ob sie gegen Diskriminierungsverbote verstossen könnten.

Der amerikanische Weg

Andererseits wird angesichts der Tatsache, dass der Schwerpunkt der europäischen Regulierung nicht auf den Absichten liegt, sondern darauf, ob eine diskriminierende Entscheidung ohne objektive oder vernünftige Rechtfertigung getroffen wird, das Problem der mangelnden Regulierung von «Blackboxes» wichtig sein. «Blackboxes» beziehen sich auf die interne Programmierung eines KI-Systems. Diese Programme werden von IT-Unternehmen oft geheim gehalten, müssten aber transparent sein, damit eine Richterin oder ein Richter analysieren kann, wie potenziell diskriminierende Entscheidungen zustande gekommen sind.
Ähnliche Situationen wie in der EU werden in lateinamerikanischen Ländern wie Argentinien, Bolivien, Chile, Ecuador, Mexiko, Peru und Uruguay auftreten. Die meisten ihrer Verfassungen und Vorschriften verlangen gleiche Rechte und verbieten Diskriminierung. Um festzustellen, ob eine Entscheidung oder Handlung diskriminierend ist, muss jedoch herausgefunden werden, ob eine Ungleichbehandlung «willkürlich» oder «unberechtigt» war. Daher wird in dieser Region die Frage von Bedeutung sein, wie der Blackbox-Prozess eines KI-Systems transparent gemacht werden kann, um durch einen Algorithmus unterstützte Handlungen oder Entscheidungen zu rechtfertigen. Ebenso die Frage, wie verhindert werden kann, dass verzerrte Daten verarbeitet werden.
Schliesslich findet sich ein weiterer interessanter Ansatz in den Vereinigten Staaten, wo «Diskriminierung» im Barron's Law Dictionary wie folgt definiert wird:
«die Ungleichbehandlung von Parteien in vergleichbaren Situationen. Das Bundesrecht verbietet Diskriminierung aufgrund von Rasse, Geschlecht, Nationalität, Religion und Alter in Fragen der Beschäftigung, des Wohnens, der Bildung, des Stimmrechts und des Zugangs zu öffentlichen Einrichtungen. Darüber hinaus dürfen Staaten oder staatliche Stellen keine Handlungen vornehmen, die zu einer Diskriminierung aufgrund von Rasse, Geschlecht, Nationalität, Religion oder Alter führen».
Gemäss dieser Definition würde das Hauptgewicht auf die vertragliche oder sonstige Beteiligung an Handlungen gelegt, die zu einer Diskriminierung führen können. In diesem Sinne wäre es rechtswidrig, wenn ein Staat oder eine staatliche Stelle eine diskriminierende KI-gestützte Technologie einsetzt, selbst wenn dies nicht zu einer Ungleichbehandlung führt. Wenn jedoch eine private Organisation KI-gestützte Technologie einsetzt, liegt eine rechtswidrige Handlung nur dann vor, wenn das Ergebnis eine Diskriminierung ist.

Fazit

Teilweise oder vollständig automatische Entscheidungsprozesse, die durch Algorithmen oder KI-Systeme unterstützt werden, könnten Verzerrungen und Diskriminierung verursachen und sogar verstärken. Regulierungen weltweit werden durch den zunehmenden Einsatz dieser Art von Technologie bei der Entscheidungsfindung herausgefordert werden.
Themen wie verzerrte Datenverarbeitung, Black-Box-Transparenz, vorsätzlich diskriminierende Programme oder Richtlinien und Massnahmen zur Überwachung von Algorithmen oder KI-Technologie müssen diskutiert und verbessert werden. Dies gilt insbesondere, da dringende Situationen wie eine weltweite Pandemie den Einsatz zunehmend intelligenterer, präziserer und schnellerer Technologie vorantreiben.
Dennoch müssen staatliche Stellen und Unternehmen, die diese Technologie zur Erleichterung ihrer Entscheidungsprozesse einsetzen, vorerst Massnahmen konzipieren, um Transparenz über die Funktionsweise ihrer Algorithmen zu schaffen oder Ergebnisse in angemessener Weise zu begründen. Wie wir gesehen haben, stehen unsere Menschenrechte auf dem Spiel.
Natalia Jara ist Associate bei Philippi Prietocarrizosa Ferrero DI & Uria, Chile. 
Bild: Geralt, unter Pixabay-Lizenz.