Ethik & Gesellschaft: Bias, Überwachung, Deepfakes
Begriffe vorab
- Biometrische Daten: körperliche Merkmale, die eine Person identifizieren, etwa das Gesicht.
- Verifikation: prüfen, ob jemand die behauptete Person ist (1:1).
- Identifikation: eine Person in einer Menge finden (1:n).
Bias in Gesichtserkennung
Die Studie „Gender Shades“ von Joy Buolamwini und Timnit Gebru (2018) untersuchte drei kommerzielle Systeme, die aus Gesichtsbildern das Geschlecht bestimmen. Die Fehlerraten unterschieden sich stark zwischen Gruppen: Bei dunkelhäutigen Frauen lagen sie bei bis zu 34,7 %, bei hellhäutigen Männern bei höchstens 0,8 %. Ursache war unter anderem eine Trainings- und Testdatenbasis, die bestimmte Bevölkerungsgruppen unterrepräsentierte.
Überwachung im öffentlichen Raum
Computer-Vision-Systeme ermöglichen automatisierte Gesichtserkennung und Verhaltensanalyse in Überwachungskameras in einem Maßstab, der mit menschlicher Auswertung nicht erreichbar wäre. Das wirft Fragen zu Verhältnismäßigkeit, Zweckbindung und der Möglichkeit flächendeckender Bewegungsprofile auf – Themen, die je nach Land und Rechtsordnung unterschiedlich geregelt sind und öffentlich diskutiert werden.
Deepfakes
Als Deepfakes bezeichnet man mittels generativer Modelle (siehe vorige Lektion) erzeugte, täuschend echt wirkende, aber gefälschte Bilder, Videos oder Audioaufnahmen – etwa Gesichter, die in ein fremdes Video montiert werden. Die Technologie hat legitime Anwendungen (z. B. in der Filmproduktion), birgt aber auch Missbrauchspotenzial für Desinformation, Betrug oder nicht einvernehmlich erstellte Inhalte.
Umgang mit diesen Risiken
Gegenmaßnahmen umfassen technische Erkennung von generierten Inhalten (mit begrenzter, sich ständig weiterentwickelnder Zuverlässigkeit), Provenienz-/Wasserzeichen-Standards, die die Herkunft eines Bildes markieren sollen, sowie rechtliche Regelungen wie die bereits erwähnte EU-KI-Verordnung, die für bestimmte KI-generierte Inhalte Kennzeichnungspflichten vorsieht.
Technische Erkennungsverfahren für Deepfakes liefern keine hundertprozentige Sicherheit und verbessern sich im ständigen Wettlauf mit den Erzeugungsverfahren selbst – ein rein technisches Problem, aber keine rein technische Lösung.
Ein wichtiger Unterschied
Das Entsperren eines Telefons per Gesicht ist Verifikation mit Einwilligung der Person. Gesichtserkennung im öffentlichen Raum identifiziert dagegen viele Unbeteiligte ohne ihr Zutun. Beides nutzt dieselbe Technik, wirft aber ganz unterschiedliche rechtliche und ethische Fragen auf.
Fehler haben unterschiedliche Folgen
Bei Fehlerraten, die zwischen Gruppen abweichen, treffen Fehlidentifikationen bestimmte Menschen häufiger als andere. Ein falscher Treffer kann zu Verdächtigungen führen. Deshalb sind Tests nach Gruppen, klare Einsatzgrenzen und menschliche Überprüfung bei folgenreichen Entscheidungen wichtig.
Fragen vor einem Einsatz
- Gibt es eine Rechtsgrundlage, und ist der Einsatz verhältnismäßig?
- Wurde auf Unterschiede zwischen Gruppen getestet?
- Welche Daten werden gespeichert, wie lange und von wem eingesehen?
- Gibt es Widerspruchs- und Kontrollmöglichkeiten für Betroffene?
Zum Selbermachen: einen Einsatz bewerten
- Wähle einen Einsatz von Bilderkennung (Gesichtserkennung am Eingang, Gepäckkontrolle, automatische Fotosortierung).
- Lege fest, ob Verifikation oder Identifikation stattfindet.
- Liste auf, wer betroffen ist und welche Folgen ein Fehler hätte.
- Entscheide, welche Schutzmaßnahmen nötig wären.
Prüfstatus: Belegt (Stand 1. Oktober 2026): Jahreszahlen, Zahlen, Namen und Quellenangaben dieser Lektion, soweit die Quellenliste sie nennt, wurden gegen Primärquellen geprüft. Nicht einzeln belegt: erklärende Darstellung nach Lehrbuchstand und Quellen, die in der Liste als „allgemeine Referenz“ markiert sind.
Quellen
- Joy Buolamwini, Timnit Gebru – „Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification“ (FAT*/ACM, 2018)
- Verordnung (EU) 2024/1689 (KI-Verordnung, AI Act), Bestimmungen zur Kennzeichnung von KI-generierten Inhalten