Wegen falsch-positiver Alarme bei der KI-Gesichtserkennung kommt es in den Vereinigten Staaten immer öfter zur Verhaftung von völlig unschuldigen Menschen. Kontrollmechanismen? Existieren kaum. Man verlässt sich zusehends nur auf die Künstliche Intelligenz, ohne Alibis vorab zu überprüfen oder zusätzliche Beweise zu haben.
Die Szene wirkt wie aus einem dystopischen Roman: Ein Mann wird mitten in der Nacht aus dem Bett geklingelt, in Handschellen abgeführt – nur weil eine künstliche Intelligenz sein Gesicht falsch zugeordnet hat. Doch genau das passiert derzeit in den Vereinigten Staaten mit erschreckender Regelmäßigkeit.
Eine aktuelle Untersuchung der Washington Post deckt auf, dass mehrere Polizeibehörden landesweit Menschen verhaften, deren einziges “Vergehen” darin besteht, dass eine KI-Gesichtserkennung sie fälschlicherweise als Täter identifiziert hat. Von 23 untersuchten Polizeidienststellen haben 15 Behörden in zwölf Bundesstaaten Festnahmen durchgeführt, die ausschließlich auf KI-Treffern basierten – ohne weitere Beweise.
Besonders beunruhigend: In manchen Berichten wurden ungeprüfte KI-Erkennungen als “100-prozentige Übereinstimmung” deklariert. Mindestens acht Menschen wurden nachweislich zu Unrecht festgenommen, zwei Fälle waren bisher nicht öffentlich bekannt. Ein Schritt in eine sehr dystopische Zukunft.
“Die Technologie hat den Verdächtigen zweifelsfrei identifiziert”, heißt es in einem internen Polizeibericht – eine gefährliche Fehleinschätzung, wie sich später herausstellte. Dabei hätten simple polizeiliche Grundlagenarbeit wie Alibi-Überprüfungen oder der Abgleich physischer Beweise die falschen Festnahmen verhindern können.
Louis Kelly, Staatsanwalt in Florence, Kentucky, verteidigt dennoch das Vorgehen seiner Beamten: “Unsere Polizisten verlassen sich auf ihre jahrelange Erfahrung bei der Identifizierung von Verdächtigen.” Dass in seiner Dienststelle mindestens vier Verhaftungen allein auf Basis von KI-Treffern erfolgten, erwähnt er nicht.
Die wahre Dimension des Problems bleibt im Dunkeln. Die meisten der 75 von der Washington Post identifizierten Behörden, die Gesichtserkennung einsetzen, müssen deren Nutzung weder dokumentieren noch offenlegen. Große Polizeibehörden wie in Austin, Detroit und Miami machen dabei keine Ausnahme – auch sie verhafteten Menschen ohne zusätzliche Beweise.
Gesichtserkennungssoftware: KI führt zu Verhaftungswelle Unschuldiger in den USA