Werbung
Amazon Prime Student - 12 Monaten kostenlos ausprobieren, danach 34 Euro pro Jahr oder monatlich 3,99 Euro


Kolumne: Artificial Inadequacy trifft auf die dümmsten anzunehmenden Nutzer

Meldung von doelf, Freitag der 26.06.2020, 11:57:55 Uhr

Den mehrheitlichen weißen Polizisten in den USA wird immer wieder vorgeworfen, dass sie nicht sonderlich intelligente Rassisten sind und mit unangemessener Brutalität vorgehen. Zur Optimierung der Polizeiarbeit wurden daher in den vergangenen Jahren Abermillionen US-Dollar in künstliche Intelligenz investiert, welche von mehrheitlich weißen Entwicklern programmiert wurde und die man hauptsächlich mit den Daten weißer US-Amerikaner trainiert hat.

Das Ergebnis sind Software-Produkte, die ebenso rassistisch vorbelastet agieren wie die Polizisten und die statt Künstlicher Intelligenz (Artificial Intelligence) nur eine Künstliche Unzulänglichkeit (Artificial Inadequacy) darstellen. Gut, die Gesichtserkennungssoftware meldet nicht "richtig fetter Neger" oder "schlaksiges Schlitzauge", wie es so mancher Polizist immer noch praktiziert und dabei auf Lacher seiner weißen Kollegen hofft, doch im Inneren der Programme agieren Algorithmen, die einen übergewichtigen Farbigen nicht vom nächsten unterscheiden können. Zu diesem Ergebnis kam jedenfalls das Media Lab des MIT in einer Anfang 2018 veröffentlichten Studie. Dabei hatten die Wissenschaftler etwas getan, was die Anbieter der kostspieligen Softwareprodukte so gut wie nie tun: Die Erkennungsrate anhand unterschiedlicher Ethnien und Geschlechter getestet.

Da in vielen US-amerikanischen Polizeistationen nicht die hellsten Kerzen leuchten, kann es zu einer gefährlichen Kombination von lausiger Software und den dümmsten anzunehmenden Nutzern (DAUs) kommen. So geschehen im Fall von Robert Julian-Borchak Williams, einem schwarzen US-Amerikaner der Aufgrund einer fälschlichen Gesichtserkennung grundlos verhaftet wurde. Auslöser waren die unscharfen Aufnahmen einer Überwachungskamera, welche eine Ermittlerin der Michigan State Police mit Fotos aus anderen Datenbanken abgeglichen hatte. Die hierbei eingesetzte Technologie stammt von der Firma DataWorks Plus, sie hatte dem Bundesstaat 5,5 Millionen US-Dollar gekostet. Todd Pastorini, General Manager dieser Firma, erklärte gegenüber der New York Times, dass diese Software nicht wissenschaftlich arbeite und man sich auf dem Gebiet der Gesichtserkennung als Pseudo-Experten sehe. Das einzig Professionelle scheinen somit die gestellten Rechnungen zu sein.

Die mit nicht wissenschaftlich fundierten Algorithmen arbeitende Software der Pseudo-Experten meldete einen Treffer, als sie das Führerscheinfoto von Herrn Williams mit dem des Ladendiebes auf dem Überwachungsvideo verglich. Es wurde ein Investigative Lead Report erstellt, in dem klar hervorgehoben ist, dass es sich nur um eine mögliche Spur und keinesfalls um eine positive Identifikation handelt (This document is not a positive identification). Zudem weist der Bericht darauf hin, dass der Treffer der Gesichtserkennung alleine nicht für eine Verhaftung ausreiche (It is an investigative lead only and is not probable cause for arrest). Auf diese Weise wollen sich die Softwareanbieter und auch die Polizei rechtlich absichern, doch was nutzen solche Hinweise, wenn sie von den ausführenden Beamten am Ende ignoriert werden? Wenn der unausgereifte, niemals unabhängig überprüfte Algorithmus einer Software nichts als Hilfsmittel, sondern als Kronzeuge betrachtet wird?

Statt Herrn Williams zu befragen und nach Beweisen gegen ihn zu suchen, stellten die Polizisten eine Serie aus sechs Fotos zusammen und schickten diese mit der Bitte, den Täter zu identifizieren, an das Opfer des Ladendiebstahls, welcher sich Monate zuvor ereignet hatte. Als die Wahl auf Herrn Williams fiel, rief die Polizei ihn auf der Arbeit an und bat ihn, sich zu seiner Verhaftung im nächstgelegenen Polizeirevier einzufinden. Williams hielt dies für einen schlechten Scherz, bis er zu Hause ankam und von zwei Polizisten in Handschellen gelegt wurde. Als seine Frau fragte, was man ihrem Mann vorwerfe und wo man ihn hinbringe, riet einer der Beamten, sie solle das doch googeln. Williams wurde erkennungsdienstlich erfasst und verhört. Obwohl auf den Fotos eindeutige Unterschiede zu erkennen waren, wurde Anklage erhoben und Williams erst gegen eine Kaution in Höhe von 1.000 US-Dollar freigelassen. Selbst vor Gericht wollte die Staatsanwaltschaft nur einer vorläufigen Einstellung des Verfahrens zustimmen.

Letztendlich hatte Robert Julian-Borchak Williams großes Glück gehabt, dass er bei seiner Verhaftung nicht verletzt oder gar getötet wurde. Insbesondere bei Einsätzen gegen farbige Menschen mit kräftigem Körperbau sind US-amerikanische Polizisten alles andere als zimperlich. Es bleibt zu hoffen, dass dieser Fall die zuständige Polizeibehörde sensibilisiert hat und man zukünftig nicht mehr blind auf das Urteil von Kollege Computer vertrauen wird. Wichtig wäre zudem, die von den Ermittlern eingesetzten Softwarelösungen unabhängig zertifizieren zu lassen. Auch ein reines Hilfsmittel taugt nicht viel, wenn es nach Gutdünken von Pseudo-Experten zusammengezimmert und nie systematisch getestet wurde. Künstliche Intelligenz darf niemals über Schuld oder Unschuld, über Leben oder Tod entscheiden. Und Menschen dürfen niemals eine Auslagerung ihres eigenen Denkprozesses als Ausrede für ihre Faulheit und Dummheit heranführen dürfen.

Diese Werbefläche wurde deaktiviert. Damit geht Au-Ja.de eine wichtige Einnahmequelle verloren.

Werbung erlauben ]