Wie Android Eltern kriminalisiert

Meldung von doelf, Montag der 22.08.2022, 11:36:58 Uhr

logo

Die Möglichkeit, Ärzten schon vor einem Untersuchungstermin Fotos einer Erkrankung oder Verletzung zu schicken, damit diese den Ernst der Lage besser einschätzen können, erscheint sinnvoll. Das Ausfiltern kinderpornografischer Inhalte im Internet sowie die Sperrung der Verbreiter erscheint ebenfalls sinnvoll. Doch wenn Kollege KI und Google die Entscheidungsgewalt haben, sind die Folgen gravierend.

Die Digitalisierung scheint das Allheilmittel unserer Zeit zu sein. Sowohl die Wirtschaft als auch die Regierungen sind bestrebt, immer mehr Lebensbereiche zur Datengewinnung in die digitale Welt zu holen. Die gesammelten Daten sollen nicht nur Geld generieren, sondern auch die Kontrolle des Internets erleichtern. Doch damit sich die Unmengen an Daten überhaupt kostengünstig verarbeiten lassen, setzten die großen Tech-Firmen auf künstliche Intelligenz (KI). Eine KI ist nicht bestechlich, erleidet keinen Burn-out und arbeitet mit sehr niedrigen Fehlerraten. Insofern ist der Einsatz einer KI sinnvoll, solange im Zweifelsfall ein Mensch eingreifen kann bzw. es Mechanismen gibt, um fehlerhafte Entscheidungen rückgängig zu machen. Doch bei Google scheinen Korrekturen nicht vorgesehen zu sein.

Aus Googles Sicht handelt es sich um eindeutige Verstöße
Wie die New York Times berichtet, hatten Googles KI-gesteuerte Fotoanalysen bei zwei Kunden aus den USA Fotos von Kindergenitalien gefunden. Als Reaktion wurden die Benutzerkonten gesperrt, wodurch den Benutzern der Zugriff auf jegliche Google-Dienste (E-Mails, Adressbuch, Kalender, Daten) entzogen wurde. In einem Fall lief auch der Mobiltelefonvertrag über Google, was den Verlust des Vertrags und der zugehörigen Rufnummer zur Folge hatte. Auch der Zugriff auf Drittanbieterdienste, für die das Google-Konto bzw. die Mobilfunknummer als ein Identifikationsmerkmal hinterlegt waren, blieb den Betroffenen verwehrt. Gemäß der gesetzlichen Vorgaben in den USA durchsuchte Google auch alle anderen hinterlegten Daten der fraglichen Benutzer und leitete verdächtige Fundstücke an die gemeinnützige Organisation National Center for Missing and Exploited Children weiter. Dort werden Missbrauchsfotos analysiert, um die Identität der Opfer zu klären. Zugleich wurden die beiden Verdächtigen angezeigt, was eine Befragung und Durchsuchung ihrer Daten durch die Polizei zur Folge hatte. Aufgrund der schweren Verstöße gegen Googles Nutzungsbedingungen und möglicher Rechtsverstöße wurden die Reaktivierung der Nutzerkonten seitens Google abgelehnt.

Aus Sicht der Polizei ein klares Missverständnis
Wenn man nur Googles Teil der Geschichten sieht, scheint das Vorgehen der Tech-Firma angemessen gewesen zu sein. Doch die beiden Nutzer hatten eben nicht Missbrauchsbilder mit Pädophilen geteilt, sondern Fotos von Entzündungen im Genitalbereich ihrer Kinder zur Diagnose an die behandelnden Kinderärzte geschickt. Die Mediziner hatten für eine Vorabeinschätzung bzw. zur Beobachtung der weiteren Entwicklung um diese Fotos gebeten und gerade in Corona-Zeiten hatten sich Videosprechstunden und Telemedizin weltweit etabliert. Das Problem: Standardmäßig sichert Googles Betriebssystem Android alle mit dem Smartphone aufgenommenen Bilder auf Googles Cloud-Speicher und auch wenn nur der Benutzer Zugriff auf diese Fotos hat, so liegen sie halt doch bei Google und was bei Google liegt ist eben nicht mehr privat und wird vom Tech-Konzern geprüft. Für die ermittelnden Polizisten in San Francisco (Kalifornien) und Houston (Texas) waren die Sachverhalte eindeutig, nachdem die E-Mail-Kommunikation mit den Ärzten offengelegt wurde. Sie stellten ihre Ermittlungen ein und übergaben den Betroffenen entsprechende Ermittlungsprotokolle. Diese leiteten die Betroffenen zur Klärung des Missverständnisses an Google weiter.

Google interessiert sich nicht für Ermittlungsergebnisse
Wir halten fest: Die Eltern hatten die Anweisungen der Kinderärzte befolgt und die Ihnen zur Verfügung stehenden digitalen Werkzeuge sinnvoll genutzt. Googles Frühwarnsystem hatte wie gewünscht funktioniert und eine Ermittlung im Interesse der potentiellen Missbrauchsopfer eingeleitet. Die Ermittlungsbehörden hatten sich den Fall angesehen und konnten keinerlei Missbrauch feststellen. So weit, so gut. Doch dummerweise interessiert der eindeutige Sachverhalt Google nicht. Obwohl die polizeilichen Ermittlungsprotokolle Google vorgelegt wurden, bleiben die beiden Nutzer gesperrt. Tatsächlich erlauben es Googles Nutzungsbedingungen, alleine das Erstellen der Fotos als schweren Verstoß zu interpretieren. Indem Google die Sperren bestehen lässt und zu den konkreten Fällen keine Stellung nimmt, spart sich das Tech-Unternehmen die Einrichtung und Kosten einer Prüfinstanz. Solange niemand Geld in die Hand nimmt, um gerichtlich gegen Googles unberechtigte Sperrungen vorzunehmen, wird sich an dieser Praxis vermutlich nichts ändern. Letztendlich hatten die Betroffenen Glück gehabt, dass kein übereifriger Beamter das Jugendamt eingeschaltet und die Kinder in die staatliche Obhut übergeben hatte.

Diese Werbefläche wurde deaktiviert. Damit geht Au-Ja.de eine wichtige Einnahmequelle verloren.

Werbung erlauben ]