Das Internet hat die Verbreitung von Kinderpornografie stark vereinfacht. Jetzt veröffentlicht Google eine KI, die Bilder und Videos von missbrauchten Kindern finden und sperren soll.

Digility 2018

Laut eines Berichts der Internet Watch Foundation (IWF) wurden in 2017 75.589 URLs gesperrt, die kinderpornografisches Material (CSAM) enthielten. Das ist ein Anstieg von 37 Prozent gegenüber 2016.

Eine neue Google-KI soll helfen, entsprechende Inhalte zu erkennen und ihre Verbreitung einzudämmen. Google nutzt dafür ein neuronales Netzwerk, das Ermittlern eine Vorauswahl verdächtiger Inhalte zur Verfügung stellt.

Bisherige Ansätze konnten nur Bilder erkennen, die bereits bekanntem Material ähnelten. Die neue KI soll auch Inhalte erkennen, die bisher nicht als CSAM identifiziert wurden.

Das erlaubt es Ermittlern, Bilder von betroffenen Kindern wesentlich schneller zu finden und die Kinder – sofern sie identifizierbar sind – vor weiterem Missbrauch zu schützen.

KI-Recherche schont auch die Ermittler

Google nennt das KI-System einen „Werkzeugkasten“: Sein Einsatz erhöhe die Effizienz der Suche und schone die Menschen, die sich im Kampf gegen Kinderpornografie täglich Bilder und Videos von missbrauchten Kindern anschauen müssen.

Die Suche nach Kinderpornografie gilt als psychologisch stark belastend: In einer Studie der Zentralen Polizeidirektion Niedersachsen klagten 40 Prozent der Ermittler über psychische und physische Folgen. Schlafprobleme und verändertes Verhalten gegenüber den eigenen Kindern wurden als Folgen genannt.

Google in der Kritik

Die Ankündigung kommt wenige Tage, nachdem Google erneut heftig für seine China-Pläne kritisiert wurde. Der Konzern möchte dort eine zensierte Suchmaschine aufbauen.

Der englische Außenminister Jeremy Hunt schrieb kürzlich bei Twitter:

„Es ist schon komisch, dass Google seine Inhalte für China zensiert, aber nicht mit Großbritannien, den USA und anderen 5-Augen-Ländern zusammenarbeitet, um kinderpornografische Inhalte zu entfernen. Früher waren sie so stolz auf ihre Werte …“

Offenbar blieb diese Kritik nicht unbemerkt. Gleichwohl ist Google schon seit Jahren am Kampf gegen Kinderpornografie beteiligt, unter anderem in der Technology Coalition und der WePROTECT Global Alliance. Google arbeitet auch eng mit Organisationen wie der Internet Watch Foundation zusammen.

Google stellt die Software kostenlos über seine Content Safety API zur Verfügung. Interessenten können über diese Seite Zugriff beantragen.

Weiterlesen über Künstliche Intelligenz:


Tagesaktuelle und redaktionell ausgewählte Tech- und VR-Deals: Zur Übersicht
VRODO-Podcast #109: Magic Leap im Test und VR-Hype-Zyklus | Alle Folgen anhören


Unsere Artikel enthalten vereinzelt sogenannte Affiliate-Links. Bei einem Kauf über einen dieser Links erhalten wir eine kleine Provision. Der Kaufpreis bleibt gleich.