Ein Konstrukt aus mehreren Accounts für Kindesmissbrauchsexualisierung

Eine britische Rundfunkanstalt, BBC, hat schockierende Versäumnisse bei der Bekämpfung von Darstellungen sexueller Gewalt gegen Kinder auf Instagram aufgedeckt. Die Plattform-Betreiber Meta gehen offenbar nur beschränkt vor, die Nutzer an indischsprachige Telegram-Gruppen weiterzuleiten, die solche Inhalte verkaufen. Meta lehnt seine Untätigkeit ab, während der ehemalige höchste Richter Indiens die Justiz dringend gefordert sieht.

Instagram-Werbung mit Bildern von Kindesmissbrauch

Kindesmissbrauchsexualisierung in indischen Telegram-Gruppen

BBC-Journalisten fanden heraus, wie Inhalte von erwachsenen Frauen verkaufsmäßig in Telegram-Gruppen weitergeleitet werden. Diese Gruppen sind in Indien schon per se illegal, unabhängig davon, ob es sich dabei um Minderjährige oder nicht. Unter den Bedingungen zeigte der Instagram-Algorithmus wiederholt Szenen von sexueller Gewalt gegen Kinder, kombiniert mit der Aufforderung: Hier klicken für mehr! Die BBC berichtet von 30 solchen oder ähnlichen Fällen.

Meta und die Prüfung von Werbeinhalten

Meta überprüft die Inhalte seiner Werbekunden in der Regel automatisiert. Das System scheint nicht gegriffen zu haben, um solche Inhalte zu erkennen. Meta erklärt, dass der besagte Inhalt nicht entfernt wurde, weil keine Verletzung der Community-Richtlinien erkennbar sei. Das hat Madan Lokur, ehemaliger Richter an Indiens oberstem Gerichtshof, als „kriminelle Aktivitäten“ interpretiert.

Probleme mit Kinderpornografie in Indien

Madan Lokur befürchtet, dass Meta nach den Maßstäben des indischen Gesetzes bereits kriminelle Aktivitäten mit den Praktiken bei sexuellen Werbeinhalten verfolgt, um damit Geld zu verdienen. Das könnte das die Justiz nach dem Grundsatz „suo moto cognizance“ handeln lassen.

Der ehemalige Meta-Vizepräsident Brian Boland kritisiert, dass Meta nach dem Grundsatz „Mehr Nutzerinteraktionen statt Schutz vor schädlichen Inhalten“ agiert. Boland betont, dass Meta Kinderpornografie in seinen Apps aggressiv bekämpft, indem rund vier Millionen Accounts automatisch deaktiviert werden, nachdem sie „genügend Anzeichen für potenziell verdächtiges Verhalten“ gezeigt hätten.

Überlegungen in Deutschland

In Deutschland hängt die Bekämpfung von solchen Inhalten maßgeblich von solchen Hinweisen aus den USA ab. Unternehmen wie WhatsApp, Instagram, Microsoft und Google konnten in der Vergangenheit Inhalte mit automatisierten Programmen scannen und verbotene Inhalte an das National Center for Missing and Exploited Children (NCMEC) melden. Die Organisation leitet solche Hinweise weltweit an Strafverfolgungsbehörden weiter, in Deutschland ans Bundeskriminalamt.

Das wirft ein Schlaglicht auf Metas Probleme mit Kinderpornografie in Indien. Ein Problem in seinem Umgang mit dem eigenen Algorithmus und problematischer Werbung wiegelt Meta ab. Dass Meta wissentlich und absichtlich Werbung mit Kindern an Nutzer mit pädophilen Neigungen ausspiele, sei eine „kategorisch unpräzise“ Darstellung, betonte Meta gegenüber der BBC.

Ein Aktionsangebot

Exklusives Aktionsangebot: Lesen Sie heise+ ein Jahr lang mit 50 % Rabatt und sparen Sie danach dauerhaft 20 % im Jahresabo. Entdecken Sie alle Inhalte auf heise online und unsere Magazin-Inhalte. Verfügbar für alle Kunden.

Kommentare