Im letzten Jahr hatte die EU-Kommission einen Verordnungsvorschlag eingebracht, der sexuellen Missbrauch an Kindern bekämpfen soll. Dieser sieht vor, dass private Anbieter zum Scannen privater Kommunikation verpflichtet werden können. Die Verordnung betrifft alle Unternehmen, die ihre Dienste in der EU anbieten.
Verschiedene Länder haben sich gegen eine solche Chatkontrolle ausgesprochen, jüngst auch die Schweiz.
Auch aus Anwaltskreisen, von Bürgerrechtlern und selbst vom wissenschaftlichen Dienst im Europaparlament gibt es Kritik, denn der Entwurf gefährdet wichtige Errungenschaften wie das Recht auf Privatsphäre, die freie Meinungsäusserung und die Unschuldsvermutung.
Allerdings steckt hinter dem Verordnungsvorschlag der EU-Kommission ein echtes Problem, das einer Lösung harrt: Eine aktuelle Untersuchung des Wall Street Journal (WSJ) kritisiert die Algorithmen von Instagram, da sie die Verbreitung von Kinderpornografie nicht nur nicht unterbinden, sondern sogar begünstigen und grosse Netzwerke von Pädophilen und Kinderhändlern unterstützen.
Die Untersuchung wurde von der Stanford University und der University of Massachusetts Amherst in Zusammenarbeit mit dem WSJ durchgeführt. Instagram leitet Nutzer über Such-Hashtags zu unangemessenen Inhalten mit Minderjährigen, obwohl dies nicht beabsichtigt ist. Nutzer haben dabei Codes und Symbole verwendet, um illegale Aktivitäten im Zusammenhang mit Kinderpornografie zu verschleiern und so die Algorithmen zu täuschen.
Die Untersuchung zeigt, dass Meta, die Muttergesellschaft von Instagram, nicht in der Lage ist, eindeutig illegale Kinderpornografie-Inhalte effektiv zu überwachen. Alex Stamos, der ehemalige Sicherheitschef von Meta und derzeitige Direktor des Stanford Internet Observatory, äusserte Bedenken darüber, wie leicht es für Forscher war, ein weitreichendes Netzwerk illegaler Aktivitäten auf Instagram zu entdecken.
Die Forscher identifizierten 405 Verbreiter von «selbstbeworbener Kinderpornografie«, darunter Konten, die angeblich von Kindern selbst geführt wurden. Nach diesen Enthüllungen räumte Meta ein, dass es Schwächen bei der Inhaltskontrolle gibt und setzte eine interne Arbeitsgruppe zur Bekämpfung des Problems auf Instagram ein.
Meta gab an, in den letzten zwei Jahren 27 pädophile Netzwerke zerschlagen und Tausende von problematischen Hashtags gesperrt zu haben. Dennoch bleibt das Problem bestehen.
Es sind also effektiv weitere regulatorische Massnahmen erforderlich. Allerdings ist unklar wie das geschehen kann, ohne gleichzeitig Privatsphäre, Unschuldsvermutung und Meinungsäusserungsfreiheit im Netz in einem Aufwasch zu kippen.
**********************
Unterstützen Sie uns mit einem individuellen Betrag oder einem Spenden-Abo. Damit leisten Sie einen wichtigen Beitrag für unsere journalistische Unabhängigkeit. Wir existieren als Medium nur dank Ihnen, liebe Leserinnen und Leser. Vielen Dank!
Oder kaufen Sie unser Jahrbuch 2022 (mehr Infos hier) mit unseren besten Texten im Webshop: