Apple analysiert Nutzerbilder auf CSAM

Apple hat für iOS 15 und verwandte Betriebssysteme eine neue Funktion angekündigt, die sogenanntes CSAM (Child Sexual Abuse Material), also Kinderpornografie erkennen und melden können soll. Konkret analysiert das System Fotos während sie in die Herstellereigene „iCloud“ hochgeladen werden. Was zunächst wie ein wichtiger Schritt im Kampf gegen sexuellen Missbrauch von Kindern klingt, hat jedoch auch seine Schattenseiten.

Ist die Funktion erst einmal da, werden Sicherheitsbehörden großes Interesse daran haben, Nutzerbilder auch nach weiteren Inhalten zu durchsuchen. Das mag in vielen Fällen auch dem Gemeinwohl dienen, Beispielsweise im Bereich Terrorabwehr. Allerdings könnten autokratische Machthaber das Instrument auch nutzen, um z.B. politische Gegner oder kritische Journalisten zu identifizieren.

CSAM Prüfung nur in Apple Cloud

Anzumerken ist auch, dass die CSAM Analyse nur dann greift, wenn Bilder in die Apple Cloud geladen werden. Deaktiviert der Nutzer den automatischen Upload, findet auch keine Analyse der Bilder statt. Dementsprechend gering dürfte der Erfolg der Funktion für den eigentlichen Anwendungsbereich ausfallen. Menschen, die wissen, dass sie etwas zu verbergen haben, werden die entsprechende Funktion an ihrem Apple-Gerät einfach deaktivieren.

Neben Bildern in der iCloud soll auch die Apple eigene Nachrichten App „Messages“ ein- und ausgehende Nachrichten auf CSAM Inhalt prüfen. Auch hier ist das zuvor beschriebene Missbrauchspotential durch Sicherheitsbehörden hoch. Zudem ist es für Kriminelle denkbar einfach diesen Schutz zu umgehen. Sie müssen dazu lediglich eine andere Nachrichten App wie z.B. das beliebte „WhatsApp“ nutzen.

Auch andere Cloud-Dienste setzen bereits auf derartige Filter. Zudem arbeitet der Facebook-Konzern bereits seit einiger Zeit an Algorithmen, die „sensible Inhalte“ erkennen können sollen. Eine Ausbreitung dieser Funktion auf andere Betriebssysteme, Apps und soziale Medien ist daher durchaus denkbar.

Apple will das Feature vorerst nur in den USA aktivieren, eine Ausweitung auf weitere Länder ist laut aber laut Herstellerangaben bereits geplant.

Auch interessant: Wenn die Cloud brennt – wie sicher sind unsere Daten?

Quellen: Heise online, Apfelpatient.de
Bildquellen: Pixabay, Gerd Altmann

Simon Crins

Simon ist ausgebildeter Mediengestalter und absolvierte bereits sein Bachelorstudium an der Mobile University. Währenddessen war er für die ProSiebenSat.1 Gruppe unter anderem als Projektleiter tätig. Seit Ende 2018 arbeitet Simon im Raum Wolfsburg als Test- und Entwicklungsingenieur und hat im September 2020 sein Masterstudium in Medien- und Kommunikationsmanagement an der Mobile University begonnen.