Back to top

EU-Kommission stellt umstrittenes Kinderschutzpaket vor

18.05.2022

Chatkontrolle, Uploadfilter, Altersverifikation, „Client-side-Scanning” – das Aus für die Ende-zu-Ende-Verschlüsselung? Die EU-Kommission hat am 11. Mai 2022 ihren Gesetzesentwurf zum Kampf gegen Kindesmissbrauch im Internet vorgestellt. Bereits vorab gab es breite Kritik gegen den geleakten Vorschlag der schwedischen EU-Innenkommissarin Ylva Johansson, insbesondere aus datenschutzrechtlicher Sicht. Nach Ansicht der Kritiker:innen öffnet der Gesetzesentwurf Tür und Tor für massive Eingriffe in Grundrechte wie Meinungsfreiheit, Schutz personenbezogener Daten und Privatsphäre – einschließlich der von Missbrauchsopfern.

Der Kommissionsvorschlag richtet sich an die Dienste der Informationsgesellschaft, insbesondere Access- und Hosting-Provider als Dienste der interpersonellen Kommunikation. Medienangebote können vom Vorschlag erfasst sein, insofern sie Kommunikationsdienste in ihre Angebote einbinden. Die vorgeschlagenen Verifikations- und Scanning-Maßnahmen könnten den Zugang zu Medien bzw. den journalistischen Quellenschutz erschweren.

Der Kommissionsvorschlag will Messenger- und Hosting-Anbieter verpflichten, „bekannte oder neue“ Inhalte zu filtern, die missbräuchliche Darstellungen von Kindern enthalten. Zwar wird im Entwurf die „hohe“ Genauigkeit von Uploadfiltern im Kampf gegen die digitale Verbreitung von Missbrauchsdarstellungen hervorgehoben, die EU-Kommission überträgt jedoch die entscheidenden Befugnisse den Mitgliedstaaten – und überlässt es dabei auch den nationalen Behörden, „geeignete Technologien“ zum Filtern der Inhalte vorzuschlagen. „Unser Vorschlag ist technologieneutral“, erklärt EU-Innenkommissarin Johansson. Allerdings würden schon heute verschlüsselte Inhalte auf Malware geprüft. „Dieselbe Technologie kann für Darstellung von Kindesmissbrauch genutzt werden.“ Das schließt auch den Einsatz eines sogenannten „Client-side-Scannig“ (CSS) ein, eine Chatkontrolle, mit der Nachrichten auf den Endgeräten der Nutzer:innen noch vor dem Versenden durchsucht werden können.

Neue EU-Behörde zur Kontrolle der Inhalte

Gleichzeitig geht aus dem Entwurf hervor, dass die eingesetzten Technologien lediglich die Informationen extrahieren können sollen, die auf die Verbreitung von Missbrauchsmaterial hindeuten. Welche Technologien zu solch einer Differenzierung fähig sind, führt die Kommission nicht weiter aus. Die Ampel-Parteien der Bundesregierung haben sich jedoch im Koalitionsvertrag klar und deutlich gegen Maßnahmen zum Scannen privater Kommunikation und für das Recht auf anonyme und pseudonyme Nutzung des Internets sowie die Stärkung von Ende-zu-Ende-Verschlüsselungen ausgesprochen – was den Einsatz von Chatkontrollen praktisch ausschließt.

Ähnlich wie bei der Umsetzung des Digital Services Act plant die Kommission, eine zentrale Einrichtung zu schaffen, die als Behörde und Anlaufstelle für die Anbieter dient. Das „EU-Zentrum zur Bekämpfung von Kindesmissbrauch“ mit Sitz in Den Haag soll die Kontrolle problematischer digitaler Inhalte übernehmen und gewährleisten, dass Messenger- und Hosting-Anbieter ihre gewählten Maßnahmen unter Wahrung der Grundrechte einsetzen. Insgesamt sieht der Gesetzesentwurf ein mehrstufiges Verfahren vor, bei dem Anbieter von Kommunikationsdiensten zu einer Risikobewertung verpflichtet werden, ob es Hinweise auf eine illegale, digitale Verbreitung von Missbrauchsdarstellungen gibt. Die Anbieter müssen den nationalen Behörden risikomindernde Maßnahmen vorlegen, die dann wiederum eine gerichtliche Anordnung zur Aufspürung illegaler Inhalte erwirken kann.

Bis zum 13. Juli 2022 führt die EU-Kommission eine Konsultation zur Überprüfung der EU-Vorschriften zur Bekämpfung des sexuellen Missbrauchs durch. Diese Konsultation befasst sich nicht mit dem konkreten Vorschlag der EU-Kommission, sondern neben strafrechtlichen Aspekten allgemein mit neuen Internettechnologien.

Datenschutzkritik am Kommissionsentwurf

Der Bundesdatenschutzbeauftragte Ulrich Kelber hält den EU-Vorschlag nicht mit den europäischen Werten und dem geltendem Datenschutzrecht für vereinbar. Die von Johansson angedachte neue EU-Behörde werde eine „europäische Big-Brother-Agentur“, kritisiert der FDP-Europaparlamentarier Moritz Körner. Sowohl der SPD-Digitalexperte Tiemo Wölken als auch die SPD-Europaparlamentarierin Birgit Sippel – und damit Johanssons Parteikolleg:innen – kommentieren den Entwurf kritisch und sehen darin eine „Katastrophe“. Die Grünen-Bundestagsabgeordneten Konstantin von Notz und Tobias Bacherle bewerten die Pläne der Kommission in einem gemeinsamen Statement als problematisch. Ihre Parteikollegin und Grünen-Abgeordnete Alexandra Geese bewertet den Vorschlag als „blinden Aktionismus“ und sprach von einem „Freifahrtschein für das Überwachen der gesamten privaten Kommunikation von Menschen“. Der Vorschlag zur Chatkontrolle komme einer „anlasslosen Massenüberwachung“ gleich. Der Verein Digitale Gesellschaft kündigte ebenfalls „entschiedene Gegenwehr“ der digitalen Zivilgesellschaft gegen das Gesetz an.

Ansprechpartner

Tim Steinhauer

Senior Referent Medienverantwortung und Programm