Die Europäische Kommission hat YouTube, Snapchat und TikTok um Informationen über die Gestaltung und Funktionsweise von Empfehlungssystemen gebeten. Bei Empfehlungssystemen handelt es sich um Algorithmen des maschinellen Lernens, die Daten nutzen, um einem Nutzer Inhalte vorzuschlagen, die ihn interessieren könnten.
Im Rahmen des Digital Services Act (DSA), der bahnbrechenden EU-Verordnung zur Moderation von Inhalten, erklärte die Kommission jedoch, dass diese Systeme das „Herzstück“ der systemischen Risiken darstellen, die Plattformen für die Nutzer darstellen.
In einer Erklärung, die am Mittwoch (2. September) veröffentlicht wurde, sagte die EU-Kommission: „Im Rahmen der DSA müssen Plattformen die von ihren Empfehlungssystemen ausgehenden Risiken bewerten und angemessen abmildern, einschließlich der Risiken für die psychische Gesundheit der Nutzer und die Verbreitung schädlicher Inhalte, die sich aus dem auf Engagement basierenden Design dieser Algorithmen ergeben.“
Die Anfragen „betreffen auch die Maßnahmen der Plattformen, um den potenziellen Einfluss ihrer Empfehlungssysteme auf die Verbreitung illegaler Inhalte, wie die Förderung illegaler Drogen und Hassreden, abzuschwächen“.
Die Kommission erklärte, sie habe TikTok um weitere Informationen zu den Maßnahmen gebeten, die das Unternehmen ergriffen hat, um zu verhindern, dass schlechte Nutzer die Plattform manipulieren, und um die Risiken im Zusammenhang mit Wahlen und dem zivilgesellschaftlichen Diskurs zu mindern.
YouTube und Snapchat müssen Fragen zu den Parametern ihrer Empfehlungsalgorithmen und deren potenzieller Rolle bei der Verstärkung systemischer Risiken, einschließlich solcher im Zusammenhang mit dem Jugendschutz, beantworten.
Die drei Social-Media-Unternehmen haben bis zum 15. November Zeit, die Daten zu übermitteln. Die EU teilte mit, dass ihre Antworten die nächsten Schritte bestimmen werden, einschließlich der Einleitung formeller Untersuchungen und möglicher Geldstrafen.
EU eröffnet förmliches Verfahren gegen Meta wegen seines Empfehlungssystems
Die EU hat bereits zuvor ein Verfahren wegen Nichteinhaltung der DSGVO eingeleitet, die Technologieunternehmen dazu zwingt, stärker gegen illegale und schädliche Inhalte auf ihren Plattformen vorzugehen. Das Verfahren steht im Zusammenhang mit den Empfehlungen von Metas Facebook und Instagram, AliExpress und TikTok.
Die Kommission befasst sich nicht mit Meta, der Muttergesellschaft von Facebook und Instagram, da dieselben Fragen bereits in dem im Mai gegen das Unternehmen eröffnete offizielle Verfahren behandelt wurden.
ReadWrite berichtet, dass die Behörde ihre Besorgnis darüber zum Ausdruck gebracht hat, dass die Systeme von Facebook und Instagram, einschließlich ihrer Algorithmen, Verhaltenssüchte bei Kindern fördern und sogenannte „Rabbit-Hole-Effekte“ verursachen könnten.