Überprüft von 
Laut dem US-Justizministerium hat es Maßnahmen ergriffen, um eine ausgeklügelte KI-gestützte Informationsoperation zu stoppen, die angeblich von Russland gesteuert wurde. Nach Angaben des Ministeriums waren an der Operation fast 1.000 Accounts auf der sozialen Plattform X beteiligt, die amerikanische Identitäten annahmen.
Die Operation soll mit dem staatlichen russischen Nachrichtensender RT in Verbindung stehen und vom Föderalen Sicherheitsdienst des Landes geleitet worden sein. Die Absicht war, “Desinformation zu verbreiten, um Zwietracht in den Vereinigten Staaten und anderswo zu säen”, wie es in den Gerichtsdokumenten heißt.
The Justice Department today announced the seizure of two domain names and the search of 968 social media accounts used by Russian actors to create an AI-enhanced social media bot farm that spread disinformation in the United States and abroad. Learn more: https://t.co/ibmqaruf5U pic.twitter.com/apWv6rGRYL
— FBI (@FBI) July 9, 2024
Die X-Accounts wurden angeblich eingerichtet, um pro-russische Propaganda zu verbreiten. Sie wurden jedoch nicht von Menschen betrieben, sondern waren automatisierte “Bots”. RT, früher bekannt als Russia Today, sendet unter anderem in englischer Sprache und ist im Netz wesentlich einflussreicher als über traditionelle Verbreitungswege.
Die Initiative für die Bot-Operation ging Berichten zufolge vom stellvertretenden Chefredakteur von RT im Jahr 2022 aus und wurde von einem Beamten des Föderalen Sicherheitsdienstes, dem wichtigsten Nachfolger des KGB, unterstützt und finanziert. Darüber hinaus übernahm das Justizministerium die Kontrolle über zwei Websites, die für die Verwaltung von Bot-Accounts zuständig waren, und zwang X zur Herausgabe der Daten von 968 Konten, bei denen es sich mutmaßlich um Bots handelte.
Russische Bot-Farmen nutzen KI
Das FBI warnte gemeinsam mit dem niederländischen Geheimdienst und kanadischen Cybersicherheitsbeamten vor “Meliorator“, einem Tool, das in der Lage ist, “massenhaft authentisch aussehende Social-Media-Personen” zu erstellen. Es kann auch Texte und Bilder erstellen und Desinformationen von anderen Bots reproduzieren.
Aus den Gerichtsdokumenten geht hervor, dass die KI zur Erstellung der Accounts genutzt wurde, um eine Anti-Ukraine-Stimmung zu verbreiten.
“Mit der heutigen Aktion haben wir zum ersten Mal eine von Russland finanzierte generative KI-gestützte Social-Media-Bot-Farm zerschlagen”, sagte FBI-Direktor Christopher Wray.
“Russland beabsichtigte, diese Bot-Farm zu nutzen, um KI-generierte ausländische Desinformation zu verbreiten und ihre Arbeit mit KI zu skalieren, um unsere Partner in der Ukraine zu untergraben und geopolitische Erzählungen zugunsten der russischen Regierung zu beeinflussen”, so Wray weiter.
Die Konten wurden inzwischen von X entfernt und Screenshots, die von FBI-Ermittlern zur Verfügung gestellt wurden, zeigen, dass sie nur sehr wenige Follower angezogen haben.
Falsche amerikanische Identitäten
Die Washington Post berichtete über ein großes Schlupfloch, durch das Bots die Sicherheitsmaßnahmen von X umgehen konnten. Der Zeitung zufolge können sie “OTPs von ihren E-Mail-Konten kopieren, um sich einzuloggen”. Das Justizministerium berichtete, dass die Verwendung von Domain-Namen mit Sitz in den USA einen Verstoß gegen den International Emergency Economic Powers Act darstellt. Darüber hinaus verstoßen die finanziellen Transaktionen, die diese Operationen unterstützen, gegen die US-Bundesgesetze zur Geldwäsche.
Screenshot eines angeblich gefälschten Kontos, das vom FBI geteilt wurde
Viele dieser gefälschten Profile kopierten amerikanische Identitäten, indem sie amerikanisch klingende Namen verwendeten und X Standorte in den USA angaben. Das Justizministerium wies darauf hin, dass diese Profile in der Regel Bilder von Personen auf grauem Hintergrund zeigten, die anscheinend mit Hilfe künstlicher Intelligenz erstellt worden waren.
Ein Profil mit dem Namen Ricardo Abbott, der angab, aus Minneapolis zu kommen, verbreitete beispielsweise ein Video des russischen Präsidenten Wladimir Putin, in dem dieser das Engagement Russlands in der Ukraine verteidigte. Ein anderes Profil mit dem Namen Sue Williamson teilte ein Video, in dem Putin erklärt, dass es bei dem Konflikt in der Ukraine nicht um Territorium gehe, sondern um “Prinzipien, auf denen die neue Weltordnung basieren wird”. Diese Beiträge wurden anschließend von anderen Bots im Netzwerk geliked und geteilt.
Weitere Details aus dem Justizministerium enthüllten, dass verknüpfte E-Mail-Konten erstellt werden können, wenn der Nutzer die Internetdomain besitzt. Beispielsweise kann die Kontrolle über die Domäne www.example.com E-Mail-Adressen wie [email protected] öffnen.
In diesem Fall verwalteten und nutzten die Täter die Domainnamen “mlrtr.com” und “otanmail.com”, die beide über einen in den USA ansässigen Dienst registriert waren, um E-Mail-Server einzurichten, die die Erstellung gefälschter Social-Media-Accounts durch ihre Bot-Farm-Technologie unterstützten.
Abbildung: Canva / Ideogram
