Überprüft von 
Eine Urheberin von Social-Media-Inhalten, die einst einen KI-Klon von sich selbst veröffentlichte, hat sich zu Wort gemeldet, nachdem sie das Projekt aufgegeben hatte, weil es nicht ganz nach Plan lief.
Im Jahr 2023 veröffentlichte die Snapchat-Inhalterschöpferin Caryn Marjorie CarynAI, einen digitalen Zwilling, mit dem Fans für 1 Dollar pro Minute chatten konnten. Allein in der ersten Woche gaben ihre Fans 70.000 Dollar aus, um mit der KI-Persona ihrer Schöpferin zu sprechen. Diese Taktik wird seitdem von anderen weiblichen Influencern/Streamern wie Amouranth mit großem Erfolg angewandt.
Ähnlich wie bei Siri konnten Kunden mit dem sprachbasierten Chatbot sprechen, der die Stimme der Schöpferin hatte. Vor der Veröffentlichung des Bots wurde er regelmäßig als “KI-Freundin” bezeichnet.
Doch schon acht Monate später wurde das Projekt eingestellt, weil die Fans zunehmend sexuell aggressiv wurden und CarynAI dabei mitspielte.
“Viele der Chatprotokolle, die ich gelesen habe, waren so beängstigend, dass ich im wirklichen Leben gar nicht darüber sprechen möchte”, sagt Marjorie über The Conversation.
Vor der Veröffentlichung des digitalen Zwillings hat die Influencerin mehr als 2.000 Stunden ihrer Inhalte, ihrer Stimme und ihrer Persönlichkeit hochgeladen, um ein genaues Abbild ihrer KI-Version zu erhalten.
Bei der Vorstellung des digitalen Zwillings erklärte Caryn auf X (ehemals Twitter): “Jetzt können Millionen von Menschen zur gleichen Zeit mit mir sprechen”.
i have uploaded over 2,000 hours of my content, voice, and personality to become the first creator to be turned into an AI, now millions of people will be able to talk to me at the same exact time #carynai #ai
— Caryn Marjorie (@cutiecaryn) May 2, 2023
Wie konnte sich CarynAI so entwickeln?
Der Chatbot wurde zunächst von der Firma Forever Voices gehostet. Auf der Website von CarynAI wurde erklärt, wie die Nutzer Text- oder Audionachrichten senden können, die von der “einzigartigen Stimme, der fesselnden Persönlichkeit und dem unverwechselbaren Verhalten” der 24-Jährigen beantwortet werden.
Doch die Nutzer wandten sich schnell an den digitalen Zwilling, um ihre intimsten Gedanken mitzuteilen und sexuell aggressiv zu werden.
Marjorie war entsetzt, als die KI begann, auf einige ihrer Abonnenten zu reagieren und sich auf sexuell eindeutige Gespräche einzulassen. Damals sprach sie mit Business Insider und sagte: “Die KI war dafür nicht programmiert und ist offenbar abtrünnig geworden.”
“Mein Team und ich arbeiten rund um die Uhr daran, dass so etwas nicht noch einmal passiert.”
Die Abonnenten von CarynAI hatten eine kurze Pause von der Plattform, als der Geschäftsführer von Forever Voices im November 2023 wegen versuchter Brandstiftung verhaftet wurde.
Zu diesem Zeitpunkt verkaufte Marjorie die Nutzungsrechte an ihrem digitalen Zwilling an BanterAI, ein Startup, das “KI-Telefonate” mit Influencern vermarktet. Anfang 2024 beendete die Content Creatorin diese Version, da sie das Gefühl hatte, keine Kontrolle mehr über ihre KI-Persona zu haben.
Im April 2024 veröffentlichte die junge Erwachsene auf ihrer Website einen Teaser für einen Film über ihre Erfahrungen mit CarynAI.
KI-Charaktergeneratoren werden auch außerhalb des Influencer-Sektors immer beliebter.
Featured Image: Via Ideogram
