Überprüft von 
Die US-amerikanische Federal Trade Commission (FTC) hat bekannt gegeben, dass sie gegen mehrere Unternehmen vorgeht, die KI als Mittel einsetzen, um „betrügerisches oder unfaires Verhalten zum Nachteil der Verbraucher“ zu begünstigen.
Die Operation mit dem Namen AI Comply richtet sich gegen drei Unternehmen für Geschäftsmöglichkeiten und zwei Unternehmen, darunter die Anwaltskanzlei DoNotPay.
Die FTC stellte fest, dass eines der Unternehmen ein KI-Tool bewarb, mit dem seine Kunden gefälschte Bewertungen erstellen konnten, während ein anderes Unternehmen behauptete, „AI Lawyer“-Dienstleistungen zu verkaufen, während mehrere Unternehmen behaupteten, sie könnten KI einsetzen, um Verbrauchern zu helfen, über Online-Shops Geld zu verdienen.
Die Vorsitzende der FTC, Lina M. Khan, erklärte: „Der Einsatz von KI-Tools, um Menschen zu täuschen, irrezuführen oder zu betrügen, ist illegal.”
„Die Durchsetzungsmaßnahmen der FTC machen deutlich, dass es für KI keine Ausnahmen von den geltenden Gesetzen gibt. Indem die FTC hart gegen unfaire oder betrügerische Praktiken auf diesen Märkten vorgeht, stellt sie sicher, dass ehrliche Unternehmen und Innovatoren eine faire Chance haben und Verbraucher geschützt werden.“
Wir berichteten bereits letzten Monat, dass die FTC versucht, Leitplanken gegen KI zu errichten, nachdem sie einstimmig für ein Verbot gefälschter Online-Bewertungen gestimmt hatte.
FTC geht gegen DoNotPay wegen betrügerischer KI vor
In der Beschwerde stellte die FTC fest, dass DoNotPay seinen Anspruch, den „weltweit ersten Roboteranwalt“ anzubieten, nicht erfüllt habe.
Die FTC stellte fest, dass DoNotPay zwar behauptete, sein Dienst könne Kunden in die Lage versetzen, „jemanden ohne Anwalt wegen Körperverletzung zu verklagen“ und „in kürzester Zeit“ gültige Rechtsdokumente zu erstellen, dass das Unternehmen jedoch nicht nachprüfte, ob die „Leistung“ seines KI-Chatbots „dem Niveau eines menschlichen Anwalts“ entsprach.
Darüber hinaus stellte die FTC fest, dass der Service von DoNotPay, der angeblich die Website eines kleinen Unternehmens nur anhand der E-Mail-Adresse des Kunden auf Verstöße gegen Bundes- und Landesgesetze überprüfte, „nicht in der Lage war, diese potenziell kostspieligen Verstöße effektiv aufzudecken“.
DoNotPay räumte kein Fehlverhalten ein, erklärte sich aber bereit, die Anklage durch Zahlung von 193.000 US-Dollar beizulegen. Das Unternehmen wird außerdem Verbraucher, die seinen Dienst zwischen 2021 und 2023 abonniert haben, über die Einschränkungen seiner rechtlichen Funktionen informieren. „Die vorgeschlagene Unterlassungsverfügung wird es dem Unternehmen außerdem untersagen, ohne Nachweis seiner Fähigkeit, professionelle Dienstleistungen zu ersetzen, Behauptungen aufzustellen“, erklärte die FTC.
Ascend Ecom
In einem der vier am Mittwoch bekannt gegebenen Fälle verklagt die FTC ein Geschäftssystem, das unter Namen wie Ascend Ecom, Ascend CapVentures und ACV Nexus bekannt ist und von William Basta und Kenneth Leung betrieben wird.
Laut der Klage der FTC, die beim Bundesgericht in Los Angeles eingereicht wurde, hat das Ascend-Programm „Verbraucher um mindestens 25 Millionen Dollar betrogen“, indem es „Verbraucher mit betrügerischen Gewinnversprechen dazu verleitet hat, Zehntausende Dollar pro Person zu zahlen, um in eine angeblich todsichere Geschäftsmöglichkeit im E-Commerce oder in Online-Shops zu investieren“.
Weiter heißt es in der Klageschrift: “Seit etwa 2023 behaupten die Beklagten in ihren betrügerischen Verkaufsgesprächen, dass ihr Geschäftsmodell von künstlicher Intelligenz (KI) angetrieben wird”. Weiter heißt es: „Die Beklagten behaupten, dass Verbraucher schnell Tausende von Dollar an passivem Einkommen verdienen werden, das durch Verkäufe in Online-Shops auf E-Commerce-Plattformen wie Amazon.com und Walmart.com generiert wird.“
Nachdem die Verbraucher in das Programm investiert hätten, seien „die versprochenen Gewinne jedoch nie eingetroffen und die Verbraucher blieben mit leeren Bankkonten und hohen Kreditkartenrechnungen zurück“, heißt es in der Klage.
Die FTC gab bekannt, dass ein Richter aufgrund der Klage eine einstweilige Verfügung erlassen habe, mit der das Programm vorübergehend eingestellt und unter die Kontrolle eines Insolvenzverwalters gestellt wurde.
FBA Machine und Rytr
Im Juni ging die FTC auch gegen ein System namens Passive Scaling und FBA Machine vor, das angeblich falsche Versprechungen über garantierte Einnahmen durch KI-gestützte Online-Shops machte. Das von Bratislav Rozenfeld betriebene System kostete Verbraucher mehr als 15,9 Millionen US-Dollar. Ein Bundesgericht setzte den Betrieb vorübergehend aus und stellte ihn unter die Kontrolle eines Insolvenzverwalters.
Seit April 2021 verkaufte Rytr einen KI-„Schreibassistenten“ zur Erstellung von Erfahrungsberichten und Rezensionen. Die FTC war der Ansicht, dass dieser falsche und irreführende Rezensionen mit spezifischen, nicht zusammenhängenden Details erstellte und die Verbraucher täuschte. Der vorgeschlagene Vergleich untersagt Rytr den Verkauf von Dienstleistungen zur Erstellung von Rezensionen. Die Kommission gab der Beschwerde mit 3:2 Stimmen statt.
Abbildung: Canva
