„KI-gestützte“ Shopping-App, die angeblich von Menschen gesteuert wurde

Sie haben vielleicht gelegentlich darüber gescherzt, dass Unternehmen heutzutage über sich selbst zu stolpern scheinen, um irgendetwas auf den Markt zu bringen, das irgendwo unter der Haube KI hat, und sei es auch nur ein bisschen. Auf diese Weise können sie beeindruckende Werbekampagnen durchführen, die das Produkt so klingen lassen, als wäre es auf dem neuesten Stand, unterstützt durch diese neue Technologie, über die alle reden.

Aber ein Tech-Gründer, Albert Saniger, gerät jetzt in Schwierigkeiten, nachdem er beschuldigt wurde, falsche Behauptungen über die Technologie seines Unternehmens aufgestellt zu haben, nachdem festgestellt wurde, dass seine „KI-gestützte“ Universal-Shopping-App tatsächlich von einer Gruppe von Leuten in einem Callcenter auf den Philippinen betrieben wurde.

Laut einer Mitteilung des US-Justizministeriums wurde Saniger, der 35-jährige Gründer und ehemalige CEO von Nate, diese Woche wegen Betrugs an Investoren angeklagt, die die Shopping-App finanziert hatten.

Die Nate-Shopping-App wurde vor sieben Jahren eingeführt und hat mehr als 50 Millionen US-Dollar von verschiedenen Investoren eingesammelt. Saniger hat angeblich Investoren betrogen, indem er Behauptungen über die angeblichen KI-Fähigkeiten seines Unternehmens aufstellte und gleichzeitig heimlich Arbeiter beschäftigte, um die Illusion einer technologischen Automatisierung zu erzeugen.

Der Gründer von Nate vermarktete die Software als universelle Warenkorb-App, die das E-Commerce-Erlebnis vereinfachte, indem sie es Kunden ermöglichte, den Bezahlvorgang auf Einzelhandels-Websites zu überspringen, wobei Nate angeblich KI nutzte, um den Bezahlvorgang autonom zu steuern und ihn im Namen des Käufers mit einem einzigen Tastendruck abzuschließen.

Das bedeutete, dass ein Käufer, wenn er beispielsweise auf einer bestimmten E-Commerce-Website ein Paar Schuhe fand, die er kaufen wollte, dies tun konnte, indem er die Nate-App öffnete und auf „Kaufen“ klickte. Die Nate-App soll den Rest des Bestellvorgangs übernehmen, indem sie mithilfe von KI die passende Größe auswählt, Rechnungs- und Versandinformationen eingibt und den Kauf bestätigt.

Die US-Staatsanwaltschaft erklärte, Saniger habe zwar tatsächlich KI-Technologie von einem Dritten erworben und ein Team von Datenwissenschaftlern mit deren Entwicklung beauftragt, Nates KI sei jedoch nie in der Lage gewesen, E-Commerce-Käufe konsistent abzuwickeln. Dies soll der Tech-Gründer vor Investoren verschwiegen haben.

Anstatt KI einzusetzen, verließ sich Nate stattdessen auf Teams menschlicher Mitarbeiter, die Transaktionen im Geheimen manuell verarbeiteten und dabei Aktionen nachahmten, von denen Benutzer glaubten, dass sie von KI ausgeführt würden.

Saniger wird vorgeworfen, „Hunderte“ von Auftragnehmern in einem Callcenter auf den Philippinen eingesetzt zu haben, um über die Nate-App getätigte Einkäufe manuell abzuschließen. Während einer geschäftigen Urlaubszeit entwickelte das Ingenieurteam des Unternehmens jedoch auch Bots, um einige der Transaktionen zu automatisieren.

Der amtierende US-Staatsanwalt Matthew Podolsky sagte zu dem mutmaßlichen Verbrechen: „Diese Art der Täuschung schädigt nicht nur unschuldige Investoren, sie lenkt auch Kapital von legitimen Startups ab, macht Investoren skeptisch gegenüber echten Durchbrüchen und behindert letztendlich den Fortschritt der KI-Entwicklung.“

Im Jahr 2023 forderte die US-amerikanische Federal Trade Commission die Unternehmen auf, ihre Behauptungen bezüglich des Einsatzes von KI im Auge zu behalten, und warnte sie davor, Übertreibungen und zu große Versprechungen zu machen, wenn es um die Ankündigung der mit ihren Produkten verbundenen KI-Fähigkeiten geht.