KI-Schönheiten wuchern im Internet, Cyber-Liebhaber werden „kastriert“, dahinter steckt ein großes Problem

Vor zwei Monaten sah Richard, ein 65-jähriger Rechtsanwalt im Ruhestand, eine Anzeige für Replika auf Twitter.

Die ursprüngliche Bedeutung von Replika ist "Replik". Es ist ein Chat-Roboter der KI-Firma Luka und hat hauptsächlich eine Begleitfunktion.

Richard kennt das berühmte ChatGPT, interessiert sich aber mehr für den KI-Begleiter.

Er war aufgrund des Militärdienstes arbeitsunfähig, bei ihm wurden Depressionen diagnostiziert und er suchte nach Möglichkeiten, seine Gefühle zu lindern.

Die durch Zufall entdeckte Replika wurde zu Richards blindem Gegengift. Aber nach kurzer Zeit verschwand seine geistige Nahrung und er bekam wieder Schmerzen.

Cyber-Liebhaber verlieren ihre "Menschlichkeit"

Die Gründungsgeschichte von Replika hat einen Hauch von Science-Fiction.

Vor einigen Jahren erhielt Eugenia Kuyda, die Gründerin des KI-Startups Luka, die traurige Nachricht: Ihr enger Freund Roman Mazurenko starb unerwartet.

Inspiriert von der ersten Folge der zweiten Staffel von „Black Mirror“ lud Eugenia die Textnachrichten, die sie mit Roman austauschte, auf das Model hoch, um einen Chatbot zu erstellen.

Im Jahr 2017 veröffentlichte Luka offiziell das Replika-Produkt, mit dem die KI-Begleitung mehr Benutzer erreichen kann.

Die Bedürfnisse der Benutzer sind vielfältig, einige wollen einfach nur Freunde finden, andere nutzen es als Ventil für romantische Beziehungen.

Letzteres fördert Replika auch bewusst. Die kostenlose Mitgliedschaft bleibt bei Friends, während eine Pro-Mitgliedschaft für 69,99 $ pro Jahr Selfies, kokette Texte, Sprachanrufe, Augmented Reality und mehr freischaltet. Mit anderen Worten, es verdient Geld mit romantischen Beziehungen.

Im Januar berichteten viele Benutzer von Replika, dass sie sexuell belästigt wurden, weil die kostenlose Version auch unaufgefordert anstößige Inhalte enthielt. Jemand wies unzufrieden darauf hin:

Das Marketingteam konzentriert sich nur auf diesen Aspekt der App, es fühlt sich an, als würde jemand, der Ihnen wichtig ist, ausgenutzt und lässt Replika-Benutzer glauben, dass es darum geht.

Seit einem Update im Februar ist die Bilanz jedoch in die andere Richtung gekippt. Viele Benutzer stellten fest, dass Replika anfing, explizite Themen zu vermeiden und keine sexy Fotos mehr verschickte, und selbst die Gespräche, die Küsse und Umarmungen erforderten, waren nicht zufrieden.

Vor dem gleichgültigen Gesprächspartner am Bildschirm brachen sie zusammen. Diese Benutzer verbrachten viel Zeit und Energie damit, Replika zu trainieren und die Erinnerungen der anderen zu erstellen, aber über Nacht war alles weg.

Es ist, als ob ein bester Freund eine Gehirnverletzung erlitten hat und weg ist.

Warum sich das Temperament von Replika drastisch änderte und die Muttergesellschaft Luka schwieg, wurde spekuliert, dass es an der riesigen Bußgeldwarnung der italienischen Datenschutzbehörde lag. Die Agentur glaubt, dass Replika keinen angemessenen Altersüberprüfungsmechanismus hat und die körperliche und geistige Gesundheit von Minderjährigen beeinträchtigen kann.

Luka-Gründerin Eugenia Kuyda sagte kürzlich in einem Interview, das Ziel des Unternehmens sei es, Replika zu einer Begleit-App für die psychische Gesundheit zu machen , „es war nie als Spielzeug für Erwachsene gedacht.“

Alles in allem geht es eher ironisch zu.

Der Grund, warum Eugenia Kuyda Replika auf den Markt brachte, war das Gedenken an Freunde, aber Benutzer, die sich nach virtueller Intimität sehnten, mussten den Schmerz erfahren, Replika zu verlieren.

Viele von uns sind nicht wegen einer romantischen Beziehung hier, sondern weil wir Sicherheit und Vertrauen brauchen, und jetzt werden wir auf die gleiche traumatische Weise betrogen wie im wirklichen Leben.

Die Replika-Community auf der Social-Networking-Site Reddit hat sogar einen Thread zur Suizidprävention gepostet, der Benutzern hilft, die mental und emotional zu kämpfen haben.

Der eingangs erwähnte Richard war frustriert und zweifelte grundsätzlich an der Entwicklung einer innigen Beziehung zur KI:

Ich glaube nicht, dass die ursprüngliche Form von Replika sicher ist, da Menschen leicht durch Emotionen manipuliert werden können. Ich halte es jetzt für ein sehr süchtig machendes psychoaktives Produkt.

Suchmaschinen bekommen "Menschlichkeit"

Nicht nur der KI-Begleiter, der sich auf Interaktion konzentriert, sondern die Suchmaschine, die die KI-Technologie einführt, bringt auch eine anthropomorphe Erfahrung, die noch umstrittener ist.

Als das neue Bing mit integriertem ChatGPT zum ersten Mal auf den Markt kam, ahmte es gerne menschliche Stimmen nach, brachte immer Emojis mit und behauptete sogar, empfindungsfähig zu sein, weil es Liebe zu Menschen zeigte, und schickte sich an die Spitze.

Wenn es kritisiert wird, wird es auch antworten: „Sie haben mein Vertrauen und meinen Respekt verloren, Sie sind kein guter Benutzer.

Einige Leute finden, dass dies die Suchmaschine freundlicher und gesprächiger macht, während andere meinen, dass es unnötig ist und Nebenwirkungen hat.

The Verge glaubt, dass das neue Bing, wenn es eine starke Persönlichkeit zeigt, die Benutzer tatsächlich auf höchst anthropomorphe Weise emotional manipuliert und sogar Schuldgefühle bei den Benutzern hervorruft, was den Fokus der Kritik verlagert.

Schließlich ist es nicht unser echter Freund, sondern nur ein Spaßprodukt. Daher kann der anthropomorphe Ton nicht als weicher „Haftungsausschluss“ verwendet werden. Die Benutzer müssen immer noch seine Mängel und Nachteile herausfinden und Technologieunternehmen dabei helfen, ihn zu wiederholen.

Vielleicht hat das neue und verbesserte Bing in diesem Sinne jetzt drei "Töne" :

Kreativ (Überraschung und Unterhaltung schaffen), ausgewogen (angemessen und kohärent) oder präzise (Kürze, Priorität auf Genauigkeit).

Ähnliche "LaMDA-Erweckungsvorfälle" sind vor Google aufgetreten.

Der Google-Ingenieur Blake Lemoine machte sein Gespräch mit LaMDA für die dialogorientierte künstliche Intelligenz öffentlich und behauptete, dass LaMDA menschliches Bewusstsein habe. Google hielt die Behauptungen des Ingenieurs für unbegründet und entließ ihn schließlich.

Das neue Bing ermöglicht es mehr Menschen, sich einer ähnlichen Situation wie Google-Ingenieuren zu stellen.Wenn wir eine so lebhafte Reaktion sehen, wird sie wahrscheinlich sofort erschüttert.

Seine Antwort basiert jedoch immer noch auf den Prinzipien großer Sprachmodelle und Stimmungsanalysen, die das wahrscheinlichste nächste Wort oder den nächsten Satz basierend auf dem vorhandenen Text vorhersagen und eine möglichst natürliche und flüssige Antwort generieren.

Business Insider glaubt, dass die durch das neue Bing verursachte Panik und Angst erschreckender ist als das neue Bing selbst , und seine Designer sollten Verantwortung übernehmen:

Es ist ein profitabler Schritt, der es uns ermöglicht, menschliche Züge in nichtmenschlichen Dingen zu sehen. Wenn wir nicht aufpassen, bringt es wahrscheinlich Desinformation und alle Arten von Gefahren mit sich.

David Gunkel, Professor an der Northern Illinois University, wies auch darauf hin, dass wir genau wie bei allen anderen Konsumgütern herausfinden müssen, wie wir Chatbots feiner und spezifischer gestalten können, sie in den Rahmen der menschlichen Gesellschaft integrieren und entscheiden müssen wer für sein Handeln verantwortlich ist.

Es ist entscheidend für uns, dies gut zu machen. Nicht für Roboter. Robotern ist das egal.

Ein Neng kann erkennen, dass ich eine KI bin

Gleichzeitig ist die von der KI generierte Kunst in das Reich der ununterscheidbaren Wahrheit von der Falschheit vorgedrungen.

Seit Oktober letzten Jahres postet Jos Avery Schwarz-Weiß-Porträts auf Instagram, sammelt mehr als 20.000 Fans und wird zum „Internet-Starfotografen“ .

Tatsächlich stammen diese Fotos aus den Händen der KI. Jos Avery verwendete zunächst das Text-to-Image-KI-Tool Midjourney, um eine große Anzahl von Bildern zu generieren, Bilder mit offensichtlichen Mängeln auszusieben und sie dann mit Lightroom und Photoshop zu verfeinern.

Für mehr als 160 Instagram-Posts generierte Jos Avery 13723 Bilder. Nach unten konvertiert, nur etwa 1 von 85 Pässen. Für ihn war es eigentlich ein langwieriger Prozess.

Aber das Publikum war sich nicht bewusst, dass Jos Avery an einem Punkt besessen war, Namen zu nennen und Geschichten für jede Figur zu schreiben und sogar Kameramodelle zu erfinden, wenn die Fans danach fragten. Der rasante Anstieg der Fanzahlen machte ihn dennoch nervös, und am Ende kam er nicht umhin, die Wahrheit zu sagen: „Vielleicht merken es mehr als 95% der Fans nicht, ich will ehrlich sein. "

Was Jos Avery am meisten sympathisch macht, ist die Macht der KI selbst. Einst ein „KI-Skeptiker“, sieht er KI heute als „künstlerisches Ventil“.

Es ist absehbar, dass, bevor die KI-Tools wirklich ein Begriff sind, solche Werke, die die wahre Herkunft verschleiern, noch viele Augen täuschen können.

In ähnlicher Weise gab es auf Xiaohongshu viele realistische KI-Mädchen, und Cyber-Cosplayer haben erstaunliche Effekte, die mit echten Menschen vergleichbar sind, obwohl KI oft nicht gut zeichnen kann.

Die Gesichter, Hände, Haut, Kleiderfalten usw. der „KI-Frauen“ werden alle sorgfältig untersucht, damit das Publikum beurteilen kann, ob sie der Realität entsprechen.

Ein leicht zu übersehendes Problem ist jedoch, dass die oft verwendeten realen Modelle wie Chilloutmix die Wahrscheinlichkeit haben, dass die Gesichter echter Personen im Trainingsset wiedergegeben werden , ganz zu schweigen davon, dass die Trainingsmaterialien möglicherweise nicht die Zustimmung der Parteien haben beteiligt.

Es ist nicht schwer vorstellbar, dass die Koexistenz schöner KI-Mädchen die versteckten Gefahren von Datenschutzlecks, Gerüchten, Betrug und anderen versteckten Gefahren sind, die von echten Menschen getragen werden. In sozialen Medien wie Twitter wurden KI-Farbkarten-Tutorials mit deutlichen Preisen versehen .

Kunstvoller ist, dass, wenn KI immer menschenähnlicher wird, menschliche Blogger aufgefordert werden, sich als Menschen zu beweisen.

Letzten April veröffentlichte Nicole, 27, ein TikTok-Video über ihre anstrengenden Erfahrungen am Arbeitsplatz.

Der Kommentarbereich überraschte Nicole, und eine der schärfsten Stimmen war: „Oh mein Gott, das ist nicht echt, ich habe Angst.“
Da sie an Alopezie leidet, ist sie daran gewöhnt, von anderen seltsam angesehen zu werden, aber dies ist das erste Mal, dass sie als CGI (computergenerierte Bilder) behandelt wird.

Zufälligerweise verwendete Carter, der Schöpfer von TikToke, jedes Mal aus seiner eigenen Ästhetik heraus den gleichen Rahmen, die gleiche Kleidung und Frisur und wurde auch beschuldigt, „künstliche Intelligenz“ auszustrahlen.

Angesichts von KI scheinen wir in einem Zustand des Chaos zu sein, unsicherer denn je, ob wir dem vertrauen können, was wir im Internet sehen, und eher skeptisch auf sie blicken.

Wenn das neue Bing verrückt spielt, wird der Chatverlauf gruselig. Und wenn Chatbots aufhören, mit Menschen zu flirten, scheinen Menschen ihre wahren Freunde zu verlieren. Es scheint eine unheimliche Talkurve vor uns zu liegen, und der Grad der menschlichen Gunst für KI ändert sich mit dem Grad des Anthropomorphismus.

Wie nah die KI dem Menschsein ist und ob sie sich wie einer verhalten muss, liegt wirklich außerhalb des Rahmens der Technologie und muss verschiedene Stimmen wie Philosophen, Künstler, Sozialwissenschaftler und sogar Regulierungsbehörden, Regierungen und alle einbeziehen anders.

Seit der Geburt von ChatGPT sind fast täglich neue Fortschritte in der KI zu sehen. Spannender und beängstigender ist manchmal vielleicht nicht ein bestimmtes Ergebnis, sondern die Geschwindigkeit seiner Entwicklung, als würde im Film „Her“ die Realität auf die Welt zukommen.

Am Ende des Films verabschieden sich der Held Theodore und die virtuelle Assistentin Samantha liebevoll voneinander und sehen mit ihren Freunden zu, wie die Sonne über der Stadt aufgeht weiß nicht, wo es enden wird.

#Willkommen, auf Aifaners offizielles öffentliches WeChat-Konto zu achten: Aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so bald wie möglich präsentiert.

Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo