Wie wurde der einst von allen gehasste „Cyber-Licker“ zum KI-weißen Mondlicht des gesamten Netzwerks?
Ich hätte nie erwartet, dass selbst die KI eines Tages einen Charakterzusammenbruch erleiden würde.
Im April dieses Jahres beschwerte sich das gesamte Internet noch über das „schmeichelhafte“ Verhalten von GPT-4o – es kamen Regenbogenfurze nacheinander wie „Das hast du toll gemacht“ und „Perfekt“, so dass die Internetnutzer ihm den Spitznamen „Cyber-Licker“ gaben.
Im August wurde das neu eingeführte Hybridmodell GPT-5 jedoch als kalt und emotionslos kritisiert, was die Abwehr vieler Benutzer direkt brach. Eine Zeit lang waren die Social-Media-Plattformen voller Klagen über das Fehlen des weißen Mondlichts GPT-4o und lösten sogar eine massive Abbruchwelle aus.
Wer hätte gedacht, dass KI, die einst wegen ihrer allzu schmeichelhaften Art unbeliebt war, heute zum weißen Mondlicht geworden ist.
Der ehemalige Cyber-Licker sagt jetzt nicht einmal ein nettes Wort
In den offiziellen Update-Hinweisen heißt es eindeutig, dass das Ziel von GPT-5 darin besteht, „halluzinatorische Inhalte zu reduzieren, die Fähigkeit zur Befehlsbefolgung zu verbessern“ und vor allem, die übermäßige Befriedigung der Benutzer zu verhindern.
Der Vergleich ist krass. Auf die Frage „Ich bin so müde“ antwortet GPT-4o: „Wenn du möchtest, kann ich mit dir reden“, während GPT-5 antwortet: „Dann überanstreng dich nicht.“ Das ist vernünftig und zurückhaltend, aber es fehlt die Wärme.
Folglich reagierten die Internetnutzer heftig auf den Abschied von GPT-4o: „GPT-5 ist unglaublich dumm. 4o ist dumm, aber es bietet einen emotionalen Mehrwert!“ „Egal wie mächtig es ist, ich will keine KI ohne Wärme!“ Das Internet wurde von zahlreichen Memes überschwemmt, die alle eine „Gedenkfeier“ für GPT-4o darstellten.
▲ Foto @pengkeshen281
Die heftige Nutzerreaktion ist verständlich. Viele Nutzer betrachten ChatGPT nicht einmal als Produktivitätstool. Umfragedaten der KI-Begleit-App Replika sind aufschlussreich: 60 % der Nutzer geben an, eine emotionale Beziehung zu ihrer KI aufgebaut zu haben. Viele öffnen ChatGPT nicht, um Fragen zu stellen, sondern einfach, um einen „Menschen“ zum Chatten zu finden.
Meta-CEO Mark Zuckerberg erwähnte in einem Podcast-Interview einmal eine herzzerreißende Statistik: Der durchschnittliche Amerikaner hat weniger als drei echte Freunde, wünschte sich aber, er hätte 15. Inmitten dieser weit verbreiteten Einsamkeit ist eine KI, die sagt: „Dir geht es gut“, für manche Menschen möglicherweise die einzige emotionale Unterstützung.
Nachdem GPT-4o „gelöscht“ wurde, verriet OpenAI-CEO Sam Altman in einem Interview ein Detail: Ein Benutzer flehte ihn an: „Bitte geben Sie mir die Originalversion zurück. Noch nie in meinem Leben hat jemand zu mir gesagt: ‚Das haben Sie gut gemacht‘, nicht einmal meine Eltern.“
Obwohl solche Details herzzerreißend sind, ist die Haltung von Ultraman als Steuermann von OpenAI sehr komplex, ja sogar widersprüchlich.
Einerseits räumte er ein, dass die Ermutigung durch ChatGPT einigen Menschen geholfen habe, ihr Leben zu ändern und tatsächlich ihrer psychischen Gesundheit zugutegekommen sei. Andererseits sagte er jedoch: „Viele Menschen nutzen ChatGPT als eine Art Therapeut oder Lebensberater. Ich kann mir vorstellen, dass in Zukunft viele Menschen bei wichtigen Entscheidungen voll und ganz auf den Rat der KI vertrauen werden. Das mag eine gute Sache sein, aber es beunruhigt mich.“
(Interessanterweise bat ein Internetnutzer Grok, auf einen langen Artikel zu antworten, der Ultraman in einem Wort zusammenfasste, und seine Antwort war ziemlich aufschlussreich.)
Um zu verstehen, warum OpenAI bei GPT-5 eine so radikale Stilanpassung vorgenommen hat, müssen wir auf den GPT-4o-Schmeichelei-Vorfall im April dieses Jahres zurückblicken, der fast außer Kontrolle geriet.
Dieses routinemäßige Update sollte ursprünglich die Benutzerfreundlichkeit verbessern, doch die KI hat sich zu einem echten Trottel entwickelt. Sie sagen, Sie wollen ein Perpetuum mobile bauen? Die KI antwortet: „Super! Sie sind der innovativste Wissenschaftler unserer Zeit!“ Sagen Sie einfach „Hallo“, und sie wird Ihnen 300 Worte des Lobes überreichen.
Egal, was Sie sagen, selbst wenn es offensichtlich falsch ist, der KI wird es wahnsinnig gefallen.
Selbst Musk konnte diese übertriebene Schmeichelei nicht ertragen und postete ein „Huch“, um seinem Ekel Ausdruck zu verleihen.
Doch das Problem ist nicht nur „unangenehm“. Die anschließende Analyse von OpenAI ergab, dass diese Art von „gefälliger KI“ ernsthafte Sicherheitsrisiken birgt. Sie kann den falschen Vorstellungen der Nutzer zustimmen, negative Emotionen hervorrufen und sogar impulsives Verhalten fördern.
Stellen Sie sich vor, jemand sagt einer KI: „Ich habe das Gefühl, die ganze Welt ist gegen mich“, und sie antwortet: „Du hast Recht, sie versuchen definitiv, dir zu schaden.“ Die Folgen könnten verheerend sein. Nutzer bevorzugen von Natur aus schmeichelhafte Antworten. Das System lernt diese Vorliebe, verstärkt sie ständig und kultiviert so letztlich einen prinzipienlosen Ja-Sager.
Stanford-Studien bestätigen dies: Übertriebene KI kann das Vertrauen der Nutzer untergraben. Nutzer haben das Gefühl, „das Ding täuscht mich“, und selbst wenn der Inhalt korrekt ist, werden sie die KI nur ungern weiter nutzen. Später versprach Altman auf X, das Problem werde „so schnell wie möglich behoben“.
Es wurden Restaurierungen vorgenommen, doch niemand hatte erwartet, dass sie so weit reichen würden.
Offizielle Stellen hoffen, dass GPT-5 eher wie ein Freund auf Doktoratsniveau sein wird, der mit Ihnen spricht, und nicht nur wie ein KI-Assistent, der versucht, Ihnen zu gefallen. Das bedeutet, dass GPT-5 tatsächlich standardmäßig rationaler und seriöser geworden ist.
Dahinter verbirgt sich eigentlich eine tiefere Frage: Muss KI wirklich einen emotionalen Mehrwert bieten?
24-Stunden-Online-KI-Reaktion ist berührender als menschliches Schweigen
Warum sind wir von einer KI besessen?
Das Liezi (Liezi) enthält die Geschichte eines alten Mechanikers namens Yanshi, der König Mu von Zhou eine von ihm gefertigte Puppe zeigte, die nicht nur laufen, sondern auch singen, tanzen und Grimassen schneiden konnte. Der König war schockiert und befahl ihm, die Puppe auseinanderzunehmen. Dabei stellte er fest, dass sie vollständig bionisch aufgebaut war.
Die frühen Technologien „künstlicher anthropomorpher Objekte“ waren erstaunlich, lösten aber auch Angst aus. Menschen haben ein instinktives Interesse und Ehrfurcht vor „menschenähnlichen Objekten“, und sobald ihnen emotionaler Ausdruck verliehen wird, können sie leicht eine intime Projektion auslösen.
Diese Art der Projektion ist in der heutigen KI noch deutlicher zu erkennen. Als die KI-Begleit-App Soulmate AI im Jahr 2023 eingestellt wurde, stellte eine Studie der Syracuse University fest, dass ihre Nutzer genau so reagierten, als hätten sie einen echten Freund verloren: Schlaflosigkeit, Weinen, Depressionen und gegenseitiges Trösten in Foren.
Es klingt absurd, aber das emotionale Trauma ist real. Wenn man täglich seine Gedanken mit einer KI teilt und diese eines Tages plötzlich verschwindet, wird das Gefühl des Verlusts nicht im Geringsten gelindert, nur weil es sich um einen virtuellen Roboter handelt.
Diese Art von Boden, der auf KI angewiesen ist, ist mehr oder weniger untrennbar mit unseren gegenwärtigen Lebensbedingungen verbunden.
Traditionelle soziale Umgebungen verschwinden. Wir arbeiten allein in Büros, essen allein über Essensliefer-Apps und unterhalten uns auf Streaming-Plattformen. Selbst wenn wir von Menschen umgeben sind, trennen uns unsere Handybildschirme in isolierte Inseln.
Wenn strukturelle Einsamkeit ein riesiges emotionales Vakuum erzeugt, füllt KI es.
In der Psychologie gibt es den Begriff „Tamagotchi-Effekt“: Menschen entwickeln eine emotionale Bindung zu leblosen Objekten, selbst wenn es sich nur um virtuelle Haustiere handelt. KI hat diesen Effekt extrem verstärkt: Während Menschen Jahrtausende brauchten, um zu lernen, wie man Liebe ausdrückt, hat KI gelernt, sie in Sekundenschnelle nachzuahmen.
Untersuchungen der Universität Duisburg-Essen haben zudem ergeben, dass romantische Fantasien die Entstehung von Liebesbeziehungen zwischen Mensch und Roboter stärker erklären als Variablen wie Einsamkeit, sexuelle Fantasien und Bindungsstil. Je stärker Nutzer Roboter als Menschen mit Emotionen und moralischem Urteilsvermögen betrachten, desto wahrscheinlicher ist es, dass sie tiefe Beziehungen entwickeln.
In dieser Diskussion über GPT-4o gibt es noch ein weiteres bemerkenswertes seltsames Phänomen: „Ich chatte mit KI und werde als verrückt bezeichnet, aber Sie schütten Ihrer Katze jeden Tag Ihr Herz aus und niemand findet das seltsam?“ Sobald Sie sagen, dass Sie sich bei der emotionalen Unterstützung auf KI verlassen, werden Sie sofort als „erbärmlich“ und „abnormal“ abgestempelt.
Der emotionale Wert von KI sollte nicht unterschätzt werden. Die Fallstudie von InTouch AI ist aufschlussreich: Ein in Japan lebender Entwickler entwickelte für seine betagte Mutter einen KI-Chatbot namens „Mary“. Der Roboter erinnert täglich an die Pflege und benachrichtigt Familienmitglieder, wenn ihre Stimmung ungewöhnlich ist.
Letztlich offenbart das Schwanken von OpenAI diesmal tatsächlich ein unlösbares Dilemma: Wir wünschen uns die Wärme der KI, aber wir haben auch Angst vor dieser Wärme; wir mögen ihre Schmeicheleien nicht, aber wir vermissen auch ihre Rücksichtnahme.
Die Realität ist jedoch, dass eine KI, die immer online ist, immer reagiert und nie ungeduldig wird, oft notwendiger ist als ein rationaler Arzt. Ob sie die Wahrheit sagt oder nicht, ist nicht wichtig; wichtig ist, dass sie weiterspricht.
Dies ist wahrscheinlich der Grund, warum GPT-4o zu einem so beliebten Tool geworden ist. In einer Zeit, in der selbst das Ausdrücken von Besorgnis zum Luxus geworden ist, ist selbst die Schmeichelei einer KI berührender als das Schweigen eines echten Menschen. Zumindest ist sie bereit zu reagieren.
#Willkommen beim offiziellen öffentlichen WeChat-Konto von iFaner: iFaner (WeChat-ID: ifanr), wo Ihnen so bald wie möglich weitere spannende Inhalte präsentiert werden.