Trump verliebt sich in eine Reinigungskraft: Das Internet ist ein Scherz. Sogar KI wird ausgetrickst. Wem kann ich vertrauen?

Wenn Sie in diesen Tagen nicht mit einem Sketch mit dem Titel „Trump verliebt sich in mich, eine Putzfrau im Weißen Haus“ bombardiert wurden, dann herzlichen Glückwunsch, Sie sind vielleicht der Einzige, der sich nicht täuschen ließ.

Allein der Titel dieses Dramas klingt wie ein kitschiger und cooler Roman, und auch die Handlung ist magisch genug: US-Präsident Trump verliebt sich in Emily, eine Reinigungskraft im Weißen Haus, und ist bereit, seine Supermodel-Frau Melania zu verlassen und Emily als First Lady zu heiraten. Es ist wahrlich eine Doppelverstärkung im Stil von „Die amerikanische Version von Die Legende von Zhen Huan + Liebeshirn im Weißen Haus“.

Diese Nachricht verbreitete sich schlagartig in allen wichtigen sozialen Medien. Viele bekannte Medien, darunter auch Influencer, die normalerweise sehr kritisch wirken, begannen, die Geschichte zu reposten. Sie behaupteten, das kurze Drama, das im Ausland ein viraler Hit geworden war, habe innerhalb von drei Monaten 150 Millionen Dollar eingespielt und sei bei Frauen mittleren und höheren Alters zum neuen Liebling geworden.

Doch schon bald nahm die Handlung eine 180-Grad-Wende und es stellte sich heraus, dass das kurze Drama überhaupt nicht existierte und von Anfang bis Ende eine komplette Falschmeldung war.

Die Frage ist also: Wie konnte eine Show, die niemand gesehen hatte, innerhalb weniger Tage zu einer viralen Sensation werden? Und wie hat KI den Hype angeheizt und dafür gesorgt, dass noch mehr Menschen diese nicht existierenden Nachrichten glaubten?

Was genau steckt dahinter?

Wie konnte ein nicht existierendes Kurzdrama aus Übersee Menschen und KI täuschen?

Wenn Sie glauben, dass es sich lediglich um ein Missverständnis handelt, unterschätzen Sie die Komplexität dieser Kommunikation.

Mehreren Quellen zufolge lässt sich dieser Fake-News-Vorfall auf den 1. Juli zurückführen, als ein Artikel auf dem Self-Media-Account „Overseas Student Daily“ veröffentlicht wurde. Die Themenauswahl des Accounts ist auf „Neugier“ und Traffic-Generierung spezialisiert. Sprachstil und Inhaltslogik zufolge wurde der Artikel wahrscheinlich mithilfe eines KI-Schreibtools erstellt und anschließend manuell überarbeitet.

Das Problem ist, dass der Artikel, obwohl er ein Standard-Eigenmedium ist, häufig von etablierten inländischen Medien nachgedruckt und zitiert wird. Am 23. Juli veröffentlichte Shin Min Daily News, eine Tochtergesellschaft der singapurischen Lianhe Zaobao, einen Artikel mit dem Titel „Kurzdramen über den CEO von Overlord kommen nach Amerika“.

Der Bericht war sehr detailliert und berichtete, dass Trump seine Model-Frau Melania aufgegeben und eine alleinerziehende asiatische Mutter geheiratet habe, die als First Lady das Weiße Haus putzte. Es hieß sogar, die Show habe in drei Monaten 150 Millionen Dollar eingespielt. Frauen mittleren und höheren Alters fluchten und gaben Geld für die Show aus, und während sie fluchten, zahlten sie dafür, die Show zu sehen.

Da Lianhe Zaobao ein Medium mit hoher Glaubwürdigkeit im chinesischen Internet ist, wurde diese Nachricht von den inländischen Medien weit verbreitet und von verschiedenen kurzen Videobloggern interpretiert. Es entstand ein perfekter Vertrauenskreislauf zwischen „Export und Inlandsverkauf“.

Darüber hinaus verbreitete sich auch auf ausländischen Social-Media-Plattformen eine Flut kurzer, authentischer Videos und anschaulicher Berichte. Diese „Fake-Sketche“ wurden als „echte Nachrichten“ ausgegeben. Nutzer auf der ganzen Welt glaubten, diskutierten und nutzten sie sogar, um die ästhetischen Unterschiede zwischen China und den USA zu kritisieren.

Alle redeten ernsthaft über etwas, das es nicht gab.

Bis einige Medien das Gefühl hatten, dass etwas nicht stimmte, und Nachforschungen anstellten. Die Show war auf keiner ausländischen Plattform (einschließlich ReelShort, YouTube und TikTok) zu finden und fehlte auch in IMDb, der weltweit führenden Datenbank für Film und Fernsehen.

Darüber hinaus haben sich Führungskräfte führender inländischer Kurzfilmproduktionsfirmen, die ihre Produktionen ins Ausland exportiert haben, zu Wort gemeldet und die Gerüchte widerlegt. So erklärte Li Yuanjun, Vizepräsident von „Tinghuadao“, unverblümt, man werde sich niemals mit solchen Genres befassen. Auch die wichtigsten Beweise für die Fake-News-Geschichte wurden Stück für Stück widerlegt.

Das erste Bild, ein satirischer Ausschnitt aus der Varieté-Show „Saturday Night Live“, wurde vom Schauspieler Run Run Shaw persönlich entlarvt. Das zweite, ein Foto von Trump mit einer asiatischen Frau, ist unglaublich gefälscht; das gesamte Bild wirkt künstlich und wirkt künstlich.

Wenn Sie weiter in die Vergangenheit scrollen, finden Sie ähnliche coole Titel, die bereits auf sozialen Plattformen aktiv sind:

„Als der Bürgerkrieg ausbrach, bat mich Lincoln dreimal, aus dem Ruhestand zurückzukehren!“ „Ich reiste durch Zeit und Raum zum 11. September, seht, wie ich die Twin Towers rettete“ … Das sind offensichtlich die Titel cooler Romane, aber aus irgendeinem Grund wurden sie von einer Person auf zehn und von zehn auf hundert Personen verteilt und in echte Kurzdramen im Ausland verpackt.

Interessanterweise glaubte sogar AI an das Gerücht, bevor es entlarvt wurde.

Bevor der Vorfall von zahlreichen Medien offiziell entlarvt wurde, versuchte ich, die Echtheit des kurzen Dramas mithilfe einer Reihe gängiger KI-Tools zu überprüfen. Sie behaupteten weiterhin zuversichtlich, dass „dieses Drama tatsächlich existiert“, und der Grund dafür war, dass der Inhalt mit Bildern und Texten aus maßgeblichen Medien auf mehreren Plattformen abgeglichen wurde.

Als gestern Nachmittag zahlreiche Medien begannen, das Gerücht zu widerlegen, haben diese KI-Tools natürlich die neuesten Nachrichten aktualisiert und können korrekt erkennen, dass es sich um Fake News handelt.

Wir sagen oft, dass die KI-Suche ein „Halluzinationsproblem“ hat, weil sie manchmal scheinbar vernünftige, aber völlig falsche Antworten aus dem Nichts generiert.

Um die Illusionen der KI einzudämmen, haben die Hersteller zahlreiche technische Anstrengungen unternommen: Sie haben die Zitiermechanismen gestärkt, vertrauenswürdige Quellen eingeführt und den Spielraum des Modells eingeschränkt. Wenn die Grundlage für die Wahrhaftigkeitsbewertung von Nachrichten durch die KI jedoch bereits auf Fake News basiert, sind diese Maßnahmen möglicherweise nicht wirksam.

Wenn weder Menschen noch KI zuverlässig sind, wem können wir dann sonst vertrauen?

Wenn man genau darüber nachdenkt, kann man kaum behaupten, dass die Popularität dieser Fake News zufällig ist. Obwohl die Geschichte absurd erscheint, trägt sie das perfekte Gen für ihre Verbreitung in sich.

Es verfügt über die klassische Formel aller populären Inhalte: eine klare Erzählstruktur, illustrierte Materialien, verpackte Daten und einen präzisen Verbreitungsrhythmus.

Werden kitschige Sketche im Ausland viral? Sind Amerikaner mittleren und höheren Alters süchtig nach skurrilen Themen? Wird TikTok zum Kulturexport? Jede dieser Annahmen ist plausibel, und wenn man sie zusammennimmt, kann man sie kaum als falsch abtun.

Wenn KI sowohl Opfer als auch Verbreiter von Gerüchten wird, liegt dies häufig an böswilliger Manipulation und Förderung durch Menschen. Die meisten dieser KI-generierten Inhalte weisen mehrere gemeinsame Merkmale auf:

Die Produktionskosten sind äußerst gering und ein Skript kann in nur wenigen Minuten zu einem fertigen Produkt führen. Die Verbreitungsfähigkeit ist äußerst hoch und die Klickrate bleibt aufgrund der Kombination aus Clickbait-Titeln und visueller Wirkung hoch. Die Erzählung ist äußerst auffällig, greift gezielt menschliche Schwächen auf und nutzt auf jede erdenkliche Weise inspirierende, sensationelle und neugierige Inhalte, um die Menschen zu stimulieren.

Der jüngste Vorfall „DeepSeek entschuldigt sich bei Wang Yibo“ ist ein typisches Beispiel. In einem Bericht mit dem Titel „Fall Schauspieler Wang Yibo, Urteil verkündet“ wurde behauptet, DeepSeek habe sich für die falsche Verbreitung von Informationen über Wang Yibo entschuldigt und als Beweis ein sogenanntes „Strafurteil“ beigefügt.

Nach mehreren Runden der Faktenprüfung stellte sich jedoch heraus, dass es sich bei dieser sogenannten Entschuldigungserklärung tatsächlich um automatisch von KI generierten Inhalt handelte, der von Internetnutzern generiert wurde. Aufgrund der professionellen Formulierung, der vollständigen Struktur und des ernsten Tons verbreiteten einige Medien sie jedoch fälschlicherweise ohne Überprüfung als echte Ankündigung, was zu weit verbreiteten Missverständnissen und Verbreitung führte.

Ähnliche Fälle häufen sich. KI-generierte Inhalte sind im Internet weit verbreitet, insbesondere im multimodalen Bereich. Anfangs sorgte die Fähigkeit der KI, realistische Bilder zu erzeugen, für große Begeisterung. Doch später tauchten immer mehr Fälle auf, in denen „mit einem einzigen Bild begonnen und dann der Rest erfunden wird“, was es schwierig macht, Echtheit von Fälschung zu unterscheiden.

Manche Leute verwenden beispielsweise KI-Tools wie ChatGPT, um gefälschte Bilder oder Videos von intakten Waren (Obst, Kleidung, Alltagsgegenstände usw.) zu erstellen, die beschädigt, schimmelig oder fleckig erscheinen, und beantragen dann böswillige Rückerstattungen, indem sie vorgeben, dass die Waren problematisch seien, wodurch eine große Zahl von Händlern sowohl ihre Waren als auch ihr Geld verlieren.

Auch in der Katastrophenberichterstattung lässt sich beobachten, dass KI immer häufiger in den Fokus der Öffentlichkeit rückt.

Als Florida im vergangenen Jahr von einem Hurrikan heimgesucht wurde, verbreitete sich in den sozialen Medien das Foto eines weinenden kleinen Mädchens in einer Schwimmweste, das einen Welpen in einem Rettungsboot hält. Die Plattform bestätigte jedoch letztendlich, dass das Bild künstlich generiert wurde und so unnötig das Mitgefühl gutherziger Menschen strapazierte.

Ende Oktober letzten Jahres beispielsweise wurde die spanische Region Valencia von sintflutartigen Regenfällen heimgesucht. Als das Hochwasser schließlich zurückging, bot sich das folgende Bild. Da sich Inhalte jedoch immer schwerer verifizieren ließen, begann die Öffentlichkeit, alles mit Argwohn zu betrachten. Als sie dieses Foto sahen, war die erste Reaktion vieler Menschen: „Das muss von KI erstellt worden sein. Das sind Fake News.“

Da sich das Spiel „Feuer schreien“ immer weiter ausbreitet, werden die Nachrichten, die gefährliche Situationen wirklich widerspiegeln und melden, der „KI zugeschrieben“, wodurch der beste Zeitpunkt für eine Rettung verpasst wird, was ebenfalls eine schlimme Konsequenz ist.

Gleichzeitig nimmt auch die Schwierigkeit der Plattforminhaltsverwaltung rapide zu.

In einem im Februar veröffentlichten Governance-Bericht erwähnte Toutiao, dass das Unternehmen allein im vergangenen Jahr über 5 Millionen falsche Informationen abgefangen, 930.000 minderwertige Inhalte mithilfe von KI verarbeitet und 7,81 Millionen homogene Posts bestraft habe.

In einigen Medienberichten konnten wir auch die Entstehung einer vollständigen Industriekette zur Herstellung von KI-Inhalten beobachten: Inhaltsfabriken, die KI-Artikel in Massen produzieren, Marketingunternehmen, die KI-Tools zu deren Verpackung und Bewerbung verwenden, und SEO-Teams, die erforschen, wie KI-Inhalte in den Suchmaschinen ein höheres Ranking erreichen können.

Sie alle untersuchen dasselbe Thema: Wie lassen sich Inhalte erstellen, die von der KI eher geglaubt werden, und wie kann man es Menschen leichter machen, den von der KI erstellten Inhalten zu glauben.

Im vergangenen Juni tauchte im Internet ein Bericht über eine gewaltige Explosion in Xi'an auf, der auch Zeitpunkt und Ort angab. Die Polizei von Xi'an überprüfte die Informationen jedoch und konnte kein derartiges Ereignis feststellen. Der Bericht wurde von einem Account einer MCN-Agentur veröffentlicht.

Nach seiner Festnahme durch die Polizei gestand der Haupttäter, ein KI-Tool eingesetzt zu haben. Auf eine entsprechende Aufforderung hin durchsuchte das Tool automatisch relevante Artikel im Internet und generierte anschließend Text mit Hunderten bis Tausenden von Wörtern.

In Spitzenzeiten können an einem einzigen Tag 4.000 bis 7.000 Informationen generiert werden, wobei während des gesamten Prozesses nahezu kein menschliches Zutun erforderlich ist. Dabei werden gezielt Themen und Ereignisse ausgewählt, die mit dem Lebensunterhalt der Menschen in Zusammenhang stehen und sehr beliebt sind. Studien haben gezeigt, dass negative, deprimierende und emotional anregende Informationen die Aufmerksamkeit der Menschen eher fesseln. Dies wird durch die Struktur unserer Parietal- und Frontallappenbereiche bestimmt.

Wenn diese hochgradig interaktiven und leicht verbreitbaren „Fake-Informationen“ häufig zitiert, weitergeleitet und indexiert werden, nutzen ahnungslose KI-Modelle sie als Lernkorpus und integrieren sie in ihre Generierungsmechanismen. Dadurch entsteht ein geschlossener Kreislauf zwischen KI und Mensch:

Menschen verwenden KI, um falsche Informationen zu erstellen → KI lernt falsche Informationen → KI verbreitet falsche Informationen → Mehr Menschen glauben die falschen Informationen → Die falschen Informationen werden zu „festgestellten Tatsachen“ → Neue KI lernt diese „Fakten“ weiterhin …

Dieser Zyklus wiederholt sich und bildet eine Gerüchtespirale. Mit jeder Wendung verwässert sich die Wahrheit, während die Lügen raffinierter und schwerer zu erkennen werden. Menschen kann man nicht trauen, und die Behauptungen der KI sind ebenso unzuverlässig. Unser verbleibendes Urteilsvermögen wird zu unserer letzten Verteidigungslinie.

Doch in einem Zeitalter der Informationsüberflutung wird unser Urteilsvermögen durch verschiedene Faktoren beeinträchtigt: Voreingenommenheit lässt uns nur Informationen glauben, die mit unserem bestehenden Wissensstand übereinstimmen; Informationskokons führen dazu, dass wir eine umfassendere Perspektive verlieren; und emotionale Kommunikation führt auch dazu, dass rationales Denken seltener wird.

Die vielleicht größte Wahrheit dieser sogenannten Post-Truth-Ära ist, dass die meisten „Wahrheiten“ fragwürdig sind. Insbesondere der nächste Sketch „Trump verliebt sich in den Hausmeister“ könnte bereits auf dem Weg sein und dürfte noch ungeheuerlicher und schwerer zu entlarven sein als dieser.

#Willkommen beim offiziellen öffentlichen WeChat-Konto von iFaner: iFaner (WeChat-ID: ifanr), wo Ihnen so bald wie möglich weitere spannende Inhalte präsentiert werden.

iFanr | Originallink · Kommentare anzeigen · Sina Weibo