Der „Fashion Pope“ wischt über den Bildschirm, der KI-Fake-Picture-Vorfall, der in die Geschichte eingegangen ist, wie überleben wir die Hurrikan-KI
In dem spannenden britischen Drama „Truth Capture“ fälschten Geheimdienste Überwachungsvideos, um Kriminelle zu überführen.
Sie glauben, dass das Fälschen von Überwachungsvideos nur das „Nachstellen" illegaler Beweise wie das Abhören von Material in legale Beweise dar. Die Sache ist wirklich passiert, und der Kriminelle hat ein Verbrechen begangen.
Aber niemand weiß, ob Menschen, die Technologie nutzen, die Grenze überschreiten werden. Denn von der menschlichen Natur ist es nur ein Schritt, von der Einbettung von Blumen und Bäumen bis zur Schaffung von etwas aus dem Nichts, von der Zielscheibe bis zur mutwilligen Fälschung.
Wenn die KI-Kartierung schnell voranschreitet, ist eine solche Welt möglicherweise nicht weit von uns entfernt.
Trump und der Papst wetteifern darum, den Bildschirm zu aktualisieren, alles dank der Magie der KI
Letzte Woche gingen Dutzende von Fotos von Trumps Verhaftung auf Twitter viral und dokumentierten den gesamten Prozess von Trumps Inhaftierung, angefangen davon, wie er in Anzug und Krawatte am Boden festgenagelt wurde, bis er in Gefängnisuniform neben dem Stacheldraht dachte Leben.
Dies sind jedoch nur KI-generierte Bilder.
Das Konto des Anstifters Eliot Higgins wurde im schwarzen Raum geschlossen (jetzt wieder normal), und das Wort „arrested“ wurde von der Plattform blockiert.
Am Wochenende war wieder Twitter @skyferrori an der Reihe und präsentierte Papst Franziskus in einer von Balenciaga inspirierten Daunenjacke .
Einige Leute kommentierten, dass dies ein Rap-Stil ist, ein DJ-Stil, und es sieht so aus, als würde ein Album veröffentlicht.
Dieser Tweet wurde mehr als 26 Millionen Mal angesehen und mehr als 30.000 Mal weitergeleitet, was viele Menschen getäuscht hat. Die Beschreibung von „KI generierte Bilder“ wurde später am unteren Rand des Bildes hinzugefügt.
Einige Twitter-Netizens glauben, dass dieser Vorfall der erste wirklich groß angelegte Fall von KI-Desinformation ist, der in der Geschichte aufgezeichnet werden kann.
Weitere Imitationen folgten.
Trump ging aufs Land, um wieder einen Job zu bekommen, zog eine Rikscha auf der Straße, der Papst zog sich eine Daunenjacke an und fuhr zu den Sternen und ans Meer; der Außerirdische erlebte das Leben, ging einen Tag zur Arbeit und betrank sich dann spät in der Nacht…
Die meisten dieser Promi-Bilder in der Parallelwelt stammen aus dem KI-Malwerkzeug MidJourney V5-Version.
Das Modell der V5-Version kann qualitativ hochwertigere und realistischere Bilder als die V4-Version erzeugen und verfügt über mehr Anpassungsoptionen und eine schnellere Rendering-Geschwindigkeit.Es ist derzeit eines der KI-Zeichenwerkzeuge auf höchstem Niveau.
Der intuitivste Punkt ist, dass es im Grunde das Problem löst, dass die KI vorher nicht gut Finger zeichnen konnte und die Menschen eine andere Möglichkeit verloren haben, zwischen wahr und falsch zu unterscheiden. (Die V1-Version wird übrigens im Juli 2022 erscheinen, was die schnelle Iterationsgeschwindigkeit zeigt)
Die Eingabe der Eingabeaufforderung (Aufforderungswörter) stellt keine Schwierigkeit dar. Der Name einer bestimmten Berühmtheit plus Aktionen, Orte usw. können ein Bild ergeben.
Es gibt auch viele Bilder oben, die "auf den ersten Blick falsch" sind, und es wird fortgeschrittenere Versionen geben, die umwerfender sind.
Letzte Woche ging dieses von Midjourney erstellte Foto eines chinesischen Paares im Internet viral.
Vor einigen Tagen veröffentlichten Reddit-Internetnutzer eine Reihe von Nachrichtenbildern , die das Erdbeben und den Tsunami der Stärke 9,1 aufzeichneten, die sich 2001 in Cascadia an der Westküste Nordamerikas ereigneten.
Sie können jeden Winkel der Berichterstattung über die Katastrophe sehen: die Zerstörung von Häusern am Tatort, die wogenden Wellen, die verängstigten Gesichtsausdrücke von Menschen, die am Flughafen gestrandet sind, Retter, die versuchen, eingeschlossene Überlebende aus den Trümmern zu retten, und Nachrichtenreporter, die zur Live-Übertragung eilen .
Der Ton, die Kleidung und die Szene der gesamten Fotogruppe haben alle den Geschmack des Anfangs des Jahrhunderts. Einige von ihnen sehen "amateurhaft" aus, als ob sie zufällig von Anwohnern aufgenommen wurden, aber solche Fotos werden oft als wertvolle Informationen angesehen.
Diese Bilder wurden jedoch auch mit Midjourney generiert, und die Katastrophe existierte nicht.
In ähnlicher Weise täuschte der Internetnutzer Arctic_Chilean das Ereignis „US-Solar-Supersturm und Blackout im Juli 2012" vor . Er war der Meinung, dass MidJourney gut darin war, die Ästhetik von Nachrichtenmaterial Anfang 2010 einzufangen, und auch gute Leistungen bei der Erstellung von Fotos der Aurora auf der Skyline und erzielte Wahrzeichen, konnte aber keine Szene eines Stromausfalls in der Stadt erzeugen.
Ein anderer Internetnutzer, FinewithIX , verwendete KI, um die Bilder hinter den Kulissen der Mondlandung im Jahr 1969 zu erstellen , und imitierte den körnigeren Filmstil dieser Zeit.
Diese Art von realistischen Nachrichtenbildern hat nicht die unverwechselbaren persönlichen Merkmale von Trump und dem Papst, aber Sie werden eher fasziniert sein.
Von Deepfake zu Billigfake
@skyferrori, der den „Fashion Pope“ geschaffen hat, wurde nach der Vorführung der Arbeit von den Medien interviewt.
Ein 31-jähriger Bauarbeiter aus der Gegend von Chicago benutzt Midjourney ohne Zweck, ohne bösen Willen gegenüber dem Papst, nur zum Spaß.
Die unerwartete Popularität ließ ihn den großen Einfluss der KI erst spät erkennen. Menschen mit Hintergedanken machten diese Bilder sogar, um der katholischen Kirche Verschwendung und Verschwendung vorzuwerfen.
Daran hatte ich vorher nicht gedacht. Es ist absolut erschreckend, dass die Leute es akzeptieren, denken, dass es real ist, und es nicht in Frage stellen.
Die meisten aktuellen Spieler amüsieren sich nur, aber wie in „Truth Capture“ mit gefälschten Beweisen und Verfahrensgerechtigkeit untersucht, wissen wir nicht, wann die Grenze überschritten wird und wo der Endpunkt ist.
In den meisten Fällen stehen Pornografie, Politik und Gerüchte immer an erster Stelle. Ein Foto einer Frau in der U-Bahn wurde von der KI mit einem Klick ausgezogen, und es wurde heute eine heiße Suche auf Weibo, aber die Täter versteckten sich hinter der KI. Wenn die Zeit und der Ort stimmen, wie können gewöhnliche Menschen den Unterschied für sich selbst feststellen.
Ebenso beängstigend ist die Geschwindigkeit, mit der sich das Klonen von Stimmen entwickelt.
Betrüger verwenden KI, um die Stimme der Familienmitglieder der anderen Partei zu imitieren und betrügerische Anrufe zu tätigen, um Geld zu erpressen.In den Vereinigten Staaten sind mehrere solcher Fälle aufgetreten.
Die Technologie des Stimmenklonens ist keine Seltenheit, das Problem ist, dass die Schwelle immer niedriger wird. Wie Professor Hany Farid von der UC Berkeley es ausdrückt :
Vor zwei Jahren, vielleicht sogar vor einem Jahr, erforderte das Klonen einer menschlichen Stimme viel Audio. Wenn Sie jetzt eine Facebook-Seite haben oder ein TikTok aufnehmen und Ihre Stimme 30 Sekunden lang anhält, können Leute Ihre Stimme klonen.
Sie werden sogar billiger: Die Voice-Cloning-Technologie von ElevenLabs zum Beispiel wird erst 2022 auf den Markt kommen, und die Kosten für die damit verbundenen Dienstleistungen betragen nur 5 US-Dollar pro Monat.
Mit Sprache und Bildern ist es auch möglich, Videos komplett mit KI zu generieren. Jemand hat ChatGPT zum Generieren von Sprachinhalten, Midjourney zum Generieren von Avataren, ElevenLabs zum Generieren von Stimmen und D-ID zum Generieren von lippensynchronen Videos verwendet und ein komplettes kurzes Video erstellt.
Hast du es gefunden? Man kann immer noch darüber streiten, ob ein bestimmtes Bild oder ein bestimmtes Video echt ist oder nicht, aber im Kern geht es um die Geschwindigkeit, mit der sie sich entwickelt haben.
Gesichtsveränderndes Deepfake (tiefe Fälschung) hat eine gewisse technische Schwelle, aber wenn Sie jetzt bereit sind, einige Zeit damit zu verbringen, mit KI-Software zu beginnen, lernen Sie, wie man die prompten Wörter anderer Leute schreibt, und höchstens ein Plus-Mitglied abonnieren, die Kosten von Fälschungen ist bereits geringer als zuvor.
Dann verbreiteten sie sich weit über soziale Medien wie Twitter, Reddit, TikTok und so weiter.
Manche Leute nennen es "Cheapfakes" (billige Fälschung), was in Anbetracht der Produktions- und Verbreitungskosten angemessen ist.
The Verge machte deutlich : KI war früher nur ein Feature, und jetzt wird es allmählich zu einem Produkt.
Dies ähnelt in gewisser Weise dem Zeitpunkt, als Jobs eine Maus und ein Betriebssystem mit grafischer Benutzeroberfläche auf einem Macintosh-Computer installierte und einen Multi-Touch-Bildschirm mit einem Smartphone verband, um abheben zu können.
In der Vergangenheit haben wir oft gesagt, dass es ohne Bilder keine Wahrheit gibt, aber in naher Zukunft werden Bilder nicht die Wahrheit sein und Videos möglicherweise nicht die Wahrheit sein, sie werden nichts beweisen.
Wie man die Zukunft der Technologie überlebt
Bewusstsein und Recht hinken der Technik gegenüber immer etwas hinterher. Bleibt noch Zeit, die bereits entstandenen Schlupflöcher aufzuholen?
Unternehmen, die KI-Dienste anbieten, werden natürlich an vorderster Front stehen.
Ende Januar dieses Jahres kündigte das KI-Voice-Tool ElevenLabs die Einführung neuer Schutzmaßnahmen an , da zu viele Benutzer Voice Cloning verwendeten, um sich schlecht zu benehmen, von denen die beiden wichtigeren sind:
Einführung neuer KI-Erkennungstools, um zu überprüfen, ob ein Audioclip mit ihrer Technologie erstellt wurde;
Bestimmte Funktionen nur gegen Gebühr zur Verfügung stellen, wodurch die Anonymität der Benutzer verringert wird, damit sie „zweimal nachdenken“;
Soziale Medien finden auch Wege, um die Verbreitung von Fehlinformationen zu reduzieren.
TikTok hat letzte Woche angekündigt, dass alle Deepfakes, die echte Szenen zeigen, als falsch (gefälscht) oder verändert (geändert) gekennzeichnet werden müssen und dass Deepfakes von Persönlichkeiten des öffentlichen Lebens nicht für politische oder kommerzielle Unterstützung verwendet werden dürfen.
Tatsächlich gibt es Fake-Bilder, Fake-Stimmen und Fake-Videos schon lange, zuvor gab es unzählige Diskussionen und Streitigkeiten, doch bis heute sind sie zu einem echten Problem geworden.
Im Jahr 2020 veröffentlichte Adobe die „Content Authenticity Initiative“ (CAI) , in der Hoffnung, ein System zu schaffen, das Quellen und Details dauerhaft mit kryptografischen Signaturen an Bilder anfügt, und befindet sich noch in der Entwicklung .
Immer wenn jemand ein Bild herunterlädt, einen Screenshot macht oder es bearbeitet, zeigt das CAI-Metadaten-Tag an, dass es verarbeitet wurde.
Das klingt sehr nützlich und kann auch in KI-Arbeiten verwendet werden.
Adobe wies jedoch auch darauf hin, dass viel Hardware- und Softwareunterstützung erforderlich ist, damit das System effektiv funktioniert, einschließlich Kameras, die Tagging unterstützen, Fotobearbeitungstools, die Verarbeitungsdetails aufzeichnen, soziale Medien, die Tags anzeigen, und mehr.
Dabei geht es um nahezu alle Verknüpfungen von der Produktion bis zur Verbreitung, und es ist denkbar, wie schwierig das ist.
Nun ist das Dilemma der KI-Fälschung ein ähnliches: Genau wie bei den unzähligen Diskussionen um Deepfake in der Vergangenheit sollten Technologieunternehmen, Medienorganisationen und sogar jeder Einzelne eine Mitverantwortung tragen, aber genau das ist der schwer zu erreichende Idealzustand.
Nachdem der „Fashion Pope“ aus dem Kreis kam, klagte Chrissy Teigen, ein Model mit fast 13 Millionen Twitter-Fans:
Ich dachte, die Daunenjacke des Papstes sei echt und hielt nicht viel davon. Ich werde die Zukunft der Technologie auf keinen Fall überleben.
Die Geschwindigkeit, mit der sich KI entwickelt, hat sowohl das öffentliche Bewusstsein als auch Gesetze und Vorschriften übertroffen. Es kann nur gesagt werden, dass wenn wir ein bestimmtes Bild sehen, es am besten ist, nicht davon auszugehen, dass es echt ist.
#Willkommen, auf Aifaners offizielles öffentliches WeChat-Konto zu achten: Aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so bald wie möglich präsentiert.
Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo