Wenn es einen „Face Pinching Competition“ gibt, kann der Mensch nur den zweiten Platz belegen

Der Science-Fiction-Film „Blade Runner“ zeigt eine Zukunftswelt, die schwer zwischen wahr und falsch zu unterscheiden ist:

Die von Menschen hergestellten „Replikatoren" haben fast identische Gesichter wie Menschen. Wenn kein professionelles Instrument für emotionale Tests verwendet wird oder die im Körper verborgene Nummer gefunden wird, können Menschen „Replikatoren" überhaupt nicht anhand ihres Aussehens identifizieren.

Eine solche Zukunftswelt mag ein bisschen weit weg sein, aber wenn Sie nur ins Gesicht schauen, können Sie der Fälschung vielleicht nicht wirklich die Wahrheit sagen.

AI "Fake Face" hat das unheimliche Tal durchquert

Schauen Sie sich zuerst eine Reihe von Bildern an. Haben Sie das Vertrauen, das "falsche Gesicht" auf einen Blick zu erkennen?

Welches der oben genannten Gesichter ist falsch? (Die Antwort finden Sie am Ende des Artikels, aber keine Sorge, es kommen noch viele Gesichter)

Das hier erwähnte Konzept des „falschen Gesichts" bezieht sich auf Gesichtsfotos, die von KI synthetisiert wurden, nicht auf echte Menschen. Wenn Sie das Gefühl haben, dass es eine Zeit lang schwierig ist, wahr und falsch zu beurteilen, machen Sie sich keine Sorgen, Sie sind nicht allein.

Professor Hany Farid von der University of California, Berkeley, arbeitet seit vielen Jahren an der KI-Bildsynthesetechnologie.

Laut einer Studie, die er kürzlich in den Proceedings of the National Academy of Sciences veröffentlicht hat, sind KI-synthetisierte Gesichter nicht von echten Menschen zu unterscheiden und sehen sogar vertrauenswürdiger aus als echte Menschen.

Die Ergebnisse dieser Studie übertrafen die Erwartungen der Forscher.

Dr. Sophie Nightingale, Mitautorin der Studie, sagte, dass der ursprüngliche Zweck der Forschung darin bestand, Wege zu finden, um die Glaubwürdigkeit von KI-Gesichtern durch Vergleiche aus dem wirklichen Leben zu verbessern.

Farid glaubt, dass die derzeitige Entwicklungs- und Verbesserungsrate der KI-Bildsynthesetechnologie sehr schnell ist, sogar schneller als die herkömmliche CG-Bildgebung.

Wir glauben, wir haben das unheimliche Tal der statischen Gesichter durchquert

Der Uncanny-Valley-Effekt ist eine psychologische Theorie, nach der Menschen einen positiven Eindruck von Objekten haben, die Menschen ähnlich sind, aber wenn die Ähnlichkeit ein bestimmtes Maß erreicht (z. B. Zombies, anthropomorphe Puppen), werden die Reaktionen der Menschen extrem negativ und ekelhaft.

Wenn die Ähnlichkeit weiter ansteigt und die Ähnlichkeit mit der realen Person erreicht, wird die emotionale Reaktion der Person wieder positiv und es kann zu einem Empathieeffekt zwischen Menschen kommen.

Nach den experimentellen Ergebnissen von Farid zu urteilen, dürfte das von KI synthetisierte Gesicht die Bühne von „Walking Dead“ verlassen haben.

Wie wird ein so realistisches menschliches Gesicht synthetisiert?

Generative Adversarial Networks (GANs) stellen derzeit die am weitesten verbreiteten Synthesealgorithmen dar. Der Name klingt sehr ungewohnt, aber seine Logik ist nicht kompliziert.

Vereinfacht ausgedrückt gibt es in der GAN einen „Maler“ und einen „Gutachter.“ Der „Maler“ muss ein Bild zeichnen, das so gut wie möglich einem menschlichen Gesicht ähnelt, und es dem „Gutachter“ zur Beurteilung übergeben.

Der „Gutachter" sieht sich viele echte Fotos an, bevor er beurteilt, und analysiert die Merkmale des Gesichts. Wenn das Gemälde des „Malers" unzählige „Gutachter" täuschen kann, die Gesichter gelesen haben, wird ein synthetisches KI-Gesichtsfoto geboren.

Dabei wird die Treffsicherheit des „Gutachters“ nach kontinuierlichem Lernen immer besser und auch die entsprechenden Fähigkeiten des „Malers“ nehmen zu, beide gehen ein konfrontatives Verhältnis ein und verbessern so die Qualität des synthetisierten Bildes bis es geht Passen Sie die Fälschung an die Echtheit an. .

Farid verwendete für das Experiment das von NVIDIA veröffentlichte Modell Nivdia StyleGAN2.Um die Glaubwürdigkeit seiner synthetischen Fotos zu untersuchen, organisierten die Forscher drei Experimente.

Im ersten Experiment luden die Forscher 315 Teilnehmer ein, 128 Gruppen (insgesamt 800 Gruppen) von Fotogruppen zu unterscheiden, die aus echten Menschen und KI bestanden.Als Ergebnis betrug die durchschnittliche richtige Rate der Teilnehmer weniger als 50 %, nur 48,2 % .

Im zweiten Experiment luden die Forscher dann 219 neu trainierte Teilnehmer ein, an demselben Experiment teilzunehmen, und gaben nach jedem Abschied korrektes Feedback.

Mit Hilfe der Forscher wurde die Genauigkeit des zweiten Experiments verbessert, sie lag jedoch nur knapp über 50 % und erreichte 59,0 %. Farid und Nightingale waren von der Genauigkeit des KI-Fotos nicht überrascht, aber das Ergebnis von Experiment 3 war unerwartet.

Im dritten Experiment bewerteten 223 neue Teilnehmer die Zuverlässigkeit derselben Fotos von 1 bis 7. Die Ergebnisse zeigten, dass die Zuverlässigkeit von KI-synthetisierten Fotos um 7,7 % höher war als die von echten Gesichtern. Diese winzige Lücke ist statistisch signifikant .

Die Forscher glauben, dass KI-synthetisierte Fotos, die eine gewisse Glaubwürdigkeit haben, in Zukunft wahrscheinlich von Kriminellen verwendet werden, um Betrug zu begehen oder Verwirrung in sozialen Netzwerken zu stiften.Dieses Problem muss von der Gesellschaft und der Entwicklung beachtet werden der Bildsynthesetechnologie erfordert einige Vereinbarungen.

Die Frage ist also, warum die Menschen immer noch Energie in die Forschung investieren, wenn künstliche KI-Gesichter gewisse soziale Risiken bergen?

KI-Gesicht ist sehr gut, aber es ist ein „zweischneidiges Schwert“

Auf der E3-Videospielshow 2019 löste Keanu Reeves überraschender Auftritt im „Cyberpunk 2077“-Trailer sofort die Emotionen aller Zuschauer innerhalb und außerhalb des Veranstaltungsortes aus, und dann kam er selbst auf die Bühne und kündigte an, dass er eine wichtige Rolle spielen würde das Spiel "Johnny Silver" "Hand" Gesicht Modell, weckte die Erwartungen unzähliger Spieler.

Denn in der virtuellen Welt kann ein realistisches menschliches Gesicht den Spielern ein starkes Gefühl des Eintauchens vermitteln.Mit der Verbesserung der Spielfunktionen wird es für immer mehr Spielehersteller zur Formung von Charakteren, echte Menschen als Gesichtsmodelle anstelle von digitalen Pinch-Gesichtern zu verwenden .

Die Verwendung von echten Gesichtsmodellen bedeutet jedoch oft hohe Lizenzgebühren für Porträts und Motion-Capture-Kosten, die für einige kleine Studios nicht realistisch sind.

Dann ist ein urheberrechtsfreies künstliches KI-Gesicht praktisch – es klingt plausibel, dass eine Person, die es auf der Welt nicht gibt, eine virtuelle Figur spielt.

Beispielsweise hat Generated Photo, ein kostenloses KI-Composite-Fotoprojekt, mit dem Animationssoftwareunternehmen Reallusion zusammengearbeitet, um KI-synthetisierte Porträts als 3D-Bilder für Animationen, Spiele oder Werbung zu verwenden.Entwickler können Rasse, Alter und Geschlecht der Charaktere frei wählen Es gibt Urheberrechtsprobleme.

Stellen Sie sich vor, wenn die Gesichter von NPCs in Spielen wie Sims oder GTA aus realistischen Porträts bestehen, wird das Eintauchen und die Präsenz des Spiels erheblich verbessert.

Neben Spielen erfordert auch einige Kundendienstsoftware eine große Anzahl echter Avatare, um mit Kunden zu kommunizieren. Wenn Sie echte Avatare durch KI-Avatare ersetzen, können Sie nicht nur Urheberrechtsstreitigkeiten bei Porträts vermeiden, sondern auch die Privatsphäre vor dem Durchsickern schützen.

KI-synthetisierte Fotos haben zwar eine sinnvolle Aussagekraft, werden aber gleichzeitig auch einen gewissen Einfluss auf die Authentizität von Online-Fotos haben, schließlich möchte niemand in einer Dating-App von einer nicht existierenden Person fasziniert werden.

Farid glaubt, dass die einzige Möglichkeit, dieses Problem zu lösen, darin besteht, jedem tatsächlich aufgenommenen Foto eine „Echtheits“-Zertifizierung hinzuzufügen, damit die Menschen beim Betrachten und Verwenden des Fotos seine Echtheit erkennen können.

Es klingt wie eine umgekehrte Version von Blade Runner, bei der Personen im Film eine nummerierte Identifikation in die Augäpfel der Replikanten eingraviert haben, während sie in Wirklichkeit auf echten Fotos markiert sind, um die „Fälschungen“ zu bekämpfen.

Tatsächlich fördern Unternehmen wie Adobe und Microsoft bereits verwandte Technologien.

Im Februar 2021 gründeten Unternehmen und Institutionen wie Adobe, Microsoft, Intel, Arm und Truepic ein Projekt namens Content Origination and Authenticity Alliance (C2PA), um Desinformation zu bekämpfen und überprüfbare Bildauthentizität zu schaffen technische Standards für Sicherheit und Rückverfolgbarkeit.

Die Verifizierungsmethode ist ebenfalls sehr einfach – die Informationen wie Aufnahme und Nachbearbeitung der Fotos bleiben mit der Blockchain-Technologie intakt, und egal wie die Fotos verändert werden, sie können direkt angezeigt werden.

Zertifizierte echte Fotos haben ein kleines „i" in der oberen rechten Ecke. Wenn Sie darauf klicken, können Sie die Details zu Aufnahmedatum, Ort und Objektiv sehen, die von der Kamera generiert werden. Wenn jemand Software wie Photoshop verwendet, nachdem er die Foto können Sie auch zum Originalbild des Fotos zurückkehren, um das vollständige Bild zu erhalten.

Das C2PA-Zertifizierungsverfahren kann die Echtheit von Fotos in seriösen Nachrichten und anderen Bereichen bis zu einem gewissen Grad sicherstellen, wird jedoch aufgrund seiner kurzen Etablierung derzeit nur in einigen Medien oder sozialen Plattformen verwendet und ist immer noch veraltet, um Echtheitsgarantien zu geben alle Internet-Inhalte morgens.

Das heißt, KI-synthetische Fotos könnten in Zukunft ein soziales Sicherheitsrisiko darstellen. Derzeit können Bildsynthesemodelle wie Nivdia StyleGAN2 öffentlich auf Plattformen wie Github heruntergeladen werden. Ist dies wirklich sicher? Farid glaubt, dass dies eine sorgfältige Abwägung durch das technische Personal erfordert, nachdem Nutzen und Risiken abgewogen wurden.

Die Frage ist also, es gibt so viele Gesichter in dem Artikel, welche davon sind echte Menschen?

Die Antwort lautet: Sofern nicht anders gekennzeichnet, sind alle falsch.

#Willkommen beim offiziellen WeChat-Konto von Aifaner: Aifaner (WeChat: ifanr), weitere aufregende Inhalte werden Ihnen so bald wie möglich zur Verfügung gestellt.

Liebe Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo