Südkoreas Room N taucht wieder auf! Eine große Zahl von Frauen, deren Gesichter durch KI verändert wurden, baten auf Weibo um Hilfe, darunter 500 Schulen und mehr als 220.000 teilnehmende Menschen.

In dem Werk „Ghost in the Shell“ am Ende des letzten Jahrhunderts zweifelte Motoko, dessen ganzer Körper in eine Körperprothese verwandelt wurde, an seiner Existenz. Der Körper, das Gedächtnis und die Beziehungen zu anderen Menschen können, wenn diese Dinge reproduziert werden können, nicht als Argument für das physische Leben herangezogen werden.

Als die AI-Sängerin populär wurde, brachte auch Stefanie Sun in ihrer Antwort einen ähnlichen Punkt zum Ausdruck: Du bist nichts Besonderes, du bist bereits vorhersehbar und leider auch anpassbar.

Wir können hinzufügen, dass jeder durch KI beschrieben und generiert werden kann, auch wenn man noch nie etwas getan hat.

Lu Xun sagte wirklich, als er kurze Ärmel sah, dachte er sofort an weiße Arme. Die menschliche Vorstellungskraft ist weit verbreitet, und es ist keine Überraschung, dass jedes Mal, wenn es einen neuen technologischen Fortschritt gibt, eine bestimmte vertikale Richtung ausgereifter entwickelt wird: Pornografie.

Südkorea, das einst wegen Room N die Welt schockierte, erlebt nun Version 2.0.

Gewalt von gewöhnlichen Menschen gegen gewöhnliche Menschen

Beim vorherigen Vorfall in Room N richtete der Täter mehrere Chatrooms auf der verschlüsselten Instant-Messaging-Software Telegram ein und veröffentlichte sexuell ausbeuterische Inhalte. Dieser Vorfall ereignete sich hauptsächlich auf Telegram.

Der Hauptunterschied zwischen den beiden besteht in den Mitteln der Kriminalität: Bei dem einen handelt es sich um geheime Fotografie, beim anderen um Deepfake.

Wir kennen Deepfake bereits, das mithilfe von KI scheinbar reale Videos, Audios oder Bilder generiert, um Dinge zu simulieren, die in Wirklichkeit nicht passiert sind.

Deepfakes werden häufig in der Unterhaltungsindustrie und bei Politikern eingesetzt, sie werden aber auch von gewöhnlichen Menschen kontrolliert und dazu verwendet, anderen gewöhnlichen Menschen Schaden zuzufügen.

Die Täter von Raum N 2.0 haben ihre Krallen auf ihre Familienmitglieder, Kollegen und Klassenkameraden ausgestreckt. Viele Telegram-Chatrooms sind nach Schulen oder Regionen organisiert, sodass Gruppenmitglieder gemeinsame Bekanntschaften und ähnliche Themen haben.

Neben den Frauen um sie herum sind auch weibliche Prominente das Ziel ihrer Jagd. Einige Chatrooms sind sogar nach Berufsgruppen unterteilt, darunter Lehrer, Krankenschwestern, Soldaten usw.

Die Hankyoreh Daily berichtete, dass ein Telegram-Chatroom mit 227.000 Teilnehmern nur Fotos von Frauen benötigte, um in 5 bis 7 Sekunden Deepfake-Inhalte zu generieren.

Was ist das Konzept von 220.000? Südkorea wird im Jahr 2023 nur 230.000 Neugeborene haben, und die Gesamtbevölkerung beträgt nur über 50 Millionen.

Dieser Chatraum verfügt über einen Roboter, der Frauenfotos zu Nacktfotos zusammenfügt und Brüste anpassen kann. Nachdem der Benutzer den Chatraum betritt, erscheint im Chatfenster eine Meldung: „Senden Sie jetzt die Frauenfotos, die Ihnen gefallen.“

Die Anzahl der Teilnehmer ist unverschämt, was möglicherweise mit der niedrigen „Eintrittsschwelle“ zusammenhängt: Links können durch die Suche nach bestimmten Schlüsselwörtern auf X (ehemals Twitter) gefunden werden.

Dieser Chatroom hat auch ein Monetarisierungsmodell etabliert. Die ersten beiden Fotos sind kostenlos, danach wird eine Gebühr von 1 Diamant (0,49 USD, ca. 3,47 RMB) pro Foto erhoben. Zahlungen können aus Gründen der Anonymität nur mit virtueller Währung erfolgen. Wenn Sie Freunde einladen, können Sie auch kostenlose Credits erhalten.

Es gibt aber auch einige Chatrooms, die eine „Zulassungsbescheinigung“ erfordern – wer der Gruppe beitreten möchte, muss zunächst 10 Fotos von Personen einreichen, die man kennt, und das Vorstellungsgespräch bestehen.

Als „Rohmaterialien“ können Avatare der Chat-Software KakaoTalk und Fotos von Instagram verwendet werden.

Noch erschreckender ist, dass ein Großteil der Opfer und Täter Teenager sind.

Freiwillige erstellten eine Karte, die in Echtzeit aktualisiert wurde und zeigt, in welchen Schulen die Verbrechen begangen wurden. Selbst in einer reinen Mädchenschule wird es Opfer geben, denn die Täter sind nicht unbedingt Klassenkameraden.

Wie viele Schulen genau betroffen sind, muss noch ermittelt werden. Einige Blogger behaupteten, dass dieses Mal mehr als 70 % der Schulen beteiligt waren.

Am 26. August wies „Korea JoongAng Daily“ darauf hin, dass mindestens etwa 300 Schulen im ganzen Land darunter seien, darunter sogar Grundschulen. Am 28. August erhöhte der WSJ-Bericht die Zahl auf etwa 500 Schulen.

Ein Internetnutzer beklagte sich im Kommentarbereich: „Das ist im Grunde ganz Südkorea …“

Obwohl es zu diesem Vorfall noch kein eindeutiges Untersuchungsergebnis gibt, können auch frühere Daten den Ernst der Lage veranschaulichen.

Laut Statistiken des Korea Women's Human Rights Institute suchten von Januar bis August dieses Jahres insgesamt 781 Deepfake-Opfer Hilfe, von denen 288 Minderjährige waren, was 36,9 % entspricht. Die tatsächliche Zahl liegt wahrscheinlich viel höher.

Darüber hinaus gab die südkoreanische Nationalpolizeibehörde an, dass seit Anfang 2023 rund 70 % der rund 300 Personen, denen die Herstellung und Verbreitung falscher Nacktfotos vorgeworfen wird, Teenager seien.

Viele koreanische Frauen gingen zu Weibo, um um Hilfe zu bitten. Sie konnten kein Chinesisch und konnten den Inhalt nur auf ihren Telefonen lesen, was ihre Hilflosigkeit und Angst zum Ausdruck brachte. „Raum N 2.0“ wurde einst zu einer heißen Suche auf Weibo.

Einige Internetnutzer fragen sich, warum koreanische Frauen das chinesische Internet um Hilfe gebeten haben. Tatsächlich sprechen nicht nur chinesische koreanische Frauen auch in anderen Sprachen über diesen Vorfall.

Sie glauben, dass die Medien aktiver berichten und die zuständigen Behörden ernsthafter ermitteln werden, wenn sie von Ausländern beachtet und kritisiert werden, anstatt sich taub zu stellen und Stillschweigen zu bewahren.

Einige strafrechtliche Beweise und sogar die Identität des Initiators wurden von koreanischen Frauen selbst untersucht, ähnlich wie damals bei Room N. Glücklicherweise haben der südkoreanische Präsident und der Vorsitzende der Oppositionspartei ihre Haltung zum Ausdruck gebracht: Der südkoreanische Präsident Yin Xiyue hat Folgendes vorgeschlagen:

Deepfakes sind eindeutig ein digitales Sexualverbrechen und wir werden sie ein für alle Mal ausrotten.

Deepfakes mögen als Scherz angesehen werden, aber es handelt sich eindeutig um kriminelle Handlungen, bei denen Technologie unter dem Deckmantel der Anonymität zum Einsatz kommt und jeder zum Opfer werden kann.

Die Server von Telegram befinden sich im Ausland und der CEO ist in Paris inhaftiert, was die Ermittlungen erschwert. Die Korea Communications Standards Commission sagte, sie habe einen Brief verschickt, in dem sie die französische Regierung zur Zusammenarbeit bei der Untersuchung von Telegram aufforderte.

Nachdem sie die Aufmerksamkeit der Öffentlichkeit auf sich gezogen hatten, wurden entsprechende Verhaltensweisen zurückgehalten. Die Hankyoreh Daily berichtete jedoch, dass einige skrupellose Benutzer eine strengere „Identitätsprüfung“ bestehen und weiterhin Deepfaking in privateren Chatrooms betreiben werden.

Falscher Inhalt, echter Schaden

Deepfakes sind nichts Neues, aber ihr Schaden wird selten anerkannt.

Einige Frauen in Südkorea haben ihre Social-Media-Konten privatisiert oder online veröffentlichte Fotos gelöscht, um Wiedergutmachung zu leisten.

Sie waren verzweifelt und zweifelten. Einerseits wissen sie nicht, wo ihre Fotos geteilt wurden und wie weit sie sich verbreitet haben. Andererseits verstehen sie nicht, warum Opfer aufgefordert werden, beim Hochladen von Fotos vorsichtig zu sein, anstatt die Täter aufzuklären.

Als eine Schülerin in ihrer Instagram-Story dazu aufrief, „alle von dir hochgeladenen Fotos zu entfernen“, könnten die Jungen derselben Schule sagen: „Du bist zu hässlich, um für solche Dinge benutzt zu werden.“

Im Internet gibt es immer noch solche Stimmen: „Ich weiß nicht, warum diese Art von Verbrechen so viel Schaden anrichten kann.“

Doch das, was Opfer erleben, ist mehr als nur der Anblick ihrer gefälschten Gesichter. Die Täter werden sie auch beleidigen, ihre persönlichen Daten wie Adressen, Telefonnummern und Studentenausweise verbreiten, Gerüchte über ihr Privatleben verbreiten und auf sie zugehen und sie belästigen.

Noch beängstigender ist die Begegnung mit „Rachepornos“ – Täter drohen damit, Fake-Materialien zu verbreiten, um Frauen zu erpressen und zu schädigen, was zu schwerwiegenderen Folgeschäden führt.

Der Korea Herald berichtete, dass Song, ein 17-jähriger Gymnasiast aus der Provinz Gyeonggi, einige Tanzfotos und kurze Videos online geteilt habe. Eines Tages erhielt sie auf Instagram eine anonyme Nachricht mit drei expliziten Fotos: „Verstehen deine Freunde und Eltern diese Seite deines Lebens?“

Diese Fotos sind allesamt Deepfakes, aber von echten Bildern kaum zu unterscheiden. Der Albtraum ist noch nicht vorbei und die Nachrichten, auf die sie antwortet, werden die andere Partei nur noch aufgeregter machen und noch mehr Anforderungen stellen.

Niemand kann den Schmerz teilen. Einige Opfer sagten sogar: „Die Welt, wie ich sie kannte, ist zusammengebrochen.“

Dies entspricht nicht dem vom Täter gezahlten Preis.

Der Vorfall ist noch nicht geklärt, aber Südkorea hat Deepfake bereits verurteilt, wovon am 28. August der erste Prozess stattfand.

Von Juli 2020 bis April dieses Jahres stahl Park Gesichtsfotos von weiblichen Opfern, darunter Universitätsabsolventen, produzierte 419 Deepfake-Pornografievideos und verbreitete 1.735 davon. Er wurde zu fünf Jahren Gefängnis verurteilt.

Die Opfer begannen im Juli 2021 herumzurennen, bevor es ihnen gelang, den Täter vor Gericht zu bringen, und Park wurde im Mai dieses Jahres strafrechtlich verfolgt.

Aufgrund dieses groß angelegten Deepfake-Vorfalls erwägen die zuständigen südkoreanischen Behörden, die maximale Haftstrafe von 5 auf 7 Jahre zu erhöhen.

Angesichts der Tatsache, dass Deepfake-Jugendstraftaten sehr häufig sind, es aber Gesetzeslücken gibt, misst Südkorea die Höchststrafe für Täter in der Pflichtschulstufe.

Bis heute ist Deepfake vielerorts noch eine Grauzone und die Schutzbemühungen können mit der Geschwindigkeit der Bedrohungen nicht mithalten.

Wenn das Opfer beispielsweise ein Erwachsener ist, gibt es in den Vereinigten Staaten unterschiedliche Gesetze und Vorschriften, die entweder kriminalisieren oder Zivilklagen einreichen, aber derzeit gibt es kein Bundesgesetz, das die Produktion von Deepfake-pornografischen Inhalten verbietet.

Ein Grund dafür, dass die Gesetzgebung schwierig ist, besteht darin, dass manche Leute glauben, dass das Subjekt auf dem Deepfake-Bild, selbst wenn es wie Sie aussieht, es nicht wirklich Sie sind, sodass Ihre Privatsphäre nicht wirklich verletzt wird.

Jeder weiß jedoch, dass das Bild zwar falsch ist, der Schaden jedoch real ist.

Die rechtlichen Fortschritte seien langsam, und gleichzeitig hätten sich die Täter, die nie aufgetaucht seien, vorübergehend „beruhigt“ und warteten auf „ein Comeback“.

Es ist so einfach, Böses zu tun, Deepfakes sind für jeden relevant

Südkorea ist keine Ausnahme. Deepfake findet unabhängig von Landesgrenzen statt.

Im September 2023 lud eine Gruppe Jungen in der spanischen Stadt Almendralejo in sozialen Medien gepostete Fotos ihrer Klassenkameradinnen auf ein KI-Tool zum „One-Click-Stripping“ hoch. Es gibt fünf Mittelschulen in der Stadt, und in mindestens vier von ihnen wurden „Nacktfotos“ von Klassenkameradinnen verbreitet.

Dieses Tool kann über mobile Apps oder Telegram genutzt werden. Es gibt mindestens 30 Opfer, hauptsächlich Studentinnen im Alter von 12 bis 14 Jahren.

Die meisten Initiatoren kannten sie und waren ebenfalls minderjährig. Mindestens zehn von ihnen waren sogar unter 14 Jahre alt und konnten nicht strafrechtlich verfolgt werden.

Sie erstellten Gruppenchats auf WhatsApp und Telegram, um diese „Nacktfotos“ zu verbreiten, und drohten den Opfern über Instagram, „Lösegeld“ und echte Nacktfotos zu erpressen.

Eine ähnliche Situation ereignete sich in einer High School in New Jersey, USA. Dort machten etwa 30 männliche Klassenkameraden während der Sommerferien „Nacktfotos“.

Der Schulleiter versicherte, dass alle Bilder gelöscht worden seien und nicht erneut verbreitet würden. Der Täter wurde für einige Tage von der Schule suspendiert und kehrte zum „Tatort“ zurück, als ob nichts passiert wäre.

Deepfake tauchte erstmals 2017 auf Reddit auf, der „amerikanischen Version von Tieba“. Die Hauptform besteht darin, die Gesichter von Prominenten durch die Protagonisten pornografischer Videos zu ersetzen oder politische Persönlichkeiten zu fälschen.

Aus technischer Sicht gibt es zwei Hauptpfade: Der eine ist der Encoder-Decoder-Pfad, der durch Komprimieren und Rekonstruieren des Bildes ein Gesicht durch ein anderes ersetzt, der andere ist der Generator-Diskriminator-Pfad (d. h. Generative Adversarial Networks (GANs)). realistische Bilder durch gegnerisches Training.

Heutzutage ist Deepfake ein weiter gefasster Begriff, der sich nicht mehr nur auf den Ersatz des Originalgesichts beschränkt, sondern wir bezeichnen damit jeden Akt der Verfälschung der Realität durch technische Mittel.

Hinter den Kulissen verbergen sich komplexe technische Prinzipien. Auch Jugendliche können über „out-of-the-box“-Schnittstellen falsche Informationen erzeugen und sind damit von einer Technologie nahezu ohne Schwellenwerte verkommen.

„One-Click-Ausziehen“-Apps erfordern lediglich ein Foto, eine E-Mail-Adresse und ein paar Dollar, um die „Kleidung“ von Prominenten, Klassenkameraden und Fremden stapelweise auszuziehen. Die zum „Ausziehen“ verwendeten Bilder stammen oft aus Social-Media-Aufnahmen. ohne Zustimmung des Herausgebers verbreitet und dann auch ohne dessen Wissen verbreitet.

Basierend auf einem Open-Source-Verbreitungsmodell, das auf massiven Bildern trainiert wird, können Benutzer durch die Eingabe von Aufforderungswörtern gefälschte, explizite Fotos von Prominenten erstellen.

Open-Source-GitHub-Projekte wie Deep-Live-Cam können Gesichter in Videochats mit nur einem Foto ändern.

Es mag schwierig sein, junge Menschen zu täuschen, aber für ältere Menschen ist das nicht unbedingt der Fall. Ein tragisches Beispiel hat sich in der Realität bereits ereignet: Ein 82-jähriger Mann in den Vereinigten Staaten hat aufgrund seines blinden Vertrauens in die KI 690.000 US-Dollar verloren ​Musk, der im Video die Leute getäuscht hat.

Im Juli 2023 veröffentlichte die Deutsche Telekom eine Anzeige zum Thema Datensicherheit bei Kindern und forderte Eltern dazu auf, die Privatsphäre von Kindern so wenig wie möglich im Internet preiszugeben.

Bilder, Videos und Audios sind alle Deepfake. Obwohl wir rational verstehen, dass „Sehen ist Glauben“ der Vergangenheit angehört, hat unsere Psychologie dies noch nicht vollständig akzeptiert und wir verfügen nicht über die entsprechende Fähigkeit, alle zu unterscheiden kann zum Opfer werden.

Technologie mag neutral sein, aber die Informationen, die Menschen mithilfe von Technologie produzieren, sind nicht nur Informationen, sondern auch Waffen, die dazu dienen, zu demütigen, zu stigmatisieren und ein Gefühl der Überlegenheit zu erlangen. Je vulgärer und bizarrer der Inhalt, desto leichter lässt er sich verbreiten. Das gilt schon seit der Antike.

Was können normale Menschen tun? Zumindest können wir entscheiden, wie wir Technologie nutzen, und wir können auch entscheiden, welche Informationen wir produzieren und verbreiten, den Opfern Aufmerksamkeit schenken, die Täter verspotten und unsere kleine Macht nutzen, um den Fortschritt von Gesetzen und gesellschaftlichen Konzepten voranzutreiben.

Warum hat das Opfer nach dem Gesichtsaustausch die Fotos gelöscht? Warum schämen sich Opfer so sehr, nachdem sie heimlich fotografiert wurden? Dies scheint eine Frage zu sein, die die Technologie nicht beantworten kann.

# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.

Ai Faner |. Ursprünglicher Link · Kommentare anzeigen · Sina Weibo