Besorgt über die Deepfake-Warnung des FBI? Befolgen Sie diese Expertentipps

Letzte Woche veröffentlichte das Federal Bureau of Investigation (FBI) eine öffentliche Bekanntmachung über die Zunahme expliziter Deepfake-Inhalte und deren Verwendung für Straftaten wie Erpressung, Erpressung und Belästigung. Im einfachsten Sinne handelt es sich bei einem Deepfake um synthetisches Multimediamaterial, das versucht, ein Original nachzuahmen . Es kann sich um ein Foto, ein Video oder einen Audioclip der KI-Generierung handeln.

Der Name „Deepfake“ leitet sich von der inhärenten Technologie ab, die bei der Erstellung solcher Medien verwendet wird – Deep Learning –, bei der ein KI-Modell anhand von Originalmaterial trainiert und dann modifiziert wird, um die gewünschten Ergebnisse zu erzielen. Es ist nicht gerade eine neue Erfindung, aber da generative KI immer beliebter und zugänglicher wird , nehmen Deepfake-Verbrechen zu.

Ihre Popularität ist so groß, dass selbst der Wahlkampf des republikanischen Präsidentschaftskandidaten Ron DeSantis gefälschte Bilder des Rivalen Donald Trump verwendete, um ihn zu verleumden. Deepfakes sind auch einer der Gründe dafür, dass überall Forderungen nach einer Regulierung der KI laut werden. Nach Angaben des FBI werden die Inhalte zur Generierung von Deepfakes im Allgemeinen aus Social-Media-Beiträgen und Videoanrufclips entfernt, bevor sie in sexuell eindeutige Materialien zur Erpressung und Mobbing umgewandelt werden.

Was die Experten zu Deepfakes sagen

Also, was ist die Lösung? Leider gibt es keine Lösung. Zumindest nicht, ohne einen Kompromiss einzugehen – einen, der die gesamte Bedeutung von „Social Media“ grundlegend auf den Kopf stellt.

„Leider kann man nur sicherstellen, dass keines seiner Fotos oder Videos zur Erstellung von Deep Fakes verwendet wird, indem man keine Bilder von sich selbst mehr online stellt, aber das würde den Internetnutzern viel Spaß machen“, sagt Adrianus Warmenhoven, a Cybersicherheitsberater bei Nord .

„Wenn neue und bessere Sicherheitspraktiken aufkommen, werden böswillige Akteure einen Weg finden, Schaden anzurichten. Es ist ein Aufholspiel und manchmal enttäuschend“, sagt Parteek Saran, ein ehemaliger Google-Mitarbeiter und Entwickler eines Passwortverwaltungstools der nächsten Generation namens Uno . Er schlägt außerdem vor, dass man bei der Veröffentlichung von Inhalten in sozialen Medien versuchen sollte, eine „Null-Vertrauens-Philosophie“ einzuführen, und betont die effektive Kommunikation mit Bekannten, um Deepfake-Betrügereien zu vermeiden.

„Obwohl KI bei der Bewältigung digitaler Sicherheitsbedenken helfen kann, gibt es kein narrensicheres Sicherheitsnetz“, sagt Yaron Litwin, Experte für digitale Sicherheit und CMO bei Canopy . Die gleichnamige App des Unternehmens zielt darauf ab, Kinder vor Online-Sexualverbrechen zu schützen und bietet außerdem vielfältige Kindersicherungsfunktionen. Litwin fügt hinzu, dass Sie das Posten intimer oder kompromittierender Bilder vermeiden und gleichzeitig die Häufigkeit selbst normaler Bilder reduzieren sollten.

Wie Sie sich selbst schützen können

Deepfakes sind erschreckend und es ist schwer vorstellbar, welches Trauma sie einer Person und ihren Familienmitgliedern zufügen können. Doch es gibt ein paar Möglichkeiten, wie Nutzer vermeiden oder zumindest weitgehend aus der Falle tappen können.

Um zu verstehen, welche Schritte durchschnittliche Smartphone-Benutzer mit typischen digitalen Fähigkeiten unternehmen können, habe ich mich an Andrew Gardner gewandt, Vizepräsident für Forschung und Innovation bei Gen Digital , einem Softwareunternehmen, das unter anderem vertrauenswürdige Sicherheitstools wie Norton, Avast und Avira anbietet.

Laut Gardner beginnen Sicherheitsprotokolle auf der grundlegenden Ebene. Benutzer sollten damit beginnen, ihre Profile auf privat zu stellen – oder zumindest die Einstellungen für die Sichtbarkeit der Beiträge so ändern, dass nur die Personen, denen sie gegenseitig folgen, ihre Beiträge sehen und mit ihnen interagieren können. Kindersicherungen , die mittlerweile für fast alle großen Social-Media-Plattformen verfügbar sind, sollten sorgfältig aktiviert werden, damit Erziehungsberechtigte verdächtige Interaktionen im Auge behalten können.

Es wird allgemein empfohlen, nur Anfragen von Leuten anzunehmen, die man kennt, aber ein zusätzlicher Schritt kann viel bewirken. „Wenn Sie sich vernetzen, schauen Sie sich die letzten Beiträge und Aktivitäten der Eingeladenen an, um zu beurteilen, wie echt sie sind“, sagt Gardner und fügt hinzu, dass man bei „Konten mit wenigen Freunden oder gemeinsamen Freunden“ vorsichtig sein sollte. Ein weiterer wichtiger Ratschlag, den die Führungskraft von Gen Digital geben muss, ist die Überprüfung und Einschränkung von Social-Media-Logins.

Benutzer besuchen häufig Online-Dienste und um den Aufwand der Erstellung eines Kontos zu vermeiden, entscheiden sie sich für die Anmeldeoption für soziale Medien. „Dadurch erhalten Apps Zugriff auf persönliche Informationen, und in manchen Situationen verkaufen diese Apps diese Informationen an Dritte“, sagt er. Der Facebook-Skandal um Cambridge Analytica ist ein gutes Beispiel. Man sollte regelmäßig überprüfen, welche Apps mit ihren Social-Media-Konten verbunden sind, und sofern nicht erforderlich, sollte ihr Zugriff widerrufen werden.

Bei Deepfakes handelt es sich um hochentwickelte KI-gestützte Straftaten. Gardner empfiehlt Benutzern jedoch, sich dennoch an einige grundlegende Sicherheitsrichtlinien zu halten – etwa die Aktivierung der Zwei-Faktor-Authentifizierung, die Verwendung sicherer Passwörter, die Aktivierung biometrischer Passschlüssel und die Vermeidung verdächtiger oder unbekannter Links.

Soziale Medien werden sicher und verantwortungsvoll betrieben

Litwin von Canopy ist der Meinung, dass es umso einfacher wird, überzeugende Deepfakes zu erstellen, je mehr man teilt. Es gibt keinen Mangel an zwielichtigen KI-Bildgenerierungsmodellen ohne Einschränkungen bei der Erstellung expliziten Materials. Diese Tools basieren auf Bildeingaben, um das Modell zu trainieren. Je mehr Trainingsdaten zugeführt werden, desto genauer und realistischer werden die Deepfakes.

Dies ist die Standardtaktik, die von gängigen KI-Bildgeneratoren wie MidJourney implementiert wird. Wenn Ihr Social-Media-Feed offen ist und eine große Menge an Fotos und Videos enthält, kann ein böswilliger Akteur nicht davon abgehalten werden, diese zu crawlen, um kompromittierende Deepfakes zu erstellen. Aber wenn Sie zu den Leuten gehören, die soziale Medien als einen Ort zum Bewahren Ihrer wertvollsten Erinnerungen ansehen, müssen Sie einige Maßnahmen ergreifen.

„Seien Sie vorsichtig bei den persönlichen Informationen, die Sie online weitergeben, passen Sie die Datenschutzeinstellungen Ihrer Konten an, aktivieren Sie die Zwei-Faktor-Authentifizierung und überprüfen Sie Bilder sorgfältig auf etwaige Mängel“, bemerkt Boyd Clewis , Cybersicherheitsexperte beim Forbes Security Council und Autor von „Through Die Firewall: Die Alchemie, aus der Krise eine Chance zu machen.“

Aber wie kann man ein Social-Media-Profil zuverlässig erkennen, hinter dem wahrscheinlich ein Bösewicht steckt, der zwielichtige Taten wie die Erstellung und Verbreitung von Deepfakes begeht? „Wenn Video- oder Audiomaterial von verdächtigen Profilen geteilt wird und die Konten keine persönlichen Informationen oder Fotos enthalten, ist es wahrscheinlich, dass das Profil gefälscht ist“, schlägt Tomas Samulis, ein Informationssicherheitsarchitekt bei Baltic Amadeus, vor. Er schlägt vor, dass solche Profile ohne personenbezogene Daten speziell für die Verbreitung von Fälschungen und anderen kontroversen Informationen erstellt werden.“

Was tun, wenn Sie einen Deepfake erhalten?

Aber es gibt nur begrenzte Vorsichtsmaßnahmen, die ein durchschnittlicher Smartphone-Benutzer treffen kann. Selbst die digitalaffinsten Benutzer sind Opfer von Cyberkriminalität, selbst wenn sie alle Standardtools wie Zwei-Faktor-Authentifizierung, private Profile und biometrische Firewalls nutzen.

Wenn Sie sich trotz aller Vorsichtsmaßnahmen immer noch im Zentrum eines Deepfake-Verbrechens befinden, holen Sie sich fachkundigen Rat und Hilfe bei den Behörden, anstatt die Sache selbst in die Hand zu nehmen. Experten weisen darauf hin, dass sich die Situation für die Opfer häufig verschlechtert, wenn man einer solchen Belästigung zusieht oder versucht, diskret damit umzugehen.

„Wenn Sie feststellen, dass jemand Ihre Inhalte missbraucht, wenden Sie sich an einen mit dem Urheberrecht vertrauten Rat, der Ihnen hilft, die Inhalte so schnell wie möglich zu entfernen“, sagt Rob Scott, Mitglied der Dallas Bar Association und zugelassener Rechtsexperte in Bereichen wie Cybersicherheit Risiko und Datenschutz.

Die Konsultation eines Rechtsexperten ist von entscheidender Bedeutung, da dieser Sie durch Ihre digitalen Rechte führen kann. Litwin von Canopy empfiehlt außerdem, alle Beweise aufzubewahren und den Opfern zu raten, „alle Beweise für die Erpressungsversuche zu dokumentieren, wie z. B. Nachrichten, E-Mails oder jede Form der damit verbundenen Kommunikation.“ die Erpressung.“

Ein weiterer wichtiger Ratschlag ist, dass das Opfer sofort jeglichen Kontakt mit einem Kriminellen beenden sollte, da der Kriminelle es mit schwerwiegenderen Erpressungsforderungen noch weiter manipulieren oder belästigen kann. Gleichzeitig sollten Benutzer einen Cybersicherheitsexperten kontaktieren oder eine der staatlichen Helplines für Cyberkriminalität anrufen, um rechtzeitig die richtigen Maßnahmen zu ergreifen.

So erkennen Sie Deepfakes

Da KI-Engines immer ausgefeilter werden, wird die Art von Deepfakes, die sie produzieren, unheimlich real und schwer zu erkennen. Allerdings gibt es immer noch einige Markierungen, auf die Benutzer achten können, um synthetisch verändertes oder KI-generiertes kompromittierendes Material zu erkennen.

Im Folgenden finden Sie eine Zusammenstellung von Deepfake-Identifikatoren, die Experten zu bieten haben:

• Achten Sie auf unnatürliche Augenbewegungen. Wenn die Augen einer Person nicht zu blinzeln scheinen, die Augenbewegung fehlerhaft ist oder der Gesichtsausdruck nicht mit den gesprochenen Worten übereinzustimmen scheint, handelt es sich höchstwahrscheinlich um einen Deepfake-Clip. Ein Mangel an Emotionen oder inkohärente Emotionen sind ein verräterisches Zeichen dafür, dass die Medien digital verändert wurden.
• „Deepfake-Technologie konzentriert sich typischerweise auf Gesichtszüge“, sagt Gardner. „Wenn die Körperform der Person nicht natürlich erscheint oder ihre Bewegungen ruckartig und unzusammenhängend sind, handelt es sich bei dem Video wahrscheinlich um einen Deepfake.“
• Ein weiterer zuverlässiger Marker ist der Hintergrund, der unnatürlich unscharf erscheinen kann oder seltsame visuelle Artefakte aufweist. Eine weitere einfache Möglichkeit, Deepfakes zu erkennen, besteht darin, nach ungewöhnlichen Verfärbungen oder schwerwiegenden Farbabweichungen zu suchen, insbesondere im Hinblick auf das Gesicht und die Schatten von Gegenständen in der Umgebung.
• Wenn Sie auf ein Foto stoßen, auf dem eine Person „perfektes Haar“ trägt und Sie keine einzelnen Elemente wie ein paar fliegende Haarsträhnen oder Kräuselungen erkennen können, bleiben Sie vorsichtig. Es ist auch bekannt, dass KI-Modelle mit Zähnen zu kämpfen haben. Achten Sie auf Zähne, die entweder unnatürlich perfekt sind oder denen die Umrisse einzelner Zähne fehlen oder die möglicherweise mehr Zähne als die übliche menschliche Prothese aufweisen.
• Fehlausrichtung von Körperteilen, verschwommene Kanten, ein paar zusätzliche oder weniger Finger, seltsam verdrehte Gliedmaßen, asynchrone Bewegungen von Körperteilen und eine Stimme ohne Pausen und emotionale Brüche sind weitere Anzeichen, auf die Sie genau achten sollten. „Gefälschte Sprach- oder Audioaufnahmen haben oft Hintergrundgeräusche, roboterhaft klingende Stimmen und seltsame Aussprachen“, erklärt Samulis.

Ein ernstes Problem mit halbwirksamen Lösungen

Wie oben erläutert, gibt es kein narrensicheres Sicherheitsnetz gegen Deepfakes. Wenn Sie jedoch sorgfältig darauf achten, wo Sie Fotos teilen, wer sie sehen kann und wie weit Ihr Zugriff auf soziale Medien reicht, können Sie in einer relativ sicheren Zone bleiben.

Man sollte auch darauf achten, wer seine Online-Freunde sind, und auch die Aktivitäten neuer Einladungen überprüfen, bevor man sie zu seinem Freundeskreis in den sozialen Medien hinzufügt. Was Deepfakes betrifft, ist das etwas knifflig. Wenn Sie jedoch wachsam bleiben und sich die Zeit nehmen, Unstimmigkeiten in einem verdächtigen Foto oder Video zu beurteilen, können Deepfakes mit ziemlich hoher Genauigkeit erkannt werden.

Letztendlich geht es darum, hygienische Online-Gewohnheiten zu pflegen und in einem zunehmend fälschungsgefährdeten Online-Bereich wachsam zu bleiben.