Google wird damit beginnen, KI-generierte Bilder in der Suche zu kennzeichnen

KI-generierte Bilder sind in den letzten Monaten in den Ergebnissen der Google-Suche immer dominanter geworden, wodurch legitime Ergebnisse verdrängt werden und es für Nutzer schwieriger wird, das zu finden, wonach sie tatsächlich suchen. Als Reaktion darauf kündigte Google am Dienstag an , in den kommenden Monaten mit der Kennzeichnung von KI-generierten und KI-bearbeiteten Bildsuchergebnissen zu beginnen.

Das Unternehmen markiert solche Inhalte über das Fenster „Über dieses Bild“ und wendet sie auf die Suche, Google Lens und die Circle-to-Search- Funktionen von Android an. Google wendet die Technologie auch auf seine Werbedienste an und erwägt, YouTube-Videos eine ähnliche Flagge hinzuzufügen, wird aber „später im Jahr weitere Updates dazu veröffentlichen“, heißt es in dem Ankündigungsbeitrag.

Google wird sich auf Metadaten der Coalition for Content Provenance and Authenticity (C2PA) stützen, um KI-generierte Bilder zu identifizieren. Dabei handelt es sich um eine Branchengruppe, der Google Anfang des Jahres als Mitglied des Lenkungsausschusses beigetreten ist . Diese „C2PA-Metadaten“ werden verwendet, um die Herkunft des Bildes zu verfolgen und zu identifizieren, wann und wo ein Bild erstellt wurde, sowie die bei seiner Erstellung verwendete Ausrüstung und Software.

Bisher haben sich eine Reihe von Schwergewichten der Branche dem C2PA angeschlossen, darunter Amazon, Microsoft, OpenAI und Adobe. Allerdings hat der Standard selbst bei den Hardwareherstellern kaum Beachtung gefunden und ist derzeit nur auf einer Handvoll Kameramodellen von Sony und Leica zu finden. Einige prominente Entwickler von KI-Generierungstools haben es ebenfalls abgelehnt, den Standard zu übernehmen, beispielsweise Black Forrest Labs, das das Flux-Modell herstellt, das Grok für seine Bildgenerierung nutzt.

Die Zahl der Online-Betrügereien, die KI-generierte Deepfakes nutzen, ist in den letzten zwei Jahren explosionsartig angestiegen. Im Februar beispielsweise wurde ein in Hongkong ansässiger Finanzier dazu verleitet, 25 Millionen US-Dollar an Betrüger zu überweisen , die sich während einer Videokonferenz als CFO des Unternehmens ausgaben. Im Mai ergab eine Studie des Verifizierungsanbieters Sumsub, dass Betrügereien mit Deepfakes zwischen 2023 und 2024 weltweit um 245 % zugenommen haben, wobei in den USA ein spezieller Anstieg um 303 % zu verzeichnen ist.

„Die öffentliche Zugänglichkeit dieser Dienste hat die Eintrittsbarriere für Cyberkriminelle gesenkt“, sagte David Fairman, Chief Information Officer und Chief Security Officer von APAC bei Netskope, im Mai gegenüber CNBC . „Sie müssen nicht mehr über besondere technische Fähigkeiten verfügen.“