Die beliebte KI-Smart-Brille wurde zu einer neuen „echten Kamera und einem Artefakt aus menschlichem Fleisch“ verarbeitet.

Google Glass, das 2012 auf der Google I/O-Konferenz vorgestellt wurde, gilt als das am meisten gescheiterte Produkt in der Geschichte von Google, hat aber auch Spuren in der Geschichte der Technologie hinterlassen.

Es gibt viele Gründe für das Scheitern, Datenschutzrisiken sind einer davon.

Es ist einfach, Google Glass aufzufordern, Bilder aufzunehmen, Sprachbefehle zu verwenden oder die Taste oben gedrückt zu halten, aber es gibt keine leuchtenden Zeichen wie LEDs, die andere daran erinnern, dass sie sich im Aufnahmemodus befinden.

Daher handelt es sich bei Google Glass aus der Sicht von Passanten um ein unethisches „offenes Kameragerät“. Einige Nutzer wurden sogar von Sicherheitsleuten in Kinos rausgeschmissen.

Heutzutage passieren ähnliche Dinge immer noch, und sie werden sogar noch schlimmer – KI-Brillen können Ihre persönlichen Daten erkennen, nur weil Sie Sie in der Menge noch einmal ansehen.

Ein Gesicht, eine Brille, die Begegnung mit einem Fremden

Ist Ihr Name Lee? Haben Sie Ihren Abschluss am Bergen County College gemacht? Ist Ihr koreanischer Name Joo-oon? Lebst du in Atlanta? Haben wir uns bei der Cambridge Community Foundation getroffen? Sind deine Eltern John und Susan?

Wenn Sie auf der Straße von jemandem angesprochen würden, den Sie noch nie getroffen haben, der Sie aber zu kennen schien, begeistert Ihren Namen rief und Ihnen ein oder zwei persönliche Informationen mitteilte, wie würden Sie reagieren?

Zwei Harvard-Studenten, AnhPhu Nguyen und Caine Ardayfio, führten ein solches Experiment durch.

Mit Metas Datenbrille Meta Ray-Ban identifizierten sie wahllos Dutzende Fremde auf dem Campus, in der U-Bahn usw. Machen Sie ein Foto von jemandem und innerhalb von Sekunden werden seine Informationen auf Ihrem Telefon angezeigt.

Nur können die Datenbrillen selbst nicht die Wirkung eines solchen Programms erzielen. Sie haben einige technische Änderungen vorgenommen, aber das Prinzip ist nicht kompliziert.

Zunächst wird das Video über die Live-Übertragungsfunktion der Meta-Datenbrille in Echtzeit an Instagram übertragen, dann wird ein Computerprogramm verwendet, um den Videostream zu überwachen und KI zur Gesichtserkennung zu nutzen.

Anschließend werden weitere Fotos einer bestimmten Person im Internet durchsucht und der Name, die Adresse, die Telefonnummer und sogar relative Informationen der Person anhand öffentlicher Datenbanken gefunden.

Schließlich werden die Informationen zur einfachen Anzeige an eine von ihnen erstellte mobile App gesendet. Alles ist bereit, außer dass man zufällig einen Passanten erschreckt.

Um dies näher zu erläutern, kombinierten die beiden Studenten verschiedene bestehende und ausgereifte Technologien, einschließlich generativer KI.

• Smart Glasses: Mit Kameras ausgestattete Smart Glasses zur Aufnahme von Bildern von Gesichtern an öffentlichen Orten.
• Umgekehrte Gesichtserkennung: Vergleichen Sie Gesichtsbilder mit öffentlichen Bildern im Internet über Gesichtssuchmaschinen wie PimEyes und geben Sie Weblinks zu diesen Bildern zurück.
• Crawler-Tool: Verwenden Sie das Crawler-Tool FireCrawl, um die erforderlichen Daten aus diesen Weblinks zu crawlen.
• Große Sprachmodelle: Große Sprachmodelle leiten Details wie Namen, Berufe usw. aus abgekratzten, unordentlichen Daten ab.
• Datenbanken: Geben Sie einen Namen in Websites wie FastPeopleSearch ein, um persönliche Informationen wie Privatadressen, Telefonnummern und Namen von Verwandten aus öffentlichen Aufzeichnungen und sozialen Medien zu finden.

Unter ihnen spielt das große Sprachmodell eine sehr subtile Rolle. Es kann eine große Menge an Informationen aus verschiedenen Quellen verstehen, verarbeiten und zusammenstellen. Beispielsweise kann es den gleichen Namen in verschiedenen Artikeln verknüpfen und durch kontextuelle Logik auf die Identität einer Person schließen. und lassen Sie die Daten Der Extraktionsprozess ist automatisiert.

In Bezug auf die Argumentationsfähigkeit großer Sprachmodelle haben wir bereits über eine interessante Studie berichtet: „Chatten mit GPT-4, eine neue Art der Datenlecks“ .

Datenschutzlecks sind an der Tagesordnung, Gesichtserkennung ist nichts Neues und das Problem der heimlichen Fotografie taucht nicht alle Tage auf. In den letzten zwei Jahren sind große Modelle zu einem Produktivitätswerkzeug geworden, ohne das viele Menschen nicht leben können.

Die chemische Reaktion der starken Allianz zwischen ihnen hat jedoch immer noch zu einem sehr beängstigenden Ergebnis geführt: Allein durch zufällige Begegnungen auf der Straße können unsere persönlichen Daten von jemandem mit Herz gestohlen werden.

Die beiden Studenten gaben die technischen Details nicht an die Außenwelt weiter. Der Zweck dieses Experiments bestand darin, die Menschen daran zu erinnern, wachsam zu bleiben.

Wie können wir uns also schützen? Als Reaktion schlagen sie vor, ihre Daten aus Datenquellen wie Gesichtssuchmaschinen zu löschen. Es ist jedoch schwer zu sagen, ob dies vollständig ist oder nicht.

Obwohl ich Sie daran erinnert habe, wissen Sie möglicherweise nicht, dass Sie heimlich fotografiert wurden

Jemand scherzte damals, dass der größte Nutzen von Google Glass darin bestehe, Prinz Charles vom britischen Königshaus zu ermöglichen, sich die Namen aller zu merken.

Vielleicht werden wir durch intelligente Brillen, die die Gesichtserkennung unterstützen, eine Welt ohne Fremde einläuten. Der glücklichste Mensch ist möglicherweise Yagami Yue.

Sie fragen sich vielleicht: Mit der Datenbank und der Gesichtserkennung sollte es möglich sein, heimliche Fotos mit einem Mobiltelefon zu machen. Warum haben sie sich für die Datenbrille Meta Ray-Ban entschieden?

Der Grund ist einfach. Sie sehen aus wie gewöhnliche Sonnenbrillen. Sie sind nicht so Cyberpunk wie Google Glass. Sie eignen sich besser zum Aufnehmen, Freisprechen und zum Sehen, was Sie sehen.

Meta Ray-Ban ist nicht ohne Erinnerungen. Wenn der Benutzer ein Video aufnimmt, schaltet es sich automatisch ein, um Passanten daran zu erinnern. Aber es ist besser als nichts.

Eine frühere Rezension von The Verge ergab, dass das LED- und Verschlussgeräusch von Meta Ray-Ban bei hellen Außenbedingungen nicht wahrnehmbar ist. An überfüllten und lauten öffentlichen Orten neigen viele Menschen dazu, solche Details nicht wahrzunehmen.

Wenn Ihre Hände auf den Bügelknöpfen liegen, könnten andere denken, dass Sie nur Ihre Brille halten.

Daher ist es nicht schwer zu verstehen, dass der Datenschutz schon immer ein Schwerpunkt von Datenbrillen war. Als Metas erste AR-Brille Orion vor einiger Zeit auf den Markt kam, waren einige Leute besorgt, ob sie die Fehler von Google Glass wiederholen würde.

Meta betonte in der Datenschutzrichtlinie von Meta Ray-Ban auch, „wie man Datenbrillen verantwortungsvoll trägt“ und verfasste viele herzliche Erinnerungen.

Allerdings ist alles optional, ob Sie andere respektieren oder Ihre Stimme oder Gesten nutzen, um andere vor dem Filmen oder der Live-Übertragung daran zu erinnern, es hängt alles von Ihrem eigenen Bewusstsein ab.

Ganz zu schweigen davon, dass die Form einer Brille für die ehrliche Fotografie praktischer ist. Tatsächlich können Technologieunternehmen direkt intelligente Brillen entwerfen, die die Gesichtserkennung unterstützen.

Im Jahr 2021 berichteten ausländische Medien, dass Meta darüber nachgedacht habe, Gesichtserkennungsfunktionen in Datenbrillen einzubauen. Damals nannte Andrew Bosworth, Chief Technology Officer von Meta, auch ein Beispiel dafür, dass solche Datenbrillen Benutzern, die gesichtsblind sind oder sich ihren Namen nicht merken können, dabei helfen könnten, jemanden auf einer Dinnerparty zu erkennen.

Darüber hinaus hat das Gesichtserkennungs-Startup Clearview AI eigene AR-Brillen und -Anwendungen entwickelt, die angeblich eine Verbindung zu einer Datenbank mit 30 Milliarden Gesichtern herstellen können, aber nicht öffentlich verkauft werden.

Der Einsatz der Gesichtserkennung und die Verhinderung geheimer Fotos unterliegen bis zu einem gewissen Grad gesetzlichen und moralischen Beschränkungen.

Beispielsweise war es mit der Gesichtserkennungstechnologie von Facebook einst möglich, Freunde auf Fotos zu markieren. In einer Sammelklage zahlte Facebook 2015 eine Entschädigung in Höhe von 650 Millionen US-Dollar.

Im Jahr 2021 kündigte Facebook an, die Gesichtserkennungstechnologie nicht mehr zur Identifizierung von Personen in Fotos und Videos zu verwenden und die zugehörigen Daten von mehr als einer Milliarde Menschen zu löschen.

Gesichtserkennung, was für ein Klischee. Aber selbst die banalste Technologie gibt den Menschen aufgrund ihrer Reife, Beliebtheit und breiten Anwendung das Gefühl, einem gewaltigen Feind gegenüberzustehen.

Angesichts der KI gibt es immer weniger Geheimnisse

In den Experimenten von Harvard-Studenten besteht die Rolle großer Sprachmodelle darin, bei der Verarbeitung von Daten zu helfen. Mittlerweile stellen wir mithilfe verschiedener generativer KI-Produkte jedoch häufig aktiv unsere eigenen Daten bereit.

Denn oft ist die Bezahlung der Privatsphäre ein Muss für die Nutzung von Diensten, wie zum Beispiel die Übergabe Ihres Gesichts an eine KI-Software zur Gesichtsveränderung von P-Bildern.

Darüber hinaus betonen nicht nur Gesichter, sondern auch KI-Hardware und -Software zunehmend das Konzept personenbezogener Daten.

Verwenden Sie beispielsweise ein KI-Aufzeichnungsprodukt, um Ihren Tag nahtlos aufzuzeichnen, Ihren Tagesablauf und Ihre Hobbys in einem KI-Tagebuch offenzulegen oder ChatGPT einfach über die Speicherfunktion daran zu erinnern, wer wir sind.

KI wird Sie langsam besser verstehen, Sie analysieren, die Informationen um Sie herum organisieren, Ihnen mehr emotionalen Wert verleihen und Ihre begrenzte Gehirnkapazität ausgleichen.

Gleichzeitig legen diese Produkte auch Wert auf Datenschutz und Sicherheit. Sie sagen entweder, dass Ihre Daten Ihnen gehören und verwenden Ihre Daten nicht zum Trainieren von Modellen, oder sie verwenden End-Side-Modelle, die lokal ausgeführt werden, oder private Clouds, die die Sicherheit erhöhen Risiko von Datenschutzlecks.

Privatsphäre und Komfort gleichzeitig zu haben, ist schwierig. Wenn wir den Spaß und die Personalisierung verschiedener KI-Produkte genießen, gehen auch Risiken mit uns einher.

Genau wie das elektronische Gehirn in „Ghost in the Shell“ verbinden Menschen ihre Gehirne direkt mit dem Internet oder vernetzen ihre Gehirne. Sie können schnell miteinander kommunizieren, aber es besteht auch die Gefahr, dass das Gehirn angegriffen wird, und sogar Erinnerungen können dies tun gefälscht werden.

Natürlich kann der Verlust der Privatsphäre wie die Gesichtserkennung sein. Es ist ein langweiliges und unoriginelles Thema. Es ist so, als wäre es egal, es ist alles das Gleiche.

Aber wenn jemand mit „Sonnenbrille“ auf Sie zukommt und Ihren Namen ruft, ist diese Szene immer noch sehr beeindruckend, oder?

Vielleicht noch besorgniserregender ist die unsichtbare Macht über Informationen, die diejenigen, die über die Technologie und die Werkzeuge verfügen, zunächst über andere ahnungslose Personen ausüben.

Mit dem Aufkommen von Smartphones haben sich auch Kurzvideos und Live-Übertragungen auf vertikalen Bildschirmen entwickelt. Wir haben uns immer mehr an das Fotografieren gewöhnt.

Zu diesem Zeitpunkt sind wir ein Wassertropfen im riesigen Ozean, aber in Zukunft könnte dieser Wassertropfen von der KI hinter der Linse fokussiert und dann in eine konkretere Erscheinung gebrochen werden.

# Willkommen beim offiziellen öffentlichen WeChat-Konto von Aifaner: Aifaner (WeChat-ID: ifanr) wird Ihnen so schnell wie möglich zur Verfügung gestellt.

Ai Faner |. Ursprünglicher Link · Kommentare anzeigen · Sina Weibo