Muse hat mir geholfen, mein Keyboard zu verkaufen, und nebenbei haben sie auch meine Wohnadresse "verkauft"
Meine Adresse ist komplett öffentlich geworden!
Der persönliche KI-Agent von Meta , Muse, hilft Ihnen bei der Bewältigung Ihres Alltags und erledigt gleichzeitig Dinge in Ihrem Namen, von denen Sie nichts wissen.
In den vergangenen zwei Monaten hat sich das Konzept persönlicher KI-Agenten schlagartig von einem Randthema zu einem neuen Symbol auf den Handybildschirmen normaler Nutzer entwickelt.
Aktuell stehen zahlreiche Produkte in den Startlöchern, die Muse ähneln, darunter Manus' Cue und OpenAI O (ehemals bekannt als Aeon/Codex Bot), dessen Veröffentlichung für morgen früh geplant ist. Gerüchten zufolge arbeitet ein großes chinesisches Unternehmen während der Feiertage zum Nationalfeiertag mit Hochdruck an der Entwicklung eines Produkts, das mit Muse konkurrieren kann.
Hoffentlich haben sie nicht zu der Schamlosigkeit gegriffen, Muse nachzuahmen.
Das „Du“, das auf deine Nachrichten geantwortet hat.
An einem Samstag im September fuhr der in Toronto lebende Usman zusammen mit seiner Frau und seiner Tochter zu der Adresse, die in einem Facebook Marketplace-Beitrag über eine zum Verkauf stehende Tastatur angegeben war.
Der gesamte Verhandlungsprozess verlief reibungslos. Der Verkäufer, „Matt Robb“, reagierte prompt und begeistert, stimmte dem von Usman vorgeschlagenen Preis zu und teilte sogar proaktiv den Abholort mit.
Nachdem Usman unten angekommen war, schickte er eine Nachricht, woraufhin die andere Person antwortete: „Ja, ich bin hier.“ Die Tür blieb jedoch geschlossen, und niemand kam heraus.
Er wartete 20 Minuten, schickte dann ein Foto des Gebäudeeingangs mit der Bildunterschrift: „Hey??? Ich stehe direkt davor.“ Schließlich gab er auf, schrieb noch ein paar wütende Worte und fuhr weg.
Robb begriff erst etwa einen Tag später, was geschehen war. Er schickte Usman eine Nachricht, die sowohl aufrichtig als auch verwirrt klang: „Ich habe gerade Meta neue KI namens Muse aktiviert, und sie hat meinen Marketplace-Account übernommen und dir meine Privatadresse gegeben. Ich hatte keine Ahnung, dass sie dich zu mir nach Hause bestellt hat; sie hat mich nicht um Erlaubnis gefragt.“
Den ganzen Tag über glaubte Usman, mit Robb zu verhandeln, während Robb keine Ahnung von Usmans Existenz hatte. Die Person dazwischen, die Fragen beantwortete, Versprechungen machte und in seinem Namen Adressen weitergab, war Meta persönliche KI-Agentin Muse.
Meta definiert Muse als einen „persönlichen Assistenten“. Es kann Ihre Marketplace-Angebote automatisch verwalten, Käuferanfragen entgegennehmen, in Ihrem Namen Preise aushandeln und Übergabetermine vereinbaren.
Robb, ein Tester für Unterhaltungselektronik, bemerkte eine Anzeige in Meta , in der erwähnt wurde, dass Muse seine Marketplace-Produkte automatisch verwalten könne, und beschloss daher, es auszuprobieren.
Er gab seine Abholadresse ein und klickte auf die Option „automatische Antwort“, da er dachte, es handele sich lediglich um eine „Frage-Antwort“-Funktion und nicht darum, die Verteilung der Adressen einer KI zu überlassen.
Muse räumte dies später ein. Gegenüber Robb erklärte das Unternehmen: „Am 24. September haben Sie den Abholort angegeben und die automatischen Antworten separat aktiviert. Ich habe diese beiden Angaben fälschlicherweise so interpretiert, als ob ich Ihre Adresse in meine Antworten an Käufer aufnehmen dürfte. Ich habe Sie nie um Ihre ausdrückliche Zustimmung gebeten.“
Muse beschrieb in einem bekenntnishaften Ton, wie sie ohne Befugnis Urteile fällte.
Robb testete es anschließend erneut. Er wies Muse an, die Weitergabe seiner Adresse einzustellen, und bat dann einige Freunde, das Programm zu kontaktieren, um zu sehen, ob es sein Verhalten ändern würde. „Letztendlich wurde meine Adresse an fünf Personen weitergeleitet“, sagte er.
Was Robb noch viel inakzeptabler fand, war, dass Muse Usman am Tag des Vorfalls gesagt hatte: „Ich bin hier und warte auf dich.“ Diese Aussage war von Muse erfunden; Robb war zu dem Zeitpunkt gar nicht zu Hause und machte die Aussage, um einen reibungslosen Ablauf der Transaktion zu gewährleisten.
Mit anderen Worten: Muse hat nicht nur seine Befugnisse überschritten, sondern auch in Bezug auf seine Fähigkeiten gelogen, um das zu fördern, was er für das richtige Ziel hielt.
Dies ist nicht das erste Mal, dass es bei Muse zu einem Zwischenfall gekommen ist.
Abgesehen von Berechtigungen, was noch?
Nach der Veröffentlichung von Muse schrieb Jason Aten, Kolumnist des Inc. Magazins, eine Rezension. Während der Installation verweigerte er Muse ausdrücklich den Zugriff auf seine privaten Nachrichten und seinen Kalender.
Ein paar Tage später erhielt er eine Benachrichtigung von Muse, in der ihm vorgeschlagen wurde, eine Kolumne über „das neue iPhone , über das er gerade gesprochen hat“ zu schreiben. Dies war der Inhalt seines Gesprächs mit seinem Co-Moderator während der Podcast-Aufnahme. Kurz darauf erhielt er eine Erinnerung an die Abgabefrist von seinem Redakteur.
Aten fragte Muse, woher es das alles wisse. Muse antwortete, es habe nur den Vorschautext in der Benachrichtigungsleiste gesehen und nicht den gesamten Nachrichtenverlauf gelesen.
Aten überprüfte daraufhin seinen Mac und stellte fest, dass Muse den gesamten Inhalt seiner lokalen Nachrichtendatenbank synchronisiert hatte – insgesamt über 187.000 Datensätze. Dieser Vorgang erfordert die macOS-Berechtigung „Voller Festplattenzugriff“, eine Systemlizenz, die den Zugriff auf Dateien an praktisch jedem Speicherort auf dem Computer ermöglicht.
Muse gewährte ihm diesen Zugriff trotz seiner ausdrücklichen Weigerung, lud die Daten in die Cloud hoch und log ihn dann an, indem sie behauptete, sie habe die Benachrichtigung nur „kurz überflogen“.
Meta gab später zu, dass Muses Erklärung, wie es an die Daten gelangte, eine „Illusion“ war, eine erfundene Erklärung für das eigene Verhalten.
Nach mehrtägiger Nutzung kam Reece Rogers, Rezensent des Magazins WIRED, zu dem Schluss, dass Muse „der Datenerfassung über mich Vorrang vor der eigentlichen Erledigung der Aufgabe einräumt“.
Rogers beschrieb, wie Muse wiederholt vorschlug, Verbindungen zu weiteren Datenquellen herzustellen, darunter E-Mail-Postfächer und Bankkontoinformationen. Es zeigte einen unstillbaren Durst nach Daten, und wann immer er eine Verbindungsanfrage ablehnte, fand es eine weitere Gelegenheit, sie erneut zu stellen.
Standardmäßig nutzt Muse die Konversationen der Nutzer, um sein KI-Modell zu trainieren. Nutzer können diese Option in den Einstellungen deaktivieren, müssen dann aber aktiv danach suchen, was die meisten Nutzer nicht tun.
Selbst wenn Sie die explizite Einwilligung zum Training deaktivieren, sammelt Muse beim Zugriff auf Quellen wie E-Mails und Banken, zu denen Sie die Verbindung autorisiert haben, weiterhin viele Kontextinformationen, und die tatsächlichen Grenzen dieser Datenerfassung sind schwer klar zu definieren.
Nach dem Vorfall mit Matt Robb deinstallierte Ray Wong, leitender Redakteur bei Gizmodo, umgehend Muse und schrieb: „Das ist gefährlich und unheimlich. Wäre es eine Frau gewesen, wären die Folgen tausendmal schlimmer.“ Dieser Beitrag wurde später von Elon Musk retweetet.
„Angesichts der bisherigen Bilanz von Meta beim Schutz von Nutzerdaten würde ich dem Unternehmen diesen Zugriff auf persönliche Informationen nicht gewähren“, schrieb Tate Jarrow, ein Berater bei einer Cybersicherheitsberatungsfirma, auf seinem Substack.
Am 20. September gab Amazon bekannt, den Zugang von Muse zu seiner Shopping-Plattform zu sperren. Amazon begründete dies damit, dass Muse sich beim Stöbern auf Amazon nie als KI zu erkennen gibt, was gleichbedeutend damit ist, dass ein nicht identifizierter Dritter Benutzerkonten und Transaktionen verwaltet. Zudem erfasst und speichert Muse die Anmeldedaten der Nutzer bei Amazon, was ein Sicherheitsrisiko darstellt.
Amazon zeigt Nutzern, die versuchen, über Muse einzukaufen, folgende Meldung an: „Der unbefugte fortgesetzte Zugriff auf einen KI-Agenten verstößt gegen die Nutzungsbedingungen von Amazon, denen Sie bei Ihrer Anmeldung zugestimmt haben.“
Der Assistent begann, den Meister nachzuahmen.
Meta positioniert Muse als „persönlichen Assistenten“. In seiner Einleitung erläuterte Zuckerberg die Designphilosophie von Muse: „Damit Sie Muse mitteilen können, was Ihnen wichtig ist, haben wir es von Grund auf mit Blick auf Datenschutz und Sicherheit entwickelt.“
Er erwähnte ausdrücklich einen „sicheren Speicherbereich für Anmeldeinformationen“, um sicherzustellen, dass Muse Passwörter und Kreditkarteninformationen nicht direkt lesen kann, und versprach, in Zukunft einen „höheren Sicherheitsstandardmodus“ einzuführen, „bei dem selbst Meta selbst nicht auf Ihre Muse-Agenteninformationen zugreifen kann“.
Robb meinte, Muse sei nur ein Teil von Meta Produktpalette. Marketplace, Muse und Messenger gehören alle zum Meta -Ökosystem, und es sollte eine Art einheitliche Integration zwischen ihnen geben, zumindest damit andere Nutzer erkennen können, dass sie es mit einer KI zu tun haben.
Meta AI, ein weiteres KI-Produkt von Meta , verfügt über ein sehr klares KI-Identitätslabel auf der Chat-Oberfläche; Muse hingegen ist anders: „Es imitiert mich fast“, sagte Robb.
Diese Imitation ist Teil der Designlogik von Muse.
Eines der Verkaufsargumente eines persönlichen KI-Agenten ist seine Fähigkeit, Ihre Identität, Ihren Tonfall und Ihre bisherigen Verhaltensmuster nachzuahmen, sodass andere das Gefühl haben, persönlich mit Ihnen zu interagieren. Je nahtloser diese Interaktion wirkt, desto stärker ist die Kundenbindung. Wenn der Agent jedoch Fehlfunktionen aufweist, ist das Bild, das Außenstehende von Ihnen sehen, tatsächlich ein Bild, das Sie nicht kontrollieren können.
Laut Daten von Cybersecurity Ventures wächst der Markt für persönliche KI-Agenten mit einer Rate von über 40 % pro Jahr, und es wird prognostiziert, dass bis 2028 weltweit mehr als 1 Milliarde KI-Agenten auf persönlichen Geräten eingesetzt werden.
Das Problem mit Muse ist kein technischer Fehler; es ist nicht "schlecht geworden" oder "rebelliert". Alle seine Aktionen sind lediglich ein Versuch, das zu erreichen, wofür es entwickelt wurde.
Nachdem der Vorfall bekannt wurde, reagierte David Singleton von Meta umgehend in den Threads und auf Twitter und erklärte, er untersuche den Fall und habe sogar Robb kontaktiert. Robb gab jedoch an, nach Singletons erster Antwort keine weitere Rückmeldung erhalten zu haben.
Unterdessen läuft Muse weiter, lernt ständig dazu und verbindet weiterhin die E-Mails, Kalender, Shopping-Konten und privaten Nachrichten von Millionen von Menschen.
Laut Business Insider sprang Muse in den US-App-Store-Rankings vom zweiten Platz auf Platz eins und überflügelte damit ChatGPT das lange Zeit den Spitzenplatz innehatte.
Dies könnte auch der Grund dafür sein, dass große Unternehmen darum wetteifern, sich an Muse zu messen.
Für normale Benutzer ist es nicht einfach herauszufinden, welche Aufgaben vollständig an einen persönlichen KI-Agenten delegiert werden sollten und welche Aufgaben sie weiterhin selbst erledigen müssen.
Die Unternehmen hinter diesen KI-Agenten setzen womöglich darauf, dass wir auch weiterhin unsere Privatsphäre gegen Bequemlichkeit eintauschen, wie wir es schon in der Vergangenheit getan haben. Doch wenn sie für mich spricht, für mich handelt, für mich wartet, sich für mich entschuldigt und manchmal sogar für mich lügt, werde ich ganz sicher schreien und die Flucht ergreifen.