Zooms K.I. Technologie zur Erkennung von Emotionen bei Anrufen verärgert Kritiker

Zoom hat begonnen, KI-Technologie zu entwickeln, die Berichten zufolge die Gesichter und die Sprache von Benutzern scannen kann, um ihre Emotionen zu bestimmen, was erstmals von Protocol berichtet wurde .

Während sich diese Technologie noch in einer frühen Phase der Entwicklung und Implementierung zu befinden scheint, gehen mehrere Menschenrechtsgruppen davon aus, dass sie später für diskriminierendere Zwecke verwendet werden könnte, und drängen Zoom, sich von dieser Praxis abzuwenden.

Derzeit hat Zoom detaillierte Pläne für den Einsatz der KI-Technologie in einem Verkaufs- und Schulungsprotokoll. In einem im letzten Monat geteilten Blogbeitrag erklärte Zoom, wie sein Konzept von „Zoom IQ“ funktioniert, um Verkäufern dabei zu helfen, die Emotionen von Gesprächspartnern zu bestimmen, um ihre Verkaufsgespräche zu verbessern.

Der Blog stellt fest, dass Zoom IQ Metriken wie das Gesprächs-Zuhör-Verhältnis, die Sprechgeschwindigkeit, den Monolog, die Geduld, die engagierten Fragen, die nächsten Schritte, den Schritt nach oben sowie die Stimmung und das Engagement verfolgt.

Zoom bemerkte in seinem Blog auch, dass die gesammelten Daten „zu Informationszwecken dienen und Ungenauigkeiten enthalten können“.

„Die Ergebnisse sind nicht dazu bestimmt, für Beschäftigungsentscheidungen oder andere vergleichbare Entscheidungen verwendet zu werden. Alle empfohlenen Bereiche für Metriken basieren auf öffentlich zugänglichen Forschungsergebnissen“, fügte das Unternehmen hinzu.

Nichtsdestotrotz haben über 25 Rechtegruppen am Mittwoch einen gemeinsamen Brief an Eric Yuan, CEO von Zoom, geschickt, in dem sie das Unternehmen auffordern, weitere Forschungen zu emotionsbasierter künstlicher Intelligenz einzustellen, die unglückliche Folgen für die Benachteiligten haben könnten. Einige dieser Gruppen sind Access Now, die American Civil Liberties Union (ACLU) und die Muslim Justice League.

Die stellvertretende Direktorin des ACLU Speech, Privacy, and Technology Project, Esha Bhandari, sagte der Thomson Reuters Foundation , dass die Emotions-KI „eine Junk-Wissenschaft“ und eine „gruselige Technologie“ sei.

Abgesehen von Zooms anfänglicher Anmerkung in seinem April-Blog muss das Unternehmen noch auf diese Kritik reagieren, die bereits letzte Woche begann.

Wir haben kürzlich gesehen, wie Marken wie DuckDuckGo im Namen des Datenschutzes gegen Google angetreten sind. Nachdem Google behauptet hat, invasive Cookies in Webbrowsern loszuwerden, hat es sie im Wesentlichen durch eine Technologie ersetzt, die Benutzerdaten auf ähnliche Weise verfolgen und sammeln kann.