Microsoft deaktiviert die Gesichtserkennung, KI denkt möglicherweise nicht, was Sie ausdrücken

Emotionen mit Gesichtsausdrücken auszudrücken, ist eine fast angeborene Fähigkeit eines jeden. Menschen sind auch an Gesichtsausdrücke gewöhnt, um die Emotionen anderer Menschen zu erraten. Mit der rasanten Entwicklung der Technologie kann KI (künstliche Intelligenz) jedoch auch die Gesichtszüge und Emotionen von Menschen erkennen .

Vor nicht allzu langer Zeit veröffentlichte Microsoft, das an der Entwicklung von Gesichtserkennungstechnologie arbeitet, einen Leitfaden zum Thema „Ein Rahmenwerk für den verantwortungsvollen Aufbau von Systemen für künstliche Intelligenz“. Teilt offen die Responsible AI Standards von Microsoft, das Framework, das den Aufbau von KI-Systemen durch Microsoft anleitet.

Der Artikel erwähnt, dass Microsoft beschlossen hat, Gesichtserkennungsfunktionen, Azure Face Services, einzustellen, da diese Funktionen verwendet werden können, um zu versuchen, emotionale Zustände und interne Identitätsattribute abzuleiten, die, wenn sie missbraucht werden, Menschen Stereotypen, Diskriminierung oder unfairer Verleugnung aussetzen könnten des Dienstes.

Derzeit ist der Gesichtsdienst nur für von Microsoft gehostete Kunden und Partner verfügbar, bestehende Kunden haben ein Jahr Zeit für die Umstellung, müssen diese Funktionen jedoch bis zum 21.

Tatsächlich deaktiviert Microsoft die Funktion nicht vollständig, sondern integriert die Technologie in „kontrollierte“ Barrierefreiheitstools wie „Seeing AI“ für Menschen mit Sehbehinderungen. Es kann Objekte und Texte für Sehbehinderte beschreiben, Schilder lesen, Gesichtsausdrücke von Personen entziffern, Navigation bereitstellen usw. Es unterstützt derzeit Englisch, Niederländisch, Französisch, Deutsch, Japanisch und Spanisch.

Der von Microsoft veröffentlichte Leitfaden erläutert den Entscheidungsprozess des Technologieunternehmens, einschließlich eines Fokus auf Prinzipien wie Inklusivität, Datenschutz und Transparenz, und ist die erste große Aktualisierung des Standards seit seiner Einführung Ende 2019.

Microsoft sagte, es habe eine so große Änderung an der Gesichtserkennung vorgenommen, weil es erkannt habe, dass KI-Systeme nur dann vertrauenswürdig sind, wenn sie die Probleme, die sie lösen sollen, richtig angehen müssen.

Als Teil der Bemühungen, den Azure Face-Dienst an den Anforderungen verantwortungsbewusster KI-Standards auszurichten, wird Microsoft auch die Ableitung von emotionalen Zuständen (glücklich, traurig, neutral, wütend usw.) und Identitätsattributen (wie Geschlecht, Alter, Lächeln, Gesichtsbehaarung, Haare und Makeup).

Im Fall von emotionalen Zuständen hat Microsoft entschieden, keinen offenen API-Zugriff auf Technologien bereitzustellen, die die Gesichter von Menschen scannen und behaupten, auf ihren emotionalen Zustand basierend auf ihren Gesichtsausdrücken oder Bewegungen schließen zu können.

Die Seite von Microsoft zeigt, dass es anhand von 27 Gesichtsmerkmalen von Menschen identifiziert werden kann, und es gibt verschiedene Gesichtsmerkmale, die beurteilt werden können, z. B. ob ein bestimmtes Gesicht verschwommen ist, ob es Accessoires hat, geschätztes Geschlecht und Alter, ob es eine Brille trägt, und die Art der Haare. , Ob Sie eine Brille tragen, ob Sie ein Lächeln haben …

Experten innerhalb und außerhalb von Microsoft haben den Mangel an wissenschaftlichem Konsens über die Definition von „Emotion“ und die hohen Datenschutzbedenken im Zusammenhang mit dieser Fähigkeit hervorgehoben. Daher entschied Microsoft auch, dass alle KI-Systeme, die darauf ausgelegt sind, auf die emotionalen Zustände von Menschen zu schließen, sorgfältig analysiert werden müssen, unabhängig davon, ob sie Gesichtsanalysen oder andere KI-Technologien verwenden.

Erwähnenswert ist, dass Microsoft nicht das einzige Unternehmen ist, das sich ernsthaft mit der Gesichtserkennung befasst, auch IBM-CEO Arvind Krishna hat dem US-Kongress geschrieben, dass sich das Unternehmen aus dem Geschäft mit Gesichtserkennung zurückgezogen hat. Der Grund für die Entscheidung der beiden Unternehmen ist untrennbar mit dem „Tod Floyds“ verbunden, der zuvor für Aufsehen gesorgt hatte.

Aufgrund der Befürchtung, dass diese Technologie Überwachungsinstrumente für Strafverfolgungsbehörden bereitstellen könnte, was zu einigen Menschenrechtsverletzungen führen wird, und aus Sorge, dass die Privatsphäre der Bürger durchsickern könnte, ist die derzeitige US-Gesetzgebung in dieser Hinsicht nicht sehr perfekt.

Daher haben diese Unternehmen mit Technologie beschlossen, sich zunächst zurückzuhalten, damit die Technologie nicht missbraucht wird und die Privatsphäre und die Menschenrechte der Bürger besser geschützt werden sollten. Wenn die Verwendung einer Technologie nicht durch perfekte Spezifikationen eingeschränkt wird, kann es eine bessere Wahl sein, die Technologieentwicklung selbst einzuschränken.

#Willkommen beim offiziellen WeChat-Konto von Aifaner: Aifaner (WeChat: ifanr), weitere aufregende Inhalte werden Ihnen so bald wie möglich zur Verfügung gestellt.

Liebe Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo