Twitter enthüllt, dass KI-Cropping aufgrund von Rasse und Geschlecht verzerrt ist
Das erste Mal, dass wir die Idee hörten, dass der Bildbeschneidungsalgorithmus von Twitter einige Verzerrungen aufweisen könnte, war im September 2020. Der Kryptografietechniker Tony Arcieri hat zwei Bilder mit dem Mehrheitsführer des Senats, Mitch McConnell, und dem ehemaligen Präsidenten Barack Obama hochgeladen, und die KI wurde McConnell beide Male ins Gesicht geschnitten .
Als die Kontroverse schließlich die Leute bei Twitter erreichte, versprach das Unternehmen, sein Modell zu analysieren. Schließlich können wir diese Ergebnisse durchlesen.
Twitter teilt die Ergebnisse seiner Algorithmusanalyse
Anfang Mai hat Twitter endlich eine Bildvorschau in voller Größe auf seinen mobilen Zeitleisten eingeführt. Ein Beitrag im Twitter-Blog hat ergeben, dass die App ihren Algorithmus zum Zuschneiden von Bildern eingestellt hat, nachdem eine Analyse ergab, dass sie rassen- und geschlechtsspezifische Vorurteile aufweist.
Die Plattform begann 2018 mit der Verwendung eines Ausnahmealgorithmus, um ihre Bilder zuzuschneiden. Laut Twitter werden Ausnahmemodelle auf Daten zur Verfolgung des menschlichen Auges trainiert, die dann vom Algorithmus verwendet werden, um abzuschätzen, welche Themen / Elemente in dem Bild seiner Meinung nach für die meisten Menschen am wahrscheinlichsten sind.
Der Algorithmus würde dann eine Ausprägungsbewertung für alle Teile des Bildes erstellen, bevor der Punkt mit der höchsten Bewertung als Mittelpunkt des Zuschnitts ausgewählt wird.
Nachdem ein quantitativer Test durchgeführt worden war, um mögliche Verzerrungen festzustellen, stellte das Team fest, dass der Ausnahmealgorithmus Frauen gegenüber Männern und weiße Personen gegenüber schwarzen Personen zu bevorzugen schien.
Twitter testete den Algorithmus auch für den "männlichen Blick", es wurden jedoch keine Hinweise auf eine Objektivierungsverzerrung gefunden.
Selbst wenn der Ausnahmealgorithmus angepasst wurde, um die perfekte Gleichstellung zwischen Rasse und Geschlecht widerzuspiegeln, sind wir [Twitter] besorgt über den Repräsentationsschaden des automatisierten Algorithmus, wenn Personen sich nicht so darstellen dürfen, wie sie es auf der Plattform wünschen. Saliency birgt auch andere potenzielle Schäden, die über den Rahmen dieser Analyse hinausgehen, einschließlich der Unempfindlichkeit gegenüber kulturellen Nuancen.
Bei der Betrachtung der Kompromisse zwischen der Geschwindigkeit und Konsistenz des automatisierten Zuschneidens und seinen Risiken hat das Team von Twitter erkannt, dass das Zuschneiden eines Bildes eine Entscheidung ist, die am besten von Menschen getroffen wird – nicht von Algorithmen.
Twitter beseitigt das automatische Zuschneiden von Bildern
Twitter verwendet den Saliency-Algorithmus nicht mehr und zeigt jetzt sowohl auf iOS als auch auf Android Fotos mit Standard-Seitenverhältnis vollständig an. Wenn Sie einen Tweet erstellen, werden Sie feststellen, dass das neue Update auch eine echte Vorschau der hochgeladenen Bilder enthält, sodass Sie wissen, wie alles nach der Veröffentlichung aussehen wird.
Wenn Sie daran interessiert sind, die wissenschaftliche Arbeit der Studie zu lesen, finden Sie sie auf arXiv.org . Sie können auch den Twitter-Code für die Analyse auf GitHub finden .