Facebooks Hass-Spracherkennungs-KI zahlt sich aus
Facebook verbessert seine Effizienz beim Erkennen und Entfernen von hasserfüllten Inhalten. Der Community Standards Enforcement Report der Plattform zeigt eine signifikante Verringerung der Verbreitung von Hassreden im letzten Quartal 2020.
Hassrede auf Facebook ist gesunken
Im Community Standards Enforcement Report von Facebook für Oktober bis Dezember 2020 enthüllte die Plattform wesentliche Verbesserungen im Umgang von Facebook mit Hassreden. Guy Rosen, Vice President of Integrity bei Facebook, veröffentlichte einen Beitrag im Blog About Facebook , um seinen Erfolg hervorzuheben.
Pro 10.000 Aufrufe von Facebook-Inhalten waren nur sieben bis acht Aufrufe von hasserfüllten Inhalten. Facebook hat auch Maßnahmen gegen 6,3 Millionen Mobbing- und Belästigungsposts ergriffen, ein Anstieg von 2,5 Millionen Posts im dritten Quartal.
Die Plattform konnte auch 6,4 Millionen organisierte Hassinhalte abfangen, was eine massive Verbesserung gegenüber den vier Millionen Inhalten darstellt, die Facebook im Vorquartal entfernt hat.
Der Community Standards Enforcement Report zeigte ähnliche Verbesserungen auf Instagram. Fünf Millionen Beiträge zu Belästigung und Mobbing wurden auf Instagram entfernt, zusammen mit 6,6 Millionen Inhalten mit Hassreden und 308.000 organisierten Hassinhalten. Alle diese Zahlen übertreffen die im dritten Quartal verzeichneten Statistiken.
Die proaktive Rate von Facebook, auch bekannt als die Menge an Inhalten, die Facebook entfernt, bevor ein Benutzer sie meldet, hat sich ebenfalls verbessert. Bei Mobbing und Belästigung stieg die proaktive Rate der Plattform auf Facebook von 26 auf 49 Prozent und auf Instagram von 55 auf 80 Prozent.
Die Hasserkennungs-KI von Facebook hat eine wichtige Rolle bei der Verbesserung der Reaktion auf Hassreden gespielt. Rosen merkt an, dass die Plattform ihre KI verbessert hat, "wo Nuancen und Kontexte wesentlich sind, wie Hassreden oder Mobbing und Belästigung", was letztendlich dazu beigetragen hat, die Menge an hasserfüllten Inhalten auf Facebook zu reduzieren.
Mike Schroepfer, Chief Technology Officer von Facebook, veröffentlichte einen separaten Beitrag im Blog "Über Facebook" , um die Erfolge der sich ständig verbessernden KI von Facebook zu feiern. Trotz seiner jüngsten Erfolge hofft Schroepfer, dass die KI von Facebook besser darin wird, "Inhalte im Kontext über Sprachen, Kulturen und Regionen hinweg anzuzeigen".
Facebooks KI wird schlauer
Facebook begann sich aufgrund der anhaltenden COVID-19-Pandemie mehr auf sein KI-System zu verlassen, um hasserfüllte Inhalte zu bewerten. Rosen bemerkte, dass das Facebook-Team wahrscheinlich immer noch von der Pandemie betroffen sein wird, "bis ein Impfstoff weit verbreitet ist".
Obwohl die Moderatoren von Facebook eines Tages wieder normal arbeiten werden, scheint es nicht so, als würde die KI der Plattform irgendwohin gehen. Facebook hat seine KI nur intelligenter und effizienter gemacht, und es scheint nicht so, als ob Facebook plant, den Fortschritt bald einzustellen.