Facebooks KI packt den Aufstieg hasserfüllter Inhalte an

Dank der hoch entwickelten künstlichen Intelligenz (KI) von Facebook konnte die Plattform mehr Hassreden als je zuvor entfernen. Die hasserfüllte KI hat es im dritten Quartal 2020 geschafft, 95 Prozent der hasserfüllten Inhalte zu erfassen.

Die Rolle der KI im Krieg gegen Hassreden

Der jüngste Community Standards Enforcement Report von Facebook enthüllte die wichtige Rolle, die KI bei der Bekämpfung von Hassreden auf der Plattform spielt.

Im dritten Quartal 2020 gelang es Facebook, rund 95 Prozent der Hassreden "proaktiv zu erkennen". Insgesamt entfernte Facebook 22,1 Millionen hasserfüllte Inhalte auf Facebook und 6,5 Millionen Teile auf Instagram.

Dies ist ein deutlicher Anstieg gegenüber dem letzten Quartal 2017, als Facebook proaktiv nur 24 Prozent der Hassreden auf Facebook und Instagram entdeckte.

Obwohl die Plattform "eine Kombination aus Benutzerberichten und Technologie" verwendet, um hasserfüllte Inhalte zu entfernen, wurde der enorme Sprung weitgehend der fortschrittlichen KI von Facebook zugeschrieben.

Die KI hilft nicht nur dabei, hasserfüllte Inhalte zu erkennen und Maßnahmen zu ergreifen, bevor sie überhaupt gemeldet werden, sondern Facebook verwendet sie auch, um kompliziertere Inhalte zu sortieren, die überprüft werden müssen. Facebook erklärte die Rolle der KI weiter und erklärte:

Unabhängig davon, ob Inhalte proaktiv von Benutzern erkannt oder gemeldet werden, verwenden wir häufig KI, um in einfachen Fällen Maßnahmen zu ergreifen und die differenzierteren Fälle, in denen der Kontext berücksichtigt werden muss, für unsere Prüfer zu priorisieren.

Darüber hinaus stellte Facebook im dritten Quartal einen Anstieg der Verbreitung von Hassreden fest. Laut Facebook wird "die Prävalenz von Hassreden ermittelt, indem eine Stichprobe von Inhalten ausgewählt wird, die auf Facebook angezeigt werden, und anschließend angegeben wird, inwieweit davon gegen unsere Richtlinien für Hassreden verstößt".

Der Bericht zeigte, dass von 10.000 Ansichten des Inhalts der Plattform 10 bis 11 Ansichten Hassreden enthielten.

Wie definiert Facebook Hassreden?

Wenn Sie sich fragen, wie genau Facebook bestimmt, was Hassreden sind und was nicht, passt die Plattform ihre Definition kontinuierlich an. Im August 2020 aktualisierte Facebook seine Richtlinien für Hassreden , um antisemitische Verschwörungstheorien und Blackface aufzunehmen. Facebook merkt an, dass "während sich die Sprache im Laufe der Zeit weiterentwickelt, wir unsere Richtlinien weiter überarbeiten, um den sich ändernden sozialen Trends Rechnung zu tragen."

Derzeit definiert Facebook Hassreden als "alles, was Menschen direkt angreift, basierend auf geschützten Merkmalen wie Rasse, ethnischer Zugehörigkeit, nationaler Herkunft, religiöser Zugehörigkeit, sexueller Orientierung, Geschlecht, Geschlecht, Geschlechtsidentität oder schwerer Behinderung oder Krankheit".

Was Sie erwartet?

Im Laufe des Jahres 2020 stand Facebook in Bezug auf kontroverse Inhalte vor einer Reihe von Herausforderungen.

Anfang des Jahres musste die Plattform gegen Fehlinformationen über die COVID-19-Pandemie kämpfen. Später musste es sich auch mit irreführenden Informationen über die US-Präsidentschaftswahlen befassen. Dies führte dazu, dass die Plattform Etiketten auf bestimmte Pfosten schlug oder diese ganz entfernte.

Da sich die KI von Facebook weiterentwickelt, können wir in Zukunft nur mit weiteren Abschaltungen rechnen.