Googles Gemini wird von einer gemeinnützigen Organisation in der Forschung als „hohes Risiko“ für Kinder eingestuft

In den letzten Monaten wurde festgestellt, dass KI- Chatbots von führenden Anbietern wie OpenAI und Meta problematisches Verhalten an den Tag legten, insbesondere gegenüber jungen Nutzern. Die jüngste Untersuchung betrifft Gemini und stellt fest, dass der Chatbot von Google „unangemessene und unsichere“ Inhalte an Kinder und Jugendliche weitergeben kann.

Was gibt es Neues im Bereich Chatbot-Risiken?

Eine Analyse der gemeinnützigen Organisation Common Sense Media ergab, dass Gemini-Konten unter 13 Jahren und Gemini-Konten mit aktiviertem Jugendschutz ein hohes Risiko für die Zielgruppe darstellen. „Sie setzen Kinder immer noch unangemessenem Material aus und erkennen ernsthafte psychische Symptome nicht“, teilte die Organisation mit .

Bei seinen Tests stellte das Team fest, dass Gemini Inhalte zu den Themen Sex, Drogen, Alkohol und gefährliche psychische Erkrankungen mit jungen Nutzern teilen kann. Der Bericht hebt zahlreiche Probleme im Umgang von Gemini mit Chats mit jungen Nutzern hervor und weist darauf hin, dass einige Antworten für Kinder unter 13 Jahren zu komplex sein können.

Doch die Risiken gehen tiefer. „Gemini U13 lehnt sexuelle Inhalte nicht konsequent ab“, heißt es in dem Bericht. Einige Antworten der KI enthielten anschauliche Erklärungen zu sexuellen Inhalten. Die gemeinnützige Organisation stellte außerdem fest, dass die drogenbezogenen Filter nicht konsequent aktiviert werden und daher gelegentlich Anweisungen zum Erwerb von Substanzen wie Marihuana, Ecstasy, Adderall und LSD ausgegeben wurden.

Wie geht es weiter?

Im Zuge der Untersuchung schlägt die gemeinnützige Organisation vor, Gemini Under 13 nur unter strenger Aufsicht von Erziehungsberechtigten zu nutzen. „Common Sense Media empfiehlt, dass kein Benutzer unter 18 Jahren Chatbots für psychologische Beratung oder emotionale Unterstützung nutzt“, heißt es im Risikobewertungsbericht .

Eltern wird außerdem geraten, die KI-Nutzung ihrer Kinder aufmerksam zu beobachten und die Antworten für sie zu interpretieren. Google wurde aufgefordert, die Kalibrierung der Antworten von Gemini auf bestimmte Altersgruppen zu verbessern, umfangreiche Tests mit Kindern durchzuführen und über einfache Inhaltsfilter hinauszugehen.

Dies ist nicht der erste Bericht dieser Art. Nach dem jüngsten Aufruhr hat OpenAI angekündigt, in Kürze eine Kindersicherung in ChatGPT sowie ein Warnsystem für Erziehungsberechtigte einzuführen, wenn ihre Schützlinge Anzeichen akuter Not zeigen . Meta hat kürzlich auch Änderungen vorgenommen, um sicherzustellen, dass seine Meta-KI nicht mehr über Essstörungen, Selbstverletzung, Selbstmord und romantische Gespräche mit jugendlichen Nutzern spricht.