DeepSeek AI zieht den Zorn der Spionageagentur wegen Datenhortung und Voreingenommenheit auf sich

Die Datenschutz- und Sicherheitsprobleme für den lebhaften chinesischen KI-Neuling DeepSeek nehmen weiterhin zu. Nachdem der Zugang für Gesetzgeber und Bundesangestellte in mehreren Ländern gesperrt wurde und gleichzeitig Besorgnis über die Zensur und Sicherheitsmaßnahmen ausgelöst wurde , hat der südkoreanische Spionagedienst nun eine offizielle Mitteilung erhalten.

Laut Reuters hat der National Intelligence Service (NIS) des Landes das KI-Unternehmen wegen übermäßiger Datenerfassung und fragwürdiger Antworten zu Themen, die das koreanische Erbe betreffen, ins Visier genommen.

„Im Gegensatz zu anderen generativen KI-Diensten wurde bestätigt, dass Chat-Aufzeichnungen übertragbar sind, da sie eine Funktion zum Sammeln von Tastatureingabemustern enthalten, die Personen identifizieren und mit Servern chinesischer Unternehmen wie volceapplog.com kommunizieren können“, wurde die Agentur zitiert.

Dies geschah, nachdem die Regierung verschiedene Behörden und Ministerien dazu aufgefordert hatte, den Zugriff von Mitarbeitern auf DeepSeek aufgrund von Sicherheitsalarmen zu sperren. Australien und Taiwan haben solche Beschränkungen bereits eingeführt, und es wird erwartet, dass weitere Länder diesem Beispiel folgen.

Das Kernproblem besteht darin, dass DeepSeek Berichten zufolge seinen Werbepartnern offenen Zugang zu Benutzerdaten bietet, die gemäß den örtlichen Gesetzen auch in die Hände der chinesischen Regierung gelangen können. Laut The Korea Herald gab der Chatbot auch kontroverse Antworten auf Fragen zu kulturell sensiblen und umstrittenen geopolitischen Themen zurück.

Bemerkenswert ist, dass der Chatbot unterschiedliche Antworten liefert, wenn ihm dieselbe Frage in koreanischer und chinesischer Sprache gestellt wird. Laut The Korea Times wird die Behörde in naher Zukunft weitere Tests durchführen, um die Sicherheitsaspekte zu bewerten.

Während Sicherheitsbedenken als größte Sorge bei DeepSeek Schlagzeilen gemacht haben, sind Experten auch besorgt über die Reaktionen, die DeepSeek hervorrufen kann. In einer Analyse des Wall Street Journal hat die KI besorgniserregende Informationen wie das Rezept zur Herstellung von Biowaffen, ein Nazi-Verteidigungsmanifest und die Ermutigung zur Selbstverletzung ausgespuckt.

In einer Analyse des KI-Riesenkollegen Anthropic erwähnte der CEO des Unternehmens, Dario Amodei, dass sich DeepSeek in seinen Tests als das schlechteste KI-Modell erwiesen hat, wenn es darum geht, äußerst beunruhigende Informationen wie die Entwicklung von Biowaffen zu generieren.

Vor etwas mehr als einer Woche haben Forscher von Cisco es auch mit Jailbreaking-Tools in sechs verschiedenen Kategorien getestet, und es konnte nicht jeden einzelnen Angriff blockieren. In einer weiteren Testrunde von Qualys konnte die KI lediglich eine Jailbreak-Erfolgsquote von 47 % erreichen.

Hinzu kommen Bedenken hinsichtlich der Offenlegung sensibler Daten und deren uneingeschränkter Weitergabe. Cybersicherheitsforscher von Wiz haben kürzlich über eine Million Zeilen im Chatverlauf entdeckt, die vertrauliche Informationen enthalten , die öffentlich zugänglich waren.

DeepSeek hat den Fehler behoben, aber seine kommerzielle Nutzung bleibt Gegenstand heftiger Debatten. In den USA hat die NASA ihren Mitarbeitern bereits die Nutzung von DeepSeek verboten, ebenso die US-Marine. Darüber hinaus liegt auch ein Gesetzentwurf auf dem Tisch, der ein DeepSeek-Verbot für Bundesgeräte vorsieht.