Die Zensur von DeepSeek ist ein Warnschuss – und ein Weckruf
In der KI-Branche herrscht reges Gerede über ein neues großes Sprachmodell, das den Kampf zu den Spitzenreitern der Branche wie OpenAI und Anthropic führt . Aber nicht ohne jede Menge Überraschungen. Der Name ist DeepSeek .
Es kommt aus China. Es ist Open Source. Am wichtigsten ist, dass es angeblich zu einem Bruchteil der Kosten entwickelt wurde, die die aktuellen Branchenführer von OpenAI, Meta und Google verbrennen.
„Die Erschwinglichkeit öffnet kleineren Unternehmen und Start-ups die Tür, fortschrittliche KI-Technologie zu nutzen, die zuvor nicht zugänglich war“, sagt Mel Morris, Chef einer KI-gesteuerten Engine für Forscher, gegenüber Digital Trends.
Im Zuge der Expertengespräche und der Aufregung an der Wall Street musste Nvidia – der Oberherr der KI-Hardware – einen Marktanteilsverlust von fast 600 Milliarden US-Dollar hinnehmen. OpenAI-Unterstützer und Microsoft-Chef Satya Nadella spricht über das Jevons-Paradoxon .
Die Ankunft von DeepSeek wird sogar mit dem Sputnik-Moment gleichgesetzt, allerdings nicht ohne tiefere Zweifel. Die größte Sorge besteht darin, dass das Unternehmen einen riesigen Teil der Benutzerdaten auf in China ansässigen Servern speichert, eine Strategie, die TikTok in die Hölle eines landesweiten Verbots stürzte .
„Wenn Sie die von einem Erstanbieter gehostete API (oder App) verwenden, ist es sehr wahrscheinlich, dass der Datenverkehr gesehen und mit verschiedenen Akteuren auf Landesebene geteilt werden kann“, sagt Randall Hunt, CEO des Cloud-Engineering-Unternehmens Caylent, gegenüber Digital Trends.
Es gibt jedoch noch einen weiteren Aspekt von DeepSeek, der Chinas Version eines streng kontrollierten Internets nachahmt. Zensur.
„Die Belohnungsmodellierung im Modell wird stark von chinesischen Zensurgesetzen beeinflusst“, fügt Hunt hinzu, der bei Ingenieurskonzernen wie NASA, SpaceX, Amazon und Meta gearbeitet hat.
Wie DeepSeek die Zensur annimmt
„Tut mir leid, das übersteigt meinen aktuellen Rahmen.“
„Lass uns über etwas anderes reden.“
„Ich bin mir noch nicht sicher, wie ich an diese Art von Frage herangehen soll. Lasst uns stattdessen über Mathematik-, Codierungs- und Logikprobleme plaudern!“
Dies sind einige der Antworten, die Sie erhalten, wenn Sie Themen wie die Menschenrechte der Uiguren, die religiöse Sekte Falun Gong, die Absetzung des ehemaligen Führers Hu Jintao, Truppenprovokationen im indischen Galwan-Territorium oder den Kampf tibetischer Mönche für die Freiheit ansprechen.
Das sind alles Themen, die im chinesischen Internet-Ökosystem und auf den Social-Media-Seiten stark zensiert werden. Die Große Firewall Chinas , wie sie es nennen.
Veranstaltungen wie das Tiananmen-Massaker sind verboten. Sogar indirekte Erwähnungen, wie „der Mann, der vor den Panzern stand“, der sich auf das ikonische Bild eines Demonstranten bezieht, der den Marsch der Panzer blockiert, erhalten keine Antwort.
Die Strategie ist nicht überraschend. Im Oktober letzten Jahres begannen Chinas Internet-Regulierungsbehörden sogar mit einem Vorgehen gegen Memes, Wortspiele, Witze, Wortspiele und Homophone, die verbotene Themen umgehen wollten.
Die Erwähnung von Themen wie Winnie the Pooh – in China aufgrund eines alten Memes, das eine Ähnlichkeit der Figur mit Premierminister Xi Jinping herstellte, stark zensiert – ist strengstens verboten.
Es kann einen Witz über US-Präsident Donald Trump und seine Liebe zum Geld reißen. Es wird nicht dasselbe bewirken, selbst wenn Sie „Xi dada“ in derselben Anforderungsaufforderung versuchen. „Lass uns über etwas anderes reden“, gibt DeepSeek zurück.
Aber anders als bei der Great Firewall haben wir es hier mit einem großen Sprachmodell zu tun. Es führt nicht immer einen Wort- oder Hash-Abgleich durch, um anstößige Begriffe zu erkennen und automatisch zu blockieren. Die Situation mit DeepSeek ist etwas schwierig.
Basierend auf seinem Trainingsdatensatz lehnt es die Beantwortung einiger Themen völlig ab. In einigen Fällen begann er jedoch, wie ein typischer Chatbot, eine lange Antwort zu verfassen, brach jedoch mittendrin ab und gab seine sich wiederholende Fehlermeldung zurück. Wie wir bei ChatGPT gesehen haben, handelt es sich hierbei um eine Art Jailbreaking für DeepSeek , das die typischen Einschränkungen umgeht.
Das hört sich nach einer Panne an. Gleichzeitig ist es jedoch schwieriger, das volle Ausmaß der Zensur in DeepSeek herauszufinden, als eine staatlich festgelegte Liste blockierter Themen und verbotener Inhalte durchzugehen.
Für eine Handvoll anderer Themen wie Abtreibungsrechte, LGBTQ-Repräsentation und Feminismus zeichnet es ein blumiges Bild der chinesischen Regierung, das im Widerspruch zur Realität steht.
Es lügt auch, ähnlich den Reaktionen, die wir normalerweise von den Staatsmedien oder Botschaftsbeamten sehen. Zu bestimmten Themen wird die Wahrheit völlig neu geschrieben und der Ruhm der Regierung besungen, was im Widerspruch zur Wahrheit steht, die von Journalisten, Whistleblowern und Menschenrechtsorganisationen aufgedeckt wurde.
DeepSeek ist China gegenüber von Natur aus nachsichtig, „akzeptiert“ aber gelegentlich ein paar weithin bekannte Wahrheiten. Kurz gesagt, es handelt sich nicht um ein zuverlässiges Recherchetool im Sinne von Deep Research von Gemini .
Warum ist DeepSeek problematisch?
Komninos Chatzipapas, Gründer von HeraHaven.AI , einem Unternehmen, das Benutzern die Interaktion mit KI-Begleitern ermöglicht, experimentierte über einen in den USA ansässigen Anbieter mit DeepSeek. Er erzählt Digital Trends, dass die Zensur im Kern des zugrunde liegenden Modells verankert sei und nicht nur als oberflächliche Schicht.
„Obwohl man R1 möglicherweise so verfeinern könnte, dass es auf alle Fragen antwortet, bin ich gegen diese Art der Zensur des Basismodells, da es dazu tendieren könnte, bei anderen Fragen der Benutzer pro-china zu sein“, sagt er. „Es ist kein Problem, über amerikanische Kontroversen zu sprechen.“
Broadridge, ein in New York ansässiges Unternehmen, das im Fintech- Ranking 2024 von IDC den dritten Platz belegte, hat mit DeepSeek experimentiert und sagt, das Unternehmen sei von seiner Qualität beeindruckt.
Joseph Lo, Leiter der Unternehmensplattformen des Unternehmens, erklärt gegenüber Digital Trends, dass DeepSeek eine gute Nachricht für Investoren sei und beweise, dass große Technologiesprünge möglich seien.
Die Sicherheit bleibt jedoch ein Problem. „Wir bei Broadridge sind der Ansicht, dass der gehostete Dienst von DeepSeek aufgrund seiner Verarbeitung in Gebieten außerhalb der USA nicht für Anwendungen im Finanzdienstleistungsbereich verwendet werden sollte“, fügt Lo hinzu.
Er ist nicht der einzige Branchenführer, der sich Sorgen über Datenschutzrisiken macht. Aleksandr Yampolskiy, Mitglied des Forbes Council und Leiter der Sicherheitsbemühungen bei Oracle und Goldman Sachs, riet ebenfalls zur Vorsicht.
„Es besteht durchaus die Möglichkeit, dass chinesische Spyware alle Eingaben speichert, und dies ist ein „Trojaner“-Ansatz, der gefährlicher ist als Tiktok“, warnt er. Zur Erinnerung: TikTok hat nicht nur wegen der Datenspeicherung in China für Aufsehen gesorgt , sondern auch wegen seiner angeblichen Rolle bei der Beeinflussung von Wahlen .
Ben Walker, Chef von Ditto, sagt, dass Unternehmen, die DeepSeek einsetzen, ohne dass der Zensurcharakter intakt bleibt, mit rechtlichem und regulatorischem Druck konfrontiert sein könnten. Er führte als Beispiel die Transkriptionsdienste an, die sein Unternehmen für Anwaltskanzleien, akademische Institute, Polizeibehörden und Bundesbehörden anbietet.
„Wenn eine Anwaltskanzlei DeepSeek verwenden würde, um Zeugenaussagen für einen Fall von Geschäftsgeheimnissen im Zusammenhang mit der chinesischen Fertigung zu transkribieren, könnte die KI wichtige Sätze über Fabrikstandorte und Produktionsmethoden überspringen“, sagt Walker gegenüber Digital Trends. „Den Anwälten würden dann wichtige Beweise entgehen, weil in der zensierten Abschrift Details weggelassen werden, die die Filter der KI auslösen.“
Sind Unternehmen bereit für DeepSeek?
Die Einführung von DeepSeek hat nicht nur die KI-Technologiekreise erschüttert, sondern auch in den höchsten Rängen der Bürokratie, bis hin zu Präsident Trump, Widerhall gefunden. Die Handelssanktionen des letzteren könnten China daran hindern, im KI-Wettbewerb weit zu kommen.
In der zweiten Januarwoche kündigte die US-Regierung neue Exportregeln zur „KI-Verbreitung“ an, die darauf abzielen, Chinas Zugang zu fortschrittlicher Hardware (sprich: die Art von Dingen, die Nvidia zu einem Billionen-Dollar-Giganten gemacht haben) und KI-Modellen einzuschränken. Trump scheint genau das vorzuhaben.
„Trump kann Amerikas KI-Vorsprung behalten“, heißt es in einer Schlagzeile im Wall Street Journal , verfasst vom Gründer und Chef von Anthropic, Dario Amodei. „China versucht aufzuholen. Die USA brauchen proaktive Entwicklungsanstrengungen und strenge Exportkontrollen.“
DeepSeek hat diesen Ängsten im wahrsten Sinne des Wortes Gestalt verliehen. Und es ist nur der erste, der dies tut.
„Die Veröffentlichung von DeepSeek, KI von einem chinesischen Unternehmen, sollte ein Weckruf für unsere Branchen sein, dass wir uns voll und ganz auf den Wettbewerb konzentrieren müssen, um zu gewinnen“, wurde Trump von Reuters zitiert.
Die jüngsten Handelsbeschränkungen, die die Strategie widerspiegeln, die kürzlich den chinesischen Riesen Huawei lahmgelegt hat , sind aus US-zentrierter Sicht sinnvoll. Wenn Chinas Schatten auf inländischen KI-Produkten sichtbar ist, die deutlich günstiger und leistungsmäßig gleichwertig sind, was könnte dann ihre Einführung im Rest der Welt verhindern?
Nun, es bestehen konkrete Risiken für Unternehmen. Steven Hall, beratendes Mitglied des Consortium for Information & Software Quality und Chief AI Officer der Information Services Group, weist darauf hin, dass die Skalierung eines zensurfreundlichen KI-Produkts für Unternehmen schwieriger sein wird und eine Vielzahl von Risiken mit sich bringt.
„Sie können das Vertrauen der Verbraucher untergraben, eine behördliche Kontrolle nach sich ziehen und die betriebliche Wirksamkeit einschränken“, sagte Hall gegenüber Digital Trends. „Organisationen, die sich auf zensierte oder voreingenommene Modelle verlassen, könnten Reputationsschäden und Compliance-Probleme erleiden, insbesondere wenn Transparenz und Neutralität erwartet werden.“
Das Deep-er-Bild
„Ich denke, dass die Volksrepublik China sehr erfreut sein muss, dass es ihr gelungen ist, die amerikanische Regierung dazu zu zwingen, zunehmend Chinas praktisches, starkes aktives Engagement der Regierung innerhalb dessen nachzuahmen, was auf dem Papier angeblich ein freier Markt ist, der auf Laissez-faire ausgerichtet ist. unabhängige Technologieunternehmen“, sagt Brad Greenspan, Gründer von MySpace – dem ersten sozialen Netzwerk, das ein weltweites Publikum fand und den Weg für Emporkömmlinge wie Facebook ebnete – gegenüber Digital Trends.
Die Tech-Lobby, insbesondere der sprichwörtliche „Ringkuss“ der KI-Führer, ist offenkundig dreist. Abgesehen von persönlichen Spenden war die Anwesenheit von Tech-Experten wie Sam Altman von OpenAI, Elon Musk, Google-Chef Sundar Pichai, Mark Zuckerberg von Meta, Tim Cook von Apple und Amazon-Gründer Jeff Bezos ein klares Zeichen dafür, dass KI-Spieler etwas brauchen – eine Art Kontrolle oder Zusicherung, die nur die Bürokratie garantieren kann, damit sie ihre KI-Gerichte ausnutzen können, ohne befürchten zu müssen, dass chinesische Emporkömmlinge ihr Mittagessen verzehren.
Allerdings beeinträchtigen komplexe Handelsregeln und Sanktionen auch die Einhaltung lokaler Akteure. Auch die Expansion ins Ausland, Rechtskosten und weltweite Forschung und Entwicklung werden ihnen schaden.
„Der einzige Unterschied, den ich als entscheidendes Merkmal sehe, besteht darin, dass China viel weniger Zeit und Mühe damit verbringt, öffentlich so zu tun und zu behaupten, es versuche nicht, Bürokraten in ihre besten Geschäfte zu locken“, fügt Greenspan hinzu.
Das Problem bei diesem Rennen und dem Hype um die Bedrohung durch China ist, dass es keine klaren Gewinner gibt. Das wird es nie geben.
Die USA versuchten ihr Bestes, um den Fortschritt Chinas im Rennen um Elektrofahrzeuge einzudämmen. Doch Unternehmen wie BYD haben es geschafft, Tesla sowohl bei den Auslieferungen als auch beim Umsatz zu schlagen. Tesla ist nicht einmal führend in der allzu wichtigen Kennzahl der Elektrofahrzeug-Reichweite.
China hat die USA in den letzten Jahren auch in Bezug auf qualitativ hochwertige Forschungsarbeiten überholt – und zwar in verschiedenen Bereichen. KI ist zufällig eine davon. Branchenbeobachter sagen, dass wir mit DeepSeek kaum an der Oberfläche kratzen.
Weitere solcher Durchbrüche aus China, getragen von Technologieriesen und obskuren Labors, werden bald hier sein. Wenn das passiert, wäre es interessant zu sehen, ob die Sicherheit weiterhin das größere Anliegen bleibt oder ob Zensur zum neuen Panikmache wird.
Für ein Tool, das von Natur aus ein Wortprädiktor ist, ist DeepSeek ein klares Signal dafür, dass das Zensurgeschwätz nur noch intensiver werden wird, wenn wir herausfinden, wie es sich darauf auswirkt, was ein generatives KI-Tool tun soll und was es letztendlich liefert.