Der Google AI-Modus wird die Suche neu erfinden. Ich mache mir Sorgen – und das sollten Sie auch sein

Google treibt die Einführung von mehr KI für die Funktionsweise der Internetsuche voran. Erinnern Sie sich an AI Overviews, das im Wesentlichen die von Websites abgerufenen Inhalte zusammenfasst und oben auf der Google-Suchseite präsentiert?

Diese fehleranfällige Funktion wird jetzt auf den US-Markt ausgeweitet , unterstützt durch die neuen Gemini 2.0 AI-Modelle . Es ist keine Anmeldung mit einem Google-Konto mehr erforderlich und steht Nutzern aller Altersgruppen offen. Obwohl dies an sich schon ein riskanter Schritt ist, behandelt Google die gesamte Suchseite mit einem neuen KI-Modus ähnlich pauschal.

Der KI-Modus ist derzeit als Laborexperiment verfügbar und verwandelt das traditionelle Google-Sucherlebnis mit Website-Links im Wesentlichen in einen Konversationsdialog, genau so, wie KI-Chatbots Ihnen Antworten geben. Das ist eine köstliche Annehmlichkeit, könnte sich aber als dramatisch falsch erweisen, wenn man sich an der Geschichte der KI-Übersichten orientiert.

Was ist der KI-Modus für die Google-Suche?

Die übergeordnete Idee besteht darin, Benutzern alle Informationen bereitzustellen, die sie benötigen – aus indizierten Websites – und ihnen das mühsame Klicken auf Quellen und das Durchsuchen von Webseiten zu ersparen, um die Antworten zu finden. Sie können Folgeabfragen in einem natürlichen Sprachformat anstelle einer mit Schlüsselwörtern gefüllten Suche stellen und sogar die Details angeben, die sonst ein paar weitere Folgesuchanfragen erfordern würden.

„Es verwendet eine „Abfrage-Fanout“-Technik, bei der mehrere verwandte Suchvorgänge gleichzeitig über Unterthemen und mehrere Datenquellen hinweg durchgeführt werden, und diese Ergebnisse werden dann zusammengeführt, um eine leicht verständliche Antwort zu liefern“, erklärt das Unternehmen.

Google warnt jedoch davor, dass es mit dem KI-Modus möglicherweise nicht immer alles richtig macht, auch wenn seine internen Tests ermutigende Ergebnisse geliefert haben. In Szenarien, in denen der KI-Modus sich nicht auf die zusammengefasste Antwort verlassen kann, zeigt er einfach eine Liste der Websuchergebnisse an, wie bei der herkömmlichen Google-Suche.

In seinem aktuellen Avatar kann es Antworten als Textwand oder übersichtlich formatierte Tabellen liefern, später werden aber auch Bilder und Videos eingebunden. Der KI-Modus ist derzeit nur für Google One AI Premium-Abonnenten verfügbar und wird als Opt-in-Erlebnis eingeführt.

Es ist ein schlechtes Omen für jeden, der auf die Google-Suche angewiesen ist, insbesondere wenn es um Genauigkeit geht. Hier ist ein Beispiel. Ich habe nachgeschaut, ob wir im Jahr 2025 leben. Googles AI Overview gab an, dass es sich um das Jahr 2024 handelt. Die erste Quelle, die für diese Informationen zitiert wurde, war Wikipedia, wo ausdrücklich angegeben ist, dass das aktuelle Jahr 2025 ist.

Eine reiche Geschichte voller Risiken

Die Idee hinter dem KI-Modus für die Google-Suche basiert theoretisch auf der Benutzerfreundlichkeit. Der grundlegende Tech-Stack dahinter hat jedoch immer noch mit einigen Problemen zu kämpfen, die die gesamte KI-Landschaft noch beheben muss. Eine davon sind KI-Halluzinationen, bei denen es sich im Wesentlichen um ein KI-Tool handelt, das Informationen zusammenstellt und sie selbstbewusst als Tatsachen darstellt.

Die KI-Übersichten von Google sind das beste Beispiel für diese Fehltritte, und die Fehler tauchen bis heute immer wieder auf. Nehmen Sie zum Beispiel diese Beweise , die erst vor wenigen Stunden auf Reddit geteilt wurden und in denen die KI-Übersicht selbstbewusst über eine Rechtsfahrregel in Indien gelogen hat.

Das ist eine falsche Aussage, und doch legt die Sprache des AI-Übersichtstextes zu keinem Zeitpunkt nahe, dass der Benutzer diese Informationen auf Fakten überprüfen sollte. „Es ist so ungenau und so fehlerhaft, dass ich überrascht bin, dass es überhaupt existiert“, heißt es in einem anderen Bericht, in dem die schiere Ungenauigkeit detailliert beschrieben wird.

KI-Übersichten erscheinen nur als komprimiertes Informationsnugget, das oben auf der Google-Suchseite angezeigt wird. Stellen Sie sich nun eine ganze Seite vor, die den Benutzern als lange Präsentation präsentiert wird, mit einigen Quellenlinks, die durch die Textwand verstreut sind.

Laut Google zeichnen sich AI Overviews durch „Codierung, fortgeschrittene Mathematik und multimodale Abfragen“ aus. Doch vor nicht allzu langer Zeit hat es Fakten verfälscht und die Geschichte auf den Kopf gestellt, insbesondere mit der Art von Abfragen in natürlicher Sprache, die für den KI-Modus hochgejubelt werden.

Auf die Frage , ob Astronauten Katzen auf dem Mond getroffen hätten, stimmte sie selbstbewusst zu, dass dies wahr sei, und fügte hinzu, dass Astronauten sich sogar um diese Mondkatzen gekümmert hätten. Julia Feerrar, Expertin für digitale Kompetenz an der Virginia Tech, bemerkte , dass KI die Antworten auf unsere Fragen nicht wirklich kennt, und führte ein Beispiel an, in dem in der KI-Übersicht von Google Barack Obama selbstbewusst als erster muslimischer Präsident erwähnt wurde.

https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK

– SG-r01 (@heavenrend) 22. Mai 2024

Die Folgen von KI-Fehlinformationen könnten katastrophal sein, insbesondere wenn es um Fragen zu Gesundheit und Wohlbefinden geht. In einer Analyse von über 30 Millionen Suchmaschinen-Ergebnisseiten (SERPs) stellte SerpStat fest, dass die gesundheitsbezogene Suche die beliebteste Kategorie ist, in der KI-Übersichten angezeigt werden.

Dabei handelt es sich um dasselbe Instrument, das darauf hindeutet, dass eine Person mindestens einen Stein pro Tag essen sollte, eine Achtel Tasse Kleber auf Pizza geben sollte, Urin trinken sollte, um Nierensteine ​​auszuscheiden, und erwähnte , dass ab 2025 ein Elefantenbaby in eine menschliche Handfläche passen sollte.

Dies ist nicht die Suchentwicklung, die ich suche

Trotz der Behauptungen von Google zur Entwicklung der KI-Modelle hat sich die Situation nicht dramatisch verbessert. Vor weniger als einem Tag entdeckte Futurism AI Overviews mit der selbstbewussten Behauptung, dass MJ Lenderman 14 Grammy-Preise gewonnen hat.

Es wurde sogar das Jahr falsch angegeben, als ich im Google-Suchfeld etwas so Einfaches wie „Ist es 2025?“ fragte. „Nein, es ist derzeit nicht das Jahr 2025. Das aktuelle Jahr ist 2024“, heißt es in der AI Overview.

Es ging noch einen Schritt weiter und erklärte, dass 2025 ein gewöhnliches Jahr ist, das an einem Mittwoch beginnt, und fügte eine Reihe nicht zusammenhängender Informationen hinzu, die alles von nationalen Feierlichkeiten bis hin zu UN-Erklärungen besprachen, die absolut nichts mit meiner Anfrage zu tun haben.

Nun, ich bin nicht ganz gegen KI. Im Gegenteil, ich nutze ausgiebig Tools wie Gemini Deep Research und verlasse mich bei kreativen Ideen oft auf das neueste Gemini 2.0 Flash AI-Modell, wenn meine Gehirnzellen nicht auf Hochtouren laufen.

Allerdings ist es ein riskantes Unterfangen, eine fehleranfällige KI-Überarbeitung auf eine so unverzichtbare Informationsquelle wie die Google-Suche zu übertragen. Digital Trends hat sich an Google gewandt und wird diese Geschichte aktualisieren, sobald wir eine Antwort erhalten.