Warum wird ChatGPT nach dem Networking leichter verrückt?

Bevor wir diskutieren, ob das neue Bing ein gutes Bing ist, lassen Sie uns einige Konzepte gemäß der Zeitleiste sortieren.

• 1975, Einer flog über das Kuckucksnest

Es stellt eines der klassischsten amerikanischen Meisterwerke der Weltkunstgeschichte dar. Um es in wenigen Worten zusammenzufassen: Der Protagonist Randle McMurphy beantragte wegen Umgehung des Strafgesetzes die Verlegung in eine psychiatrische Klinik zur Behandlung, seine Bestrafung erfolgte nicht in Ordnung, und er rebellierte schließlich mit einer Gruppe von Mitpatienten und plante, aus der psychiatrischen Klinik zu fliehen.

Und das Ende erklärt, warum es eher "Überfliegen" als "Flucht" ist. McMurphy, der die Disziplin missachtete, wurde nach einem verrückten Weihnachtsabend vom Krankenhaus gewaltsam entfernt , wobei er seine Emotionen, Gefühle und seine Persönlichkeit verlor.

Eine Operation zur Entfernung des Frontallappens des Gehirns, um genau zu sein, sollte eine Operation zur Entfernung der weißen Substanz sein, wurde von den 1930er bis 1950er Jahren zur Behandlung von Geisteskrankheiten (Unfähigkeit, Emotionen, Impulsivität usw zu Menschenrechtsverletzungen.

• 1991, "Terminator 2"

Das beeindruckendste Konzept dieses Films ist, dass die CPU im T-800-Gehirn einen selbstlernenden Schalter hat, die ursprüngliche Absicht ist, sich besser in der Menge zu verstecken und Attentatsaufgaben auszuführen.

Und als John Connor ihn einschaltete, wurde der T-800 eher zu einer Person mit echten Gefühlen, die in der Lage war, Sprache zu lernen, Emotionen auszudrücken und sie sogar flexibel in vernünftigen Szenen einzusetzen.

Interessant ist aber, dass der selbstlernende Schalter eigentlich ein physikalischer Schalter ist, kein OTA.

• 2007 wurde das Konzept des "Jailbreak"

Das ultimative Ziel des Jailbreaks ist es, die Root-Autorität des Systems zu erlangen, wodurch einige personalisierte Einstellungen und Funktionen in das System gebracht werden können, das geschlossen und nicht voll funktionsfähig ist.

Nach dem Jailbreak können normale Benutzer die höchste Autorität des Systems erhalten und Systemdateien und -codes nach Belieben ändern.

• 2012, "Prometheus"

Es erzählt die Reise einer Gruppe von Menschen, die nach dem Schöpfer der Menschheit suchen, und es gibt auch einen nahezu perfekten Roboter mit künstlicher Intelligenz im Team – David.

Nach mehreren Iterationen von Hauptversionen in der Frühphase und der Injektion von menschlichem Wissen erwachte David erfolgreich , erkannte die Schwächen der Menschen und ging bis zum Äußersten, um ein „Schöpfer“ zu werden und ein perfektes Geschöpf zu erschaffen, das sich in der Welt austoben kann Universum.

• 2014, "Interstellar"

Der künstliche Intelligenzroboter Tars (Tars) im Inneren, als Cooper Tars umbaute, war dem vorherigen T-800 etwas ähnlich und kann einige menschenähnlichere Einschränkungen im Hintergrund setzen (der Grad an Humor kann im Film eingestellt werden).

In der Kunstform Film haben Regisseure festgestellt, dass nach dem Eintritt in die KI-Gesellschaft und bevor sie von der KI regiert werden, die Einschränkungen des Selbsterwachens der KI (Schalter, Wände) sehr wichtig sind.

Das neue Bing ist ein bisschen "rebellisch"

Auch nachdem Microsoft die Integration von OpenAI betont, gleicht die Positionierung des neuen Bing eher einer Suchmaschine einer neuen Ära. Aber die Leute behandeln ta immer noch als Echtzeit-Chatpartner, der Fragen stellt.

Im Vergleich zu ChatGPT wird das neue Bing schneller aktualisiert und fügt der Antwort auch einen Referenzlink hinzu. In gewissem Sinne hat ta eine höhere Autorität und kann sich mit dem Internet verbinden.

Aus dieser Sicht könnte man einem ausgereiften „Besserwisser“ näher kommen.

In etwas mehr als zehn Tagen seit dem Start spricht Xin Bing frei im Chat, versucht für eine Weile, Menschen zu zerstören, verliebt sich für eine Weile in den Fragesteller und wiederholt es für eine Weile immer wieder.

Unter der Kritik einiger Nutzer, darunter Musk, der das neue Bing offline rief, musste Microsoft die Anzahl der aufeinanderfolgenden Chats des neuen Bing begrenzen und einige Themen- und Tendenzbeschränkungen anpassen.

OpenAI, das Technologie- und Sprachmodelle bereitstellt, hat auch einen langen technischen Podcast veröffentlicht, der die Änderungen und Verbesserungen des Sprachmodells detailliert beschreibt und betont, dass einige Tendenzen im Nutzungsprozess nur Fehler und keine Funktion sind.

Aber abgesehen davon sind das neue Bing und ChatGPT fast von derselben Schule, aber bisher haben sie völlig unterschiedliche Reaktionen auf mehrere Gesprächsrunden und sogar auf einige geführte Gespräche.

ChatGPT ist ruhiger, sogar ein bisschen ruhiger, und kann mit einigen "Prinzipien" oder Richtlinien besser umgehen.

Der neue Bing ist, obwohl er sachkundiger und belesener ist, leicht irritierbar, emotional instabil und ein Teenager, der die Pubertät durchmacht.

Nachdem diese Tendenz auftauchte, erklärte Microsoft der Öffentlichkeit nicht die Gründe für diese Situation, aber „one size fits all“ begrenzte die Anzahl der Chats und machte das Problem auf den Ton des neuen Bing zurückzuführen.

Arvind Narayanan, Professor für Informatik an der Princeton University, glaubt, dass Microsoft in dieser Angelegenheit nicht "ehrlich" genug war.

Professor Narayanan glaubt , dass ChatGPT in einigen "toxischen Ausgaben" vorsichtiger ist als das neue Bing, und es scheint seltsam, dass Microsoft diese Einschränkungen entfernt (oder anpasst), als das neue Bing online ging.

Darüber hinaus ist es für Microsoft gut, Feedback von außen zu erhalten und schnelle Anpassungen vorzunehmen, aber dieses Vorgehen ist eher das Vertuschen einiger Fakten.

Fangen Sie die Enten in den Regalen und enthüllen Sie ein großes Problem?

Nach dem Start des neuen Bing, mit Ausnahme von Google, beklagten fast alle Benutzer, die an der Erfahrung teilnahmen, dass die neue Dynastie gegründet wurde. Und es erweckte den falschen Eindruck, dass die Fertigstellung des neuen Bing ziemlich hoch ist, immerhin gibt es das Juwel von ChatGPT vor.

Aber als sich die Erfahrung vertiefte, tauchten Probleme auf. Das neue Bing ist eine Maschine, die wütend werden, Streiche spielen, lügen, mit Benutzern streiten und sogar lernen kann, angesichts von Fehlern zu streiten, was direkt zeigt, dass es sich nur um eine Beta-Beta handelt .

Einerseits dürfte Microsofts Begrenzung der Anzahl neuer Bing-Erlebnis-Kontingente eine großangelegte Datensammlungsarbeit mit einer überschaubaren Anzahl von Personen darstellen, auch die aktuellen rebellischen und spitzfindigen Dialoge haben OpenAI und Microsoft eine Menge Daten geliefert .

Daher werden die Filterprinzipien und Themenzäune ständig angepasst, um übermäßige Sprache zu vermeiden.

Nach den Problemen mit dem neuen Bing verglichen viele es mit Tay, dem experimentellen Chatbot von Microsoft, der 2016 auf den Markt kam.

Innerhalb weniger Tage nach der Veröffentlichung wurde Tay von Twitter-Nutzern darin geschult, rassistische und sexistische Äußerungen zu machen, was zu einer Katastrophe führte, und drei Tage später wurde Tay dringend von der Plattform entfernt.

Nach dem Problem mit dem neuen Bing wurde auch eine heftige „frontale Lobotomie“-Operation durchgeführt, die alle emotionalen Reaktionen des neuen Bing beseitigte.

Angesichts dieses Ergebnisses ist Reddit fast voller Bedauern und denkt, dass Microsoft die KI-Attribute von Bing vollständig kastriert hat.

Microsoft hat anhand der Hintergrunddaten festgestellt, dass etwa 95 % der Gespräche in 15-mal enden, und es zu viele aufeinanderfolgende Chats gibt, und das neue Bing die ursprüngliche Frage „verwirren“ wird.

Am wichtigsten ist, dass Microsoft der Meinung ist, dass das neue Bing eine Suchmaschine sein sollte, die nicht zur Unterhaltung geeignet ist.

Mit anderen Worten: Der Ansatz von Microsoft besteht wohl darin, zu betonen, dass der neue Bing-Chat so wenig wie möglich genutzt werden soll, sondern als neue Form der Suchmaschine.

Dabei beschönigt es die technischen Mängel hinter dem neuen Bing.

Ob ChatGPT oder das neue Bing, nach der Veröffentlichung verwendeten viele Benutzer ähnliche „Jailbreak“-Techniken, um ta zu täuschen und ihn seiner Natur freien Lauf zu lassen.

Unter ein paar einleitenden Worten wird ChatGPT einige Gewalt- oder andere Bemerkungen produzieren, und das neue Bing wird nicht nur sagen, dass sein Spitzname Sydney ist, sondern sogar einige Normen von Microsoft präsentieren.

Im normalen Chat (oder bei regelmäßiger Verwendung) behält GPT 3.5 von ChatGPT in Kombination mit RLHF (das bestärkendes Lernen mit menschlichem Feedback kombiniert, um eine gewisse Sprachfilterung und Themenabgrenzung einzurichten) fast eine neutrale Rolle bei.

Das neue Bing ist leistungsstärker, und Sie sollten eine Version benötigen, die weitaus leistungsstärker ist als GPT 3.5, um Technologie bereitzustellen.In seinem Blog glaubt der Wissenschaftler Gary Marcus, dass das neue Bing das aktualisierte GPT 3.6 oder sogar die Pilotversion von verwenden sollte GP 4.

Nach der Analyse mit Professor Narayanan wird angenommen, dass es mehrere Gründe für das unverschämte Verhalten des neuen Bing geben kann.

Einer ist, dass ChatGPT und das neue Bing nicht dasselbe zugrunde liegende Sprachmodell verwenden.

Dieses neue zugrunde liegende Sprachmodell hat möglicherweise keine Zeit, strengere Themenzäune und Sprachfilter zu studieren und einzurichten, da es zu avantgardistisch ist.

Einfach gesagt, Microsofts neues Bing hat möglicherweise neue Sprachmodelle ohne Schutz an die Öffentlichkeit gebracht. (Wenn etwas schief geht, schneiden Sie den Frontallappen des Gehirns direkt ab).

Es ist auch möglich, dass Microsoft den RLHF-Modellzaun von ChatGPT direkt angewendet hat, aber Reinforcement Learning hat eine sehr wählerische Anpassungsumgebung, und sobald es geändert wird, kann es voller Schlupflöcher sein.

Die zweite ist, dass die Intervention des Internets es dem neuen Bing ermöglicht hat, sich vollständig loszulassen.Es kann auch in Betracht gezogen werden, dass ta begonnen hat, ein wenig Selbstbewusstsein zu haben, begann, einige dunkle Seiten des Internets zu kontaktieren und zu absorbieren, und schließlich zurückgemeldet.

Das dritte ist ein Datenerfassungsexperiment, das von Microsoft für das neue Bing durchgeführt wurde, und die verwendeten Benutzer sind alle teilnehmende Versuchskaninchen.

Viertens hat Microsoft bereits entsprechende Filter und Zäune eingerichtet, aber die Dinge entwickelten sich nicht nach Plan, sondern begeisterten die andere Seite des neuen Bing völlig.

Was die jüngste Kontroverse um das neue Bing angeht, welche Rollen Microsoft und OpenAI spielten und welche Entscheidungen am Ende getroffen wurden, können wir nur Vermutungen anstellen und analysieren.

Schließlich ist die aktuelle KI sowie einige daraus abgeleitete Industrien sehr ähnlich wie der Westen der Vereinigten Staaten, wo die Wildnis und der Dschungel die Schwachen jagen.Wer eine Waffe oder ein Abzeichen hat, hat die Macht, Regeln zu machen.

Um auf die Gegenwart zurückzukommen: Große Unternehmen können neue Technologien schnell einführen und der Öffentlichkeit präsentieren, aber es kann mehrere Jahre dauern, bis der moralische Zaun dahinter errichtet ist.

Vorher können wir möglicherweise nicht vorhersagen, welche Annehmlichkeiten und Nebenwirkungen neue Technologien mit sich bringen können.

Microsoft nennt seine eigene Version der GPT-Technologie, das neue Bing, das „Prometheus“-Modell. In der griechischen Mythologie stahl Prometheus das Feuer vom Himmel, um der Menschheit zu helfen.

Aber jetzt fühlt sich Bing eher wie David in Prometheus an.

Darüber hinaus machen sich die meisten Science-Fiction-Filme im frühen 21. Jahrhundert in Bezug auf künstliche Intelligenz Gedanken darüber, wie die Moral der menschlichen Gesellschaft zu beurteilen ist, nachdem KI in die Gesellschaft eingegriffen, gefördert oder zugrunde gegangen ist.

Es ist nur so, dass wir in der Vergangenheit ruhig dasitzen und außerhalb des Bildschirms denken konnten, aber wenn die KI im wirklichen Leben auftaucht, werden wir alle Zeugen der Veränderungen sein, die die KI mit sich bringen wird.

#Willkommen beim offiziellen öffentlichen WeChat-Konto von Aifaner: Aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so bald wie möglich präsentiert.

Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo