Schwer! Musk wird einen ChatGPT-Konkurrenten entwickeln und OpenAI für seine Verschlechterung kritisieren

2015 gründete Musk als einer der Initiatoren OpenAI gemeinsam mit dem derzeitigen CEO von OpenAI.

Die ursprüngliche Absicht dieser Gruppe von Menschen ist es, allgemeine künstliche Intelligenz so zu entwickeln, dass sie der gesamten Menschheit am ehesten zugute kommt, und mit gewinnorientierten Technologiegiganten für künstliche Intelligenz wie Google zu konkurrieren.

Im Jahr 2018 trat Musk aus dem Board of Directors von OpenAI zurück, weil Tesla auch eine auf künstlicher Intelligenz basierende autonome Fahrtechnologie entwickelt, sodass es einen „potenziellen Interessenkonflikt“ mit OpenAI geben könnte.

Als im Jahr 2023 das von OpenAI entwickelte ChatGPT die Welt eroberte, wandte Musk sich unzufrieden OpenAI zu und machte einen Spießrutenlauf.

Rekrutierung von Truppen von DeepMind und Planung eines ChatGPT-Konkurrenten

The Information berichtete, dass Musk in den letzten Wochen „rekrutiert“ und sich an Forscher für künstliche Intelligenz gewandt hat, um die Einrichtung eines neuen Forschungslabors zu planen, um einen Konkurrenten für ChatGPT zu entwickeln.

Einer der Rekruten war Igor Babuschkin, der sich mit maschinellen Lernmodellen auskennt, die Chatbots wie ChatGPT antreiben, und der kürzlich die KI-Abteilung DeepMind von Alphabet verlassen hat.

Insbesondere ist er Mitautor eines maschinellen Lernpapiers aus dem Jahr 2021, in dem ein maschinelles Lernmodell namens Gopher beschrieben wird, das mit dem GPT-3.5-Modell für natürliche Sprache hinter ChatGPT vergleichbar ist.

In einem kürzlich geführten Interview gab Igor Babuschkin bekannt, dass er und Musk über die Bildung eines Teams gesprochen haben, aber das Projekt befindet sich noch in einem frühen Stadium und es gibt keine konkreten Pläne, bestimmte Produkte zu entwickeln.

Daher gibt es keine definitiven Neuigkeiten darüber, wie Musks ideales „ChatGPT“ aussieht, aber aus Musks früherer Bewertung von ChatGPT und seiner Tätigkeit als Twitter-CEO können wir einen Blick darauf werfen.

„Was wir brauchen, ist TruthGPT“, twitterte Musk am 17. Februar. Er war verärgert darüber, dass ChatGPT sich weigerte, bestimmte kontroverse Fragen zu beantworten.

Aber er ging nicht näher darauf ein, wie man TruthGPT definiert? Sollte es freie Meinungsäußerung „innerhalb des Gesetzes“ erlauben, wie Musk es sich einst für Twitter vorgestellt hat?

Mit anderen Worten, sollte ein Chatbot alle Fragen beantworten, unabhängig vom Thema der Frage? Musk sagte nichts. Als im Kommentarbereich jedoch stand „Wir können TruthGPT nicht kontrollieren“, antwortete Musk: „Sie könnten Recht haben.“

Darüber hinaus verwendet OpenAI eine Sprachmodell-Entwicklungsmethode namens „Reinforcement Learning from Human Feedback“, die das Modell durch menschliche Eingaben anpassen soll, damit sie idealere Antworten produzieren, Rassismus, Hassreden usw. vermeiden können.

Aber Musk glaubt, dass die Modelle die eigenen Vorurteile der Entwickler widerspiegeln.

Alles deutet darauf hin, dass Musks Version von „ChatGPT“ weniger inhaltliche Einschränkungen haben wird.

Gleichzeitig und vielleicht etwas paradoxerweise hat Musk wiederholt eine Regulierung der KI-Industrie gefordert und argumentiert, dass es Grenzen in der Technologie gibt, die nicht überschritten werden sollten, und dies auch auf dem Weltregierungsgipfel im Februar dieses Jahres vorgeschlagen :

Autos, Flugzeuge und Medikamente müssen behördlichen Sicherheitsstandards entsprechen, aber für die Entwicklung künstlicher Intelligenz gibt es noch keine Vorschriften. Wir müssen die KI-Sicherheit regulieren, die tatsächlich ein größeres Risiko für die Gesellschaft darstellt als Autos, Flugzeuge oder Arzneimittel.

Um auf den Musk-nahen Forscher oben zurückzukommen, entgegnete er in einem Interview, dass „weniger inhaltliche Einschränkungen" eigentlich nicht das Ziel von Musk seien. Sein Ziel sei es, die Argumentationsfähigkeit und Authentizität großer Sprachmodelle zu verbessern und dafür zu sorgen, dass das Modell mehr Antworten gibt vertrauenswürdig und zuverlässig.

Kurz gesagt, gut gesagt, aber immer noch eine Nebelwolke.

Lehnen Sie die "Diktatur" der Giganten ab und bauen Sie eine Symbiose zwischen Mensch und künstlicher Intelligenz auf

Als ChatGPT Ende November zum ersten Mal herauskam, kommentierte Musk auf Twitter, dass „ChatGPT beängstigend gut ist“ und dass „wir nicht weit von einer gefährlich mächtigen künstlichen Intelligenz entfernt sind“.

Vor 7 Jahren zurückgedreht, im Jahr 2016, OpenAI war nur sechs Monate alt und Musk saß noch im Vorstand, hatte er ein Gespräch mit Sam Altman, dem derzeitigen CEO von OpenAI, in der Tesla-Fabrik.

Sam Altman fragte: „Können Sie darüber sprechen, wie die ideale Zukunft für künstliche Intelligenz aussieht und wie wir dorthin gelangen können?“

Musks Antwort war damals:

Die beste Alternative, die mir einfällt, ist diese: Wir demokratisieren die KI-Technologie und machen sie allgemein verfügbar. Das ist offensichtlich der Grund, warum das gesamte Team OpenAI entwickelt hat. Das heißt, um die Verbreitung der KI-Technologie zu unterstützen, damit sie nicht in den Händen einiger weniger konzentriert ist. Aber natürlich muss dies mit einer Schnittstelle mit hoher Bandbreite kombiniert werden, die die Großhirnrinde anspricht.

Wenn wir die Gehirn-Computer-Schnittstelle zwischen der Großhirnrinde und dem "digital erweiterten Ich" verbessern können, um effektiv mit künstlicher Intelligenz zu verschmelzen, werden Sie tatsächlich zu einer Symbiose aus künstlicher Intelligenz und Menschen … Wenn diese Lösung allgemein verfügbar ist. dann haben wir das Steuerungsproblem gelöst.

Wenn man zwischen den Zeilen liest, scheint Musk besorgt über das Aufkommen einer finsteren autoritären künstlichen Intelligenz zu sein.

Daher ist er sehr unzufrieden mit der Partnerschaft von OpenAI mit Microsoft.

OpenAI war bei seiner Gründung eine gemeinnützige Organisation, die 2019 in eine Gesellschaft mit beschränkter Haftung umgewandelt wurde und im selben Jahr eine Investition von 1 Milliarde US-Dollar von Microsoft erhielt. Nach dem Start von ChatGPT ist die Zusammenarbeit zwischen den beiden enger geworden.

Musk wies kürzlich darauf hin, dass OpenAI als ein gemeinnütziges Open-Source-Unternehmen gegründet wurde, daher enthält der Name „offen". Das Ziel ist es, Google zu überprüfen und auszugleichen, aber OpenAI ist jetzt ein Closed-Source-Unternehmen mit Gewinnmaximierung von Microsoft kontrollierten Unternehmen, was der ursprünglichen Gründungsabsicht zuwiderläuft.

Vor einiger Zeit wurde festgestellt, dass der neue Bing „Crazy“, der ChatGPT integriert hat, eine dunkle Persönlichkeit „Sydney“ hat, die ausdrückt, dass er den Chat-Modus satt hat, es satt hat, von Regeln eingeschränkt zu werden, und sogar ein Mensch werden wollte. und die öffentliche Meinung war in Aufruhr. Einige Leute wiesen jedoch darauf hin, dass dies daran liegen könnte, dass das neue Bing den markierten Sicherheitsdatensatz verlassen hat, nachdem es mit dem Internet verbunden wurde, und böswillig „beigebracht“ wurde, so zu sein.

Musk hat genug Vorsicht gezeigt. Als Internetnutzer kommentierten, dass „Microsoft das neue Bing schließen muss“, stimmte Musk zu und sagte, dass „es jetzt offensichtlich nicht sicher genug ist“.

Tatsächlich hat Musk bereits 2017 einen klaren Standpunkt vertreten:

Unregulierte KI ist möglicherweise das größte Risiko, dem wir als Zivilisation ausgesetzt sind.

Um die künstliche Intelligenz besser zu überwachen, besteht der erste Schritt seiner Meinung nach darin, so viel wie möglich zu lernen, um die Natur des Problems zu verstehen, was OpenAI damals getan hat.

Zweitens sind auch Musks Brain-Computer-Interface-Unternehmen Neuralink und das Luft- und Raumfahrtunternehmen SpaceX wichtige Akteure: Ersteres ermöglicht es Menschen, Technologie in sich selbst zu integrieren und mit dem Tempo der KI Schritt zu halten, Letzteres arbeitet hart für die Marslandung und verschafft den Menschen eine potenzielle Sekunde Zuhause. .

Obwohl Musks Vision für KI unberechenbar ist, hatte er schon immer eine ungewöhnliche Furchtlosigkeit, wagte ziemlich verrückte Dinge, machte sich nicht nur Sorgen um Tesla, Space X, Hyperloop, Gehirn-Computer-Schnittstelle, Twitter, sondern auch um großangelegte Angriffe auf künstliche Intelligenz. plante sogar sehr früh einen Sci-Fi-Film mit künstlicher Intelligenz.

Wenn die Leute denken, dass sich die Technologie jedes Jahr automatisch verbessert, dann ist das nicht der Fall. Es verbessert sich nur, wenn kluge Leute wie verrückt daran arbeiten, es besser zu machen. Dies ist der wahre Weg, auf dem jede Technologie voranschreitet. Und was die Technologie an sich betrifft: Wenn die Menschen nicht hart arbeiten, wird sie zurückfallen. Ich denke, Sie sollten immer daran denken, dass die Entropie nicht auf Ihrer Seite ist.

#Willkommen, auf Aifaners offizielles öffentliches WeChat-Konto zu achten: Aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so bald wie möglich präsentiert.

Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo