Musk scheiterte viele Male, OpenAI tauchte plötzlich auf und der KI-Krieg im Silicon Valley begann vor zehn Jahren

Anmerkung des Herausgebers: „Diejenigen, die behaupten, sich am meisten Sorgen über die Krise zu machen, die die künstliche Intelligenz mit sich bringen wird, sind in Wirklichkeit diejenigen, die am entschlossensten sind, sie zu erschaffen und den Reichtum zu genießen, den sie mit sich bringt.“

Dieser Feature-Bericht der New York Times zeichnet den seit 2010 schwelenden KI-Kampf im Silicon Valley nach:

1. Musk und Google-Mitbegründer Larry Page „stritten“ sich 2015 auf einer Party. Die beiden hatten unterschiedliche Ansichten zur Entwicklung der KI.

2. DeepMind-Gründer Demis Hassabis nutzte erstmals Schach, um Peter Thiels Aufmerksamkeit zu erregen. Mit Thiels Unterstützung erlangte DeepMind Musks Aufmerksamkeit und Investitionen und wuchs allmählich.

3. „KI-Pate“ Jeffrey Hinton veranstaltete eine „Auktion“ und „verkaufte“ er selbst und sein Team. Am Ende hat Google das Team von Dr. Hinton erfolgreich übernommen.

4. Diese Auktion symbolisiert den offiziellen Eintritt der Silicon-Valley-Giganten in den KI-Krieg. DeepMind ging „in den Ruhestand“ und beschloss, zu verkaufen.

5. Nach dem Verkauf verfügte DeepMind ursprünglich über ein „Ethikkomitee“, um die sichere Entwicklung von KI zu gewährleisten, doch dieses Komitee wurde schließlich wirkungslos.

6. OpenAI bricht mit Musk und geht in Richtung einer Zusammenarbeit mit Microsoft.

7. Dario Amodei von OpenAI verließ das Unternehmen, um Anthropic zu gründen.

8. OpenAI hat die „Prüfung“ von Bill Gates bestanden und GPT wurde von diesem als revolutionäre Innovation angesehen.

Ursprüngliche Adresse: https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html

Ursprünglicher Autor: Cade Metz, Karen Weise, Nico Grant und Mike Isaac

Im Juli 2015 feierte Elon Musk seinen 44. Geburtstag mit einer dreitägigen Party, die seine Frau in einem mit Hütten übersäten Weinresort in Kalifornien veranstaltete. Eingeladen waren nur Familie und Freunde, und die Kinder rannten und spielten auf dem gehobenen Anwesen im Napa Valley.

Es dauerte noch ein paar Jahre, bis Twitter zu X und Tesla profitabel wurde. Herr Musk und seine Frau Talulah Riley – die Schauspielerin, die den schönen, aber gefährlichen Roboter im HBO-Science-Fiction-Drama „Westworld“ spielt – stehen immer noch kurz vor dem Ende ihrer zweiten Ehe. Gast der Party war Larry Page, damals CEO von Google. Und der Öffentlichkeit wurde künstliche Intelligenz erst vor einigen Jahren bekannt, als sie zur Identifizierung von Katzen auf YouTube eingesetzt wurde – mit einer Genauigkeit von 16 %.

Als Musk und Page am ersten Abend nach dem Abendessen am Lagerfeuer am Pool plauderten, war künstliche Intelligenz das Thema ihrer Unterhaltung. Die beiden Milliardäre sind seit mehr als einem Jahrzehnt befreundet, wobei Herr Musk manchmal scherzte, dass er nach einer nächtlichen Gaming-Session gelegentlich die Nacht auf Mr. Pages Couch verbringen würde.

Doch die Atmosphäre in dieser hellen Nacht wurde schnell angespannt, als die beiden begannen zu diskutieren, ob künstliche Intelligenz letztendlich die Menschheit stärken oder zerstören würde.

Während sich die Diskussion bis in die kühle Nacht hinzog, wurde die Atmosphäre immer angespannter und einige der etwa 30 Partygänger versammelten sich, um genauer zuzuhören. Page beschreibt flüsternd seine Vision einer digitalen Utopie, nachdem er seit mehr als einem Jahrzehnt an einer ungewöhnlichen Erkrankung leidet, die seine Stimmbänder beeinträchtigt. Der Mensch werde irgendwann mit künstlich intelligenten Maschinen verschmelzen, sagte er. Eines Tages werden viele Arten von Geheimdiensten um Ressourcen konkurrieren, und der Beste wird gewinnen.

Wenn das passiert, sagte Musk, sind wir am Arsch. Maschinen werden die Menschheit zerstören.

Mit einem frustrierten Krächzen besteht Page darauf, dass wir die von ihm beschriebene Utopie verfolgen sollten. Schließlich nannte er Musk einen „Speziesisten“, jemanden, der Menschen gegenüber zukünftigen digitalen Lebensformen bevorzugt.

Musk sagte später, die Demütigung sei „der letzte Tropfen, der das Fass zum Überlaufen bringt“.

Als sich die Menge zerstreute, sahen viele verblüfft, aber auch amüsiert aus, da sie annahmen, dass es sich genau um die Art esoterischer Debatte handelte, die auf Partys im Silicon Valley oft vorkommt.

Acht Jahre später scheint die Debatte zwischen den beiden Männern jedoch vorausschauend zu sein. Ob künstliche Intelligenz die Welt verbessern oder zerstören wird – oder zumindest ernsthaften Schaden anrichten wird – hat unter Unternehmern, Chatbot-Benutzern, Wissenschaftlern, Gesetzgebern und Regulierungsbehörden im Silicon Valley eine Debatte darüber ausgelöst, ob wir sie kontrollieren oder aufgeben sollten. Ein Rahmen für die Zukunft Debatte über Entwicklung.

In dieser Debatte trat eine Gruppe der reichsten Menschen der Welt gegeneinander an: Musk, Page, Mark Zuckerberg von Meta, der Technologieinvestor Peter Thiel, Satya Satya Nadella von Microsoft und Sam Altman von OpenAI. Sie alle wetteifern um einen Anteil an einem Unternehmen, das eines Tages Billionen von Dollar wert sein könnte, und um die Macht, es zu gestalten.

Im Zentrum dieses Wettbewerbs steht ein rätselhaftes Paradoxon. Diejenigen, die behaupten, sich am meisten Sorgen um künstliche Intelligenz zu machen, sind diejenigen, die am entschlossensten sind, sie zu erschaffen und den Reichtum zu genießen, den sie mit sich bringt. Sie begründen ihre Ambitionen mit der festen Überzeugung, dass nur sie verhindern können, dass künstliche Intelligenz eine Gefahr für den Planeten darstellt.

Kurz nach diesem Sommerfest verloren Musk und Page den Kontakt. Ein paar Wochen später aß Musk mit Altman, der damals einen Technologie-Inkubator leitete, und mehreren Forschern in einem privaten Raum im Rosewood Hotel in Menlo Park, Kalifornien, zu Abend. Dies ist ein sehr beliebter Ort, um sich über Kooperationen zu unterhalten, da er in der Nähe der VC-Büros in der Sand Hill Road liegt.

Dieses Abendessen führte später in diesem Jahr zur Gründung eines Startups namens OpenAI. Unterstützt durch Hunderte Millionen Dollar von Musk und anderen Investoren verspricht das Labor, die Welt vor Pages Vision zu schützen.

Dank seines Chatbots ChatGPT hat OpenAI die Technologiebranche grundlegend verändert und die Risiken und Potenziale künstlicher Intelligenz aufgezeigt. Laut zwei Personen, die mit der jüngsten Finanzierungsrunde des Unternehmens vertraut sind, wurde OpenAI mit mehr als 80 Milliarden US-Dollar bewertet, obwohl die Partnerschaft zwischen Musk und Altman nicht von Dauer war. Seitdem reden die beiden nicht mehr miteinander.

„Es gibt Spaltung, Misstrauen, Egoismus“, sagte Altman. „Je mehr Menschen sich in die gleiche Richtung bewegen, desto schärfer werden die Spaltungen. Das sieht man auch bei Sekten und religiösen Gruppen. Es sind diejenigen, die einander am nächsten stehen, die am heftigsten kämpfen.“

Letzten Monat erreichten die Machtkämpfe den Vorstand von OpenAI. Rebellische Vorstandsmitglieder versuchten, Ultraman aus dem Unternehmen zu verdrängen, weil sie glaubten, dass sie ihm nicht mehr vertrauen könnten, wenn es darum ging, eine KI zu entwickeln, die der Menschheit zugute kommen könnte. Fünf Tage lang schien OpenAI zusammenzubrechen, bis der Vorstand unter dem Druck wichtiger Investoren und Mitarbeiter, die drohten, Altman zu folgen, nachgab.

Der dramatische Kampf innerhalb von OpenAI hat der Welt einen ersten Einblick in den tobenden Kampf zwischen denen gegeben, die die Zukunft der KI bestimmen werden.

Doch ein paar Jahre vor dem Beinahe-Debakel von OpenAI gab es im Silicon Valley einen wenig bekannten, aber erbitterten Wettbewerb um Technologien, die nun die Welt rasant verändern. Sie schreiben alles neu, von der Art und Weise, wie wir unsere Kinder erziehen, bis hin zur Art und Weise, wie man einen Krieg führt. Die New York Times interviewte mehr als 80 Führungskräfte, Wissenschaftler und Unternehmer, darunter zwei, die an Musks Geburtstagsfeier 2015 teilnahmen, um diese Geschichte von Ehrgeiz, Angst und Geld zu erzählen.

Die Geburt von DeepMind

Fünf Jahre vor dieser Party im Napa Valley und zwei Jahre vor dem Erfolg von Katzenvideos auf YouTube betrat der 34-jährige Neurowissenschaftler Demis Hassabis bei einer Cocktailparty in einem Stadthaus in San Francisco das Haus von Peter Thiel und erkannte, dass er auf Gold gestoßen war. In Tiernas Wohnzimmer mit Blick auf das örtliche Palais des Arts und den Schwanenteich steht ein Schachbrett. Dr. Hassabis war einst der zweitbeste Schachspieler der Welt in der Kategorie unter 14 Jahren.

„Ich habe mich ein Jahr lang auf dieses Treffen vorbereitet“, sagte Dr. Hassabis. „Ich dachte, das wäre mein einzigartiger Einstiegspunkt: Ich wusste, dass er es liebte, Schach zu spielen.“

Im Jahr 2010 suchten Dr. Hassabis und zwei seiner Kollegen, die im Vereinigten Königreich lebten, nach Geldern, um mit dem Aufbau einer „künstlichen allgemeinen Intelligenz“ oder AGI zu beginnen, einer Maschine, die alles tun konnte, was ein Gehirn kann. Damals interessierten sich nur wenige Menschen für künstliche Intelligenz. Nach einem halben Jahrhundert der Forschung ist es dem Gebiet der künstlichen Intelligenz nicht gelungen, auch nur annähernd das menschliche Gehirn zu erschaffen.

Einige Wissenschaftler und Denker haben jedoch hartnäckige Ansichten über die negativen Auswirkungen der KI entwickelt. Viele, wie diese drei jungen Männer aus Großbritannien, sind mit dem Internetphilosophen und autodidaktischen KI-Forscher Eliezer Yudkowsky verwandt. Herr Yudokowsky war ein Gemeindevorsteher, der sich selbst als „Rationalisten“ bezeichnete und später als „effektiver Altruist“ bekannt wurde.

Sie glauben, dass KI ein Heilmittel gegen Krebs finden oder den Klimawandel lösen kann, befürchten jedoch, dass KI-Roboter Dinge tun könnten, die den Absichten ihrer Schöpfer zuwiderlaufen. Wenn Maschinen schlauer werden als Menschen, argumentieren Rationalisten, könnten sich die Maschinen gegen ihre Schöpfer wenden.

Thiel hat durch seine frühen Investitionen in Facebook und seine frühe Partnerschaft mit Musk bei PayPal ein Vermögen angehäuft. Er war fasziniert von der Singularität, einem Thema in der Science-Fiction, das den Moment beschreibt, in dem intelligente Technologie nicht mehr von Menschen kontrolliert werden kann.

Mit Thiels Finanzierung erweiterte Yudokovsky sein KI-Labor und richtete eine jährliche Konferenz über die Singularität ein. Vor Jahren traf einer der beiden Kollegen von Dr. Hassabis Yudokowsky. Er gab ihnen Gelegenheit, bei Treffen zu sprechen und sorgte dafür, dass sie zu Tills Partys eingeladen wurden.

Herr Yudkowsky stellte Dr. Hassabis Thiel vor. Hassabis ging davon aus, dass auf der Party viele Leute sein würden, die versuchen würden, Geld aus Thiel herauszupressen. Seine Strategie bestand darin, ein weiteres Treffen zu arrangieren. Er erzählte Teal, dass die Beziehungen zwischen dem Bischof und dem Ritter angespannt seien. Die beiden Figuren haben den gleichen Wert, aber die besten Spieler wissen, dass ihre Vorteile sehr unterschiedlich sind.

Das hat funktioniert. Entzückt lud Teal sie am nächsten Tag wieder ein, um sich in der Küche zu treffen. Der Gastgeber hatte gerade sein morgendliches Training beendet und sein Körper glänzte vor Schweiß. Ein Steward reichte ihm eine Diät-Cola. Die drei präsentierten ihren Pitch, und bald einigten sich Thiel und seine Risikokapitalfirma darauf, 1,4 Millionen Pfund (ca. 2,25 Millionen US-Dollar) in ihr Startup zu investieren. Er war ihr erster bedeutender Investor.

Sie nannten das Unternehmen DeepMind, eine Anspielung auf „Deep Learning“ (eine Möglichkeit für KI-Systeme, Fähigkeiten durch die Analyse großer Datenmengen zu erlernen), Neurowissenschaften und den tiefdenkenden Supercomputer aus dem Science-Fiction-Roman „Per Anhalter durch die Welt“. Galaxis." Im Herbst 2010 bauten sie ihre Traummaschine. Sie glauben fest daran, dass sie in der einzigartigen Position sind, die Welt zu schützen, weil sie die Risiken verstehen.

„Ich glaube nicht, dass das eine widersprüchliche Position ist“, sagte Mustafa Suleyman, einer der drei Gründer von DeepMind. „Diese Technologien werden enorme Vorteile bringen. Das Ziel besteht nicht darin, ihre Entwicklung zu eliminieren oder auszusetzen. Das Ziel besteht darin, ihre negativen Auswirkungen zu reduzieren.“

Nachdem er Thiels Unterstützung gewonnen hatte, rückte Dr. Hassabis nach und nach in Musks Blickfeld. Sie lernten sich etwa zwei Jahre später auf einer Konferenz kennen, die von Thiels Investmentfonds organisiert wurde, der auch in Musks Unternehmen SpaceX investierte. Dr. Hassabis arrangierte einen Rundgang durch das SpaceX-Hauptquartier. Anschließend aßen die beiden zu Mittag und unterhielten sich in der Cafeteria, während Raketengranaten von der Decke hingen.

Herr Musk hat erklärt, dass sein Plan darin bestehe, den Mars zu kolonisieren, um der Überbevölkerung und anderen Gefahren auf der Erde zu entgehen. Dr. Hassabis antwortete, dass dieser Plan funktionieren wird – vorausgesetzt, dass superintelligente Maschinen den Menschen nicht zum Mars folgen und die Menschen auf dem Mars zerstören.

Musk war sprachlos. Er hatte diese besondere Gefahr nie in Betracht gezogen. Musk investierte schnell zusammen mit Herrn Thiel in DeepMind, um näher an der Entwicklung der Technologie zu sein.

Mit ausreichend Mitteln beschäftigt DeepMind Forscher, die sich auf neuronale Netze spezialisiert haben, komplexe Algorithmen, die dem menschlichen Gehirn nachempfunden sind. Ein neuronales Netzwerk ist im Wesentlichen ein riesiges mathematisches System, das Tage, Wochen oder sogar Monate damit verbringt, Muster in riesigen Datenmengen zu identifizieren. Diese Systeme wurden ursprünglich in den 1950er Jahren entwickelt und können lernen, Aufgaben selbstständig zu erledigen. Nachdem sie beispielsweise Hunderte von handgeschriebenen Namen und Adressen auf Umschlägen analysiert haben, können sie handgeschriebenen Text lesen.

DeepMind führt dieses Konzept weiter. Es wurde ein System entwickelt, das das Spielen klassischer Atari-Spiele wie Space Invaders, Pong und Breakout erlernen konnte, um sein Potenzial zu demonstrieren.

Dies erregte die Aufmerksamkeit von Google, einem weiteren Giganten im Silicon Valley, insbesondere von Larry Page. Er sah eine Demonstration der Maschine von DeepMind, wie sie ein Atari-Spiel spielte. Er wollte ein Teil davon sein.

Talentauktion

Im Herbst 2012 veröffentlichten Geoffrey Hinton, ein 64-jähriger Professor an der University of Toronto, und zwei Doktoranden eine Forschungsarbeit, die der Welt die Fähigkeiten künstlicher Intelligenz demonstrierte. Sie trainierten ein neuronales Netzwerk, um alltägliche Objekte wie Blumen, Hunde und Autos zu erkennen.

Wissenschaftler waren von der Genauigkeit der von Dr. Hinton und seinen Studenten entwickelten Technologie überrascht. Eine Person, die sich darüber besonders Sorgen macht, ist Yu Kai, ein Forscher für künstliche Intelligenz, der Dr. Hinton auf einer Forschungskonferenz kennengelernt hat und seit kurzem für den chinesischen Internetgiganten Baidu arbeitet. Laut drei mit der Angelegenheit vertrauten Personen bot Baidu Dr. Hinton und seinen Studenten 12 Millionen US-Dollar an, um dem in Peking ansässigen Unternehmen beizutreten.

Dr. Hinton lehnte Baidu ab, aber das Geld erregte seine Aufmerksamkeit.

Der in Cambridge ausgebildete britische Expatriate, der abgesehen von gelegentlichen Stationen bei Microsoft und Google die meiste Zeit in der Wissenschaft verbracht hat, legt keinen besonderen Wert auf Geld. Aber seine Kinder sind von Neurodiversität betroffen und das Geld würde finanzielle Sicherheit bedeuten.

„Wir wissen nicht, welchen Wert wir haben“, sagte Dr. Hinton. Er beriet sich mit Anwälten und Akquisitionsexperten und entwickelte dann einen Plan: „Wir werden eine Auktion organisieren und uns selbst verkaufen.“ Die Auktion findet auf der jährlichen Konferenz für künstliche Intelligenz im Harrah's Hotel statt Lake Tahoe Casino. Verhalten.

Große Technologieunternehmen beginnen, darauf aufmerksam zu werden. Unternehmen wie Google, Microsoft und Baidu haben begonnen zu glauben, dass die Maschinen, die neuronale Netze mit sich bringen werden, nicht nur sehen, sondern auch zuhören, schreiben, sprechen und schließlich sogar denken können.

Page hatte eine ähnliche Technologie im Labor für künstliche Intelligenz seines Unternehmens, Google Brain, gesehen und glaubte, dass Dr. Hintons Forschung die Arbeit seiner Wissenschaftler verbessern könnte. Im Wesentlichen gab er Alan Eustace, dem Senior Vice President und Ingenieur von Google, einen nicht nummerierten Scheck, um alle KI-Experten einzustellen, die er brauchte.

Mr. Eustace und Jeff Dean, der Brain Labs leitet, flogen nach Lake Tahoe und verabredeten am Abend vor der Auktion ein Abendessen mit Dr. Hinton und seinen Schülern in einem Hotel-Steakhouse. Dr. Dean erinnerte sich, dass es stark nach altem Zigarettenrauch roch. Sie überzeugten Dr. Hinton und seine Studenten, bei Google zu arbeiten.

Am nächsten Tag führte Dr. Hinton die Auktion in seinem Hotelzimmer durch. Aufgrund einer alten Verletzung sitzt er selten. Er stellte einen Mülleimer auf einen Tisch, stellte seinen Laptop darauf und sah zu, wie in den nächsten zwei Tagen die Gebote eingingen.

Google hat ein Angebot gemacht. Das gilt auch für Microsoft. Als die Preise stiegen, stieg DeepMind schnell aus. Den Auktionsdetails zufolge erhöhten die Branchenriesen das Gebot auf 20 Millionen US-Dollar und dann auf 25 Millionen US-Dollar. Microsoft zog sich zurück, als der Preis 30 Millionen US-Dollar überstieg, stieg aber bei 37 Millionen US-Dollar wieder in die Ausschreibung ein.

„Wir hatten das Gefühl, es sei wie ein Film“, sagte Dr. Hinton.

Dann zog sich Microsoft ein zweites Mal aus der Ausschreibung zurück. Nur Baidu und Google blieben übrig, und sie erhöhten ihre Gebotspreise auf 42 Millionen US-Dollar und 43 Millionen US-Dollar. Schließlich beendeten Dr. Hinton und seine Studenten die Auktion bei 44 Millionen US-Dollar. Obwohl die Gebote immer noch steigen, wollen sie für Google arbeiten. Und die Summe ist atemberaubend genug.

Es ist ein klares Zeichen dafür, dass finanzstarke Unternehmen entschlossen sind, die talentiertesten KI-Forscher aufzukaufen – was auch Dr. Hassabis von DeepMind erkennt. Er hat seinen Mitarbeitern mitgeteilt, dass DeepMind ein unabhängiges Unternehmen bleiben wird. Er glaubt, dass dies der beste Weg ist, um sicherzustellen, dass seine Technologie nicht zu etwas Gefährlichem wird.

Doch als große Technologieunternehmen in den Wettbewerb um Talente eintraten, entschied er, dass er keine andere Wahl hatte: Es war Zeit zu verkaufen.

Laut drei mit der Angelegenheit vertrauten Personen versuchten Google und Facebook Ende 2012, das Londoner Labor zu erwerben. Dr. Hassabis und seine Mitbegründer bestanden auf zwei Bedingungen: Die Technologie von DeepMind dürfe nicht für militärische Zwecke genutzt werden und seine KI-Technologie müsse von einem unabhängigen Gremium aus Technologen und Ethikern überwacht werden.

Das Gebot von Google betrug 650 Millionen US-Dollar. Mark Zuckerberg von Facebook bot dem Gründer von DeepMind einen höheren Preis an, war jedoch mit den Bedingungen nicht einverstanden. DeepMind wurde schließlich an Google verkauft.

Zuckerberg beschloss, ein eigenes Labor für künstliche Intelligenz zu bauen. Er beauftragte Yann LeCun mit der Leitung des Labors, einen französischen Informatiker, der ebenfalls bahnbrechende Forschungen im Bereich der künstlichen Intelligenz durchgeführt hatte. Ein Jahr nach Dr. Hintons Auktion flogen Zuckerberg und Dr. LeChun nach Lake Tahoe, um an derselben KI-Konferenz teilzunehmen. In einer Suite im Harrah's Casino lief Herr Zuckerberg auf Socken umher und interviewte persönlich Spitzenforscher, denen schnell Millionen von Dollar an Gehältern und Aktien angeboten wurden.

Künstliche Intelligenz wurde einst belächelt. Jetzt geben die reichsten Menschen im Silicon Valley Milliarden aus, um im Rennen nicht ins Hintertreffen zu geraten.

Die fehlende Ethikkommission

Als Musk in DeepMind investierte, verstieß er gegen eine inoffizielle Regel, dass er nicht in ein Unternehmen investieren würde, das er nicht leitete. Die negativen Auswirkungen dieser Entscheidung wurden nur etwa einen Monat nach seinem Geburtstagsstreit deutlich, als er seinem ehemaligen Freund und Milliardärskollegen gegenüberstand.

Bei diesem Anlass fand am 14. August 2015 die erste Sitzung der DeepMind-Ethikkommission statt. Auf Drängen der Gründer wurde das Komitee gegründet, um sicherzustellen, dass ihre Technologie beim Verkauf keinen Schaden anrichtet. Drei mit dem Treffen vertraute Personen berichteten, dass sich die Ausschussmitglieder in einem Konferenzraum vor Musks SpaceX-Büro versammelt hätten, dessen Fenster einen Blick auf seine Raketenfabrik hätten.

Allerdings endet hier auch Musks Kontrolle. Als Google DeepMind erwarb, kaufte es das gesamte Unternehmen. Musk wurde verdrängt. Obwohl er finanziell Geld verdiente, war er nicht glücklich.

Drei Google-Führungskräfte haben nun die feste Kontrolle über DeepMind: Page, Google-Mitbegründer und Tesla-Investor Sergey Brin und Google-Vorsitzender Eric Schmidt (Eric Schmidt). Zu den weiteren Teilnehmern gehörten Reid Hoffman, ein weiterer PayPal-Gründer, und Toby Ord, ein australischer Philosoph, der sich mit existenziellen Risiken beschäftigt.

Die Gründer von DeepMind berichten, dass sie ihre Arbeit vorantreiben, sich jedoch bewusst sind, dass die Technologie ernsthafte Risiken birgt.

Suleiman, Mitbegründer von DeepMind, hielt eine Rede mit dem Titel „The Rising People Are Coming“. Er sagte dem Vorstand, dass künstliche Intelligenz zu einer Explosion von Desinformation führen könnte. Er befürchtet, dass die Öffentlichkeit in den kommenden Jahren, da die Technologie zahllose Arbeitsplätze verdrängt, Google dafür verantwortlich machen wird, ihnen den Lebensunterhalt zu nehmen. Er glaubt, dass Google seinen Reichtum mit den Millionen Arbeitslosen teilen und für ein „universelles Grundeinkommen“ sorgen muss.

Musk stimmt zu. Aber es ist klar, dass seine Google-Gäste nicht die Absicht haben, den Reichtum umzuverteilen. Herr Schmidt sagte, er halte die Bedenken für völlig übertrieben. Mr. Page stimmte mit seiner üblichen leisen Stimme zu. Er argumentierte, dass KI mehr Arbeitsplätze schaffen als wegnehmen würde.

Acht Monate später gelang DeepMind ein Durchbruch, der die KI-Community und die Welt schockierte. Eine DeepMind-Maschine namens AlphaGo besiegte einen der besten Go-Spieler der Welt. Das Spiel wurde live im Internet übertragen und von 200 Millionen Menschen auf der ganzen Welt verfolgt. Die meisten Forscher hatten gedacht, dass es noch ein Jahrzehnt dauern würde, bis die KI über die innovativen Fähigkeiten dazu verfügt.

Rationalisten, effektive Altruisten und andere, die sich Sorgen über die Risiken der künstlichen Intelligenz machen, behaupten, dass der Siegeszug der Computer ihre Befürchtungen bestätigt.

„Dies ist ein weiteres Zeichen dafür, dass die künstliche Intelligenz schneller voranschreitet, als viele Experten erwartet hatten“, schrieb Victoria Krakowna, die als Forscherin für „KI-Sicherheit“ zu DeepMind wechseln wird, in einem Blogbeitrag.

Die Gründer von DeepMind machten sich zunehmend Sorgen darüber, wie Google ihre Erfindung nutzen würde. 2017 versuchten sie, sich vom Unternehmen zu trennen. Als Reaktion darauf erhöhte Google die Gehälter und Aktienzuteilungen der Gründer von DeepMind und ihrer Mitarbeiter. Sie entschieden sich zu bleiben.

Die Ethikkommission tagte nie ein zweites Mal.

separate

Überzeugt davon, dass Pages Optimismus in Bezug auf künstliche Intelligenz völlig fehl am Platz war, und wütend über den Verlust von DeepMind, baute Musk sein eigenes Labor auf.

OpenAI wurde Ende 2015 gegründet, nur wenige Monate nachdem er und Sam Altman sich im Rosewood Hotel im Silicon Valley kennengelernt hatten. Musk steckte Geld in das Labor, und seine ehemaligen PayPal-Partner, die Herren Hoffman und Thiel, schlossen sich den Bemühungen an. Das Trio und andere sagten 1 Milliarde US-Dollar für das Projekt zu, bei dessen Durchführung der damals 30-jährige Altman helfen würde. Um das Projekt zu starten, engagierten sie Ilya Sutskever von Google. (Dr. Sutskwei war einer der Doktoranden, die Google bei Dr. Hintons Auktion „gekauft“ hat.)

Ursprünglich wollte Musk OpenAI als gemeinnützige Organisation betreiben, fernab der finanziellen Interessen von Unternehmen wie Google. Doch während Google die Tech-Welt mit seiner Go-Leistung schockiert, ändert Musk seine Meinung darüber, wie OpenAI funktionieren soll. Er wollte unbedingt, dass OpenAI etwas erfindet, das die Fantasie der Welt anregt und sie Google näher bringt, aber als gemeinnützige Organisation war es ihm nicht möglich, diese Aufgabe zu erfüllen.

Ende 2017 schmiedete er den Plan, Altman und den anderen Gründern die Kontrolle über das Labor zu entreißen und es in einen kommerziellen Betrieb umzuwandeln, indem er sich mit Tesla zusammenschloss und sich auf die Supersportwagen verließ, die der Autokonzern entwickelte vier mit der Sache vertraute Personen.

Als Altman und andere Einwände erhoben, lehnte Musk ab und sagte, er werde sich auf seine eigene Arbeit im Bereich der künstlichen Intelligenz bei Tesla konzentrieren. Drei Personen, die an dem Treffen teilnahmen, sagten, er habe den OpenAI-Mitarbeitern im Februar 2018 im obersten Stockwerk der Büros des Startups in einer umgebauten Lkw-Fabrik seinen Abgang angekündigt. Als er sagte, OpenAI müsse schneller voranschreiten, entgegnete ein Forscher bei dem Treffen, dass das Verhalten von Herrn Musk rücksichtslos sei.

Musk nannte den Forscher einen „Dummen“ und stürmte davon, wobei er sein riesiges Vermögen mitnahm.

OpenAI brauchte plötzlich neue Mittel. Altman flog zu einer Konferenz nach Sun Valley und traf dort auf Microsoft-Chef Satya Nadella. Die Vereinigung der beiden schien natürlich. Altman kannte Kevin Scott, den Chief Technology Officer von Microsoft. Microsoft hat LinkedIn von OpenAI-Vorstandsmitglied Hoffman übernommen. Nadella beauftragte Scott damit, es zu erledigen. Der Deal wurde 2019 abgeschlossen.

Altman und OpenAI, die unter dem ursprünglichen gemeinnützigen Dach ein gewinnorientiertes Unternehmen gründeten, verfügen über 1 Milliarde US-Dollar an neuem Kapital und Microsoft hat einen neuen Weg gefunden, künstliche Intelligenz in seinen riesigen Cloud-Computing-Dienst zu integrieren.

Aber nicht alle bei OpenAI sind glücklich.

Der Forscher Dario Amodei ist mit der Gemeinschaft des effektiven Altruismus verbunden und war bereits dort, als OpenAI im Rosewood Hotel geboren wurde. Dr. Amoudi, der beim Reden ständig seine Locken zwirbelt, leitet ein Labor, das ein neuronales Netzwerk aufbaut, ein sogenanntes großes Sprachmodell, das aus großen Mengen digitalen Textes lernen kann. Es generiert selbstständig Text durch die Analyse unzähliger Wikipedia-Artikel, digitaler Bücher und Message Boards. Es hat auch die unglückliche Angewohnheit, Dinge zu erfinden. Es heißt GPT-3 und wurde im Sommer 2020 veröffentlicht.

Forscher von OpenAI, Google und anderen Unternehmen glauben, dass diese sich schnell verbessernde Technologie der Weg zu AGI sein könnte.

Allerdings ist Dr. Amodei mit dem Microsoft-Deal unzufrieden, da er glaubt, dass er OpenAI in eine sehr kommerzielle Richtung führt. Er und andere Forscher versuchten, den Vorstand unter Druck zu setzen, Herrn Altman zu verdrängen, so fünf Personen mit Kenntnis der Angelegenheit. Aber sie scheiterten und gingen. Wie die DeepMind-Gründer vor ihnen befürchteten sie, dass ihre neuen Firmenchefs kommerzielle Interessen über die Sicherheit stellen würden.

Im Jahr 2021 gründeten etwa 15 Ingenieure und Wissenschaftler ein neues Labor namens Anthropic. Ihr Plan besteht darin, künstliche Intelligenz so aufzubauen, wie effektive Altruisten es sich vorstellen – mit sehr strengen Kontrollen.

„Die Mitbegründer von Anthropic versuchen nicht, Sam Altman von OpenAI zu entfernen“, sagte Anthropic-Sprecherin Sally Aldous. „Die Mitbegründer selbst kamen zu dem Schluss, dass sie OpenAI verlassen wollten, um ein eigenes Unternehmen zu gründen. Sie machten dies der Führung von OpenAI klar und verhandelten innerhalb weniger Wochen ihren Ausstieg zu für beide Seiten akzeptablen Bedingungen.“

Anthropic erhielt eine Investition von 4 Milliarden US-Dollar von Amazon und zwei Jahre später weitere 2 Milliarden US-Dollar von Google.

aufdecken

Als OpenAI eine zusätzliche Investition in Höhe von 2 Milliarden US-Dollar von Microsoft sicherte, gingen Altman und ein weiterer Manager, Greg Brockman, in die Villa von Bill Gates am Ufer des Lake Washington außerhalb von Seattle. Obwohl der Microsoft-Gründer nicht mehr in das Tagesgeschäft des Unternehmens eingebunden ist, steht er weiterhin in regelmäßigem Kontakt mit den Führungskräften des Unternehmens.

Beim Abendessen sagte Gates ihnen, er sei sich nicht sicher, ob große Sprachmodelle funktionieren würden. Er sagte, er würde skeptisch bleiben, wenn die Technologie nicht in der Lage wäre, Aufgaben zu bewältigen, die kritisches Denken erfordern – wie etwa das Bestehen einer Advanced Placement-Biologieprüfung.

Fünf Monate später, am 24. August 2022, kehrten Altman und Brockman zurück und brachten eine OpenAI-Forscherin namens Chelsea Voss mit. Frau Voss war in ihrer Highschool-Zeit Gewinnerin der Internationalen Biologieolympiade. Herr Nadella und andere Microsoft-Führungskräfte waren ebenfalls anwesend.

Auf einem großen digitalen Display vor Gates‘ Wohnzimmer demonstrierte das OpenAI-Team eine Technologie namens GPT-4.

Herr Brockman ließ das System Multiple-Choice-Fragen in einer fortgeschrittenen Biologieprüfung durchgehen, und Frau Voss bewertete die Antworten. Die erste Frage betrifft polare Moleküle, das sind Gruppen von Atomen mit einer positiven Ladung an einem Ende und einer negativen Ladung am anderen Ende. Das System beantwortete die Frage richtig und erläuterte seine Auswahlmöglichkeiten. „Wir haben es nur darauf trainiert, Antworten zu geben“, sagte Brockman. „Der gesprächige Charakter entstand auf magische Weise.“ Mit anderen Worten: Es tat etwas, wofür es eigentlich nicht vorgesehen war.

Von 60 Fragen bekam GPT-4 nur eine falsche Antwort.

Mr. Gates setzte sich mit großen Augen aufrecht hin. Eine ähnliche Reaktion zeigte er 1980, als ihm Forscher die grafische Benutzeroberfläche zeigten, die zur Grundlage moderner Personalcomputer wurde. Er glaubt, dass GPT so revolutionär ist.

Bis Oktober hatte Microsoft die Technologie in seine Online-Dienste integriert, darunter auch in die Suchmaschine Bing. Zwei Monate später veröffentlichte OpenAI seinen ChatGPT-Chatbot, der mittlerweile jede Woche von 100 Millionen Menschen genutzt wird.

OpenAI hat den effektiven Altruisten von Anthropic besiegt. Die Optimisten von Page bei Google beeilten sich, ihren eigenen Chatbot, Bard, zu veröffentlichen, aber es wurde allgemein angenommen, dass er das Rennen gegen OpenAI verloren hätte. Drei Monate nach der Veröffentlichung von ChatGPT fiel die Google-Aktie um 11 %. Herr Musk war nirgends zu finden.

Aber das alles ist erst der Anfang.

# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner: aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.

Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo