Die große Wette von Nvidias Jen-Hsun Huang: Am Rande des Bankrotts stehen, um einen Billionen-Dollar-KI-„Waffenhändler“ aufzubauen
Der Umsatz verdreifachte sich auf 18,1 Milliarden US-Dollar und der Gewinn stieg von 680 Millionen US-Dollar im Vorjahreszeitraum auf 9,2 Milliarden US-Dollar.
Unter der Welle der KI hat Nvidia im letzten Quartal die Erwartungen übertroffen, die Krone von TSMC übernommen und ist mit seiner „explosiven“ Leistung zum „König der Chips“ aufgestiegen .
Im Bereich der künstlichen Intelligenz herrscht Krieg, und Nvidia ist der einzige Waffenhändler.
Ein Wall-Street-Analyst äußerte sich einmal dazu.
Die „KI-Dividende“, die Nvidia heute genießt, ist auf Huang Renxuns „großes Wagnis“ vor mehr als zehn Jahren zurückzuführen. Durch einen aktuellen ausführlichen Bericht im New Yorker können wir mehr Details hinter diesem entscheidenden „Glücksspiel“ erkennen.
Der Erfolg ist nie garantiert und der Bankrott steht immer am Rande.
Der „Urknall“-Moment, der die künstliche Intelligenz entfachte
Es war die erste Spielekonsole mit 8K-Auflösung und sie nahm die ganze Wand ein. Es war so schön.
Im Jahr 2000 baute der Stanford-Student Ian Buck seine eigene hochauflösende Spielekonsole, indem er 32 Nvidia GeForce-Grafikkarten miteinander verband und 8 Projektoren hinzufügte, um „Quake“ zu spielen.
Der Erfolg von NVIDIA GeForce war zunächst auf das Spiel „Quake“ zurückzuführen. Im „Deathmatch“-Modus des Spiels verschafft die parallele Berechnung der GPU den Spielern einen Geschwindigkeitsvorteil, sodass die Spieler jedes Mal mithalten können, wenn GeForce ein neues Produkt herausbringt.
Buck war auch neugierig, was GeForce tun konnte, außer sich selbst schneller Granaten werfen zu lassen.
Später hackte sich Buck erfolgreich in das ursprüngliche Programmiertool „Shader“ der Grafikkarte ein und nutzte dessen Parallelverarbeitung, um GeForce in einen kostengünstigen Supercomputer zu verwandeln.
Es dauerte nicht lange, bis Buck ein NVIDIA-Mitarbeiter wurde.
▲Ian Buck ist jetzt Vizepräsident von Nvidia
Huang Renxun wollte, dass Buck eine Software entwickelt, die jede GeForce in einen Supercomputer verwandelt. Gleichzeitig darf das Hardware-Team auch entsprechende Modifikationen in der Chipstruktur vornehmen.
Im Jahr 2006 wurde Bucks CUDA für NVIDIA offiziell eingeführt und ermöglichte Forschern und Programmierern die Verwendung von Programmiersprachen, um die Rechenleistung von GPUs persönlicher und effizienter zu nutzen.
Allerdings haben die Verbraucher wenig Interesse an dem Supercomputer, den Huang Renxun bekannt machen will. „Acquired“, ein beliebter Technologie-Podcast im Silicon Valley, kommentierte:
Sie haben riesige Summen für diese neue Chip-Architektur ausgegeben.
Sie gaben Milliarden von Dollar aus, um einen Nischenbereich des akademischen und wissenschaftlichen Rechnens zu bedienen, der damals ein kleiner Markt war – sicherlich kleiner als die Milliarden, die sie investierten.
Zu dieser Zeit warf NVIDIA auch ein weites Netz aus und versuchte, Zielkunden zu finden. Ich habe es bei Aktienhändlern, Ölexplorationsunternehmen, Molekularbiologen usw. versucht, aber den Bereich der künstlichen Intelligenz habe ich nicht in Betracht gezogen.
Es fühlte sich nicht einmal so an, als ob der „KI-Pate“ die Initiative ergriffen hätte, „an Ihre Tür zu kommen“.
Kein Wunder.
▲„KI-Pate“ Geoffrey Hinton
Heute würden wir Geoffrey Hinton den „Godfather of AI“ nennen.
Im Jahr 2009 war Hinton jedoch auf dem Gebiet der KI tätig, das vom Kapital nicht gemocht wurde, und seine Forschung auf diesem Gebiet galt immer noch als Nischen-„Neuronales Netzwerk“.
Hinton schrieb in diesem Jahr diese E-Mail an Nvidia:
Ich habe gerade Tausenden von Forschern im Bereich maschinelles Lernen gesagt, dass sie alle NVIDIA-Grafikkarten kaufen sollten. Können Sie mir eines kostenlos zusenden?
Ergebnis? Natürlich wurde es abgelehnt.
Zuvor hatte Hinton versucht, mithilfe der NVIDIA CUDA-Plattform ein neuronales Netzwerk auf die Erkennung menschlicher Sprache zu trainieren. Er stellte fest, dass die Qualität der Ergebnisse viel besser war als erwartet, und beschloss, sie auf einer Branchenkonferenz vorzustellen.
Obwohl Nvidia sich weigerte, Hinton eine Grafikkarte zu schicken, ermutigte Hinton die Schüler dennoch, diese zu verwenden.
Am kritischsten unter ihnen sind seine beiden herausragenden Programmierer Alex Krizhevsky und Ilya Sutskever.
▲(von links nach rechts) Ilya Sutskever, Alex Krizhevsky und Geoffrey Hinton
Aufmerksame Leser hätten entdecken müssen, dass Letzterer der Chefwissenschaftler von OpenAI ist, die Person, die die Technologie hinter ChatGPT leitet.
2012 kauften Sutskever und Krizhevsky zwei NVIDIA GeForce-Grafikkarten, speisten innerhalb einer Woche Millionen von Bilddaten in das neuronale Netzwerk und trainierten „AlexNet“. Sutskever erinnerte sich danach:
Die GPU kam und es fühlte sich wie ein Wunder an.
Sein Seufzer war nicht ohne Grund.
Ebenfalls im selben Jahr kaufte Google mehr als 16.000 CPUs, um sein neuronales Netzwerk so zu trainieren, dass es Katzenvideos erkennen kann.
Allerdings kann AlexNet Bilder von Elektrofahrzeugen, Geparden, Frachtschiffen usw. mit nur zwei GPUs korrekt identifizieren.
Im Jahr 2012 gewann AlexNet bei der ImageNet Large Scale Visual Recognition Challenge, die in diesem Jahr noch recht maßgeblich war, die Meisterschaft mit einem Top-5-Fehler von 15,3 %, was weitaus besser war als der Zweitplatzierte und die vorherigen Teilnehmer. Er war so herausragend dass er einmal des Betrugs verdächtigt wurde. Hinton kommentierte:
Es war eine Art Urknall-Moment. Ein Paradigmenwechsel.
Obwohl es keine Absicht war, löste NVIDIA den „Big Bang“-Moment der künstlichen Intelligenz aus.
Werden Sie ein KI-Unternehmen
(Huang Renxun) Er schickte am Freitagabend eine E-Mail, in der er sagte, dass sich im Unternehmen alles um Deep Learning drehen werde und dass wir kein Imaging-Unternehmen mehr seien.
Früh am nächsten Montagmorgen wurden wir zu einem KI-Unternehmen.
Wirklich, es geht so schnell.
Nvidia-Vizepräsident Greg Estes sagte gegenüber The New Yorker.
Nach dem Debüt von AlexNet entschieden sich innerhalb weniger Jahre fast alle Teilnehmer an groß angelegten visuellen Erkennungsherausforderungen für die Form neuronaler Netze.
Mitte der 2010er Jahre erreichte die Genauigkeit der Bilderkennung von mit GPUs trainierten neuronalen Netzen 96 % und übertraf damit sogar die Genauigkeit von Menschen.
Huang Renxuns Supercomputer-Vision wurde wahr und er begann, nach seinem nächsten Ziel zu suchen:
Die Tatsache, dass wir ein Computer-Vision-Problem lösen können, ein völlig unstrukturiertes Problem, weist auf die Frage hin: „Was kann man ihm sonst noch beibringen?“
Huang Renxuns innere Antwort scheint zu sein – alles.
Er glaubt, dass neuronale Netze die Gesellschaft verändern werden, und er kann CUDA auch nutzen, um den Markt für die dahinter benötigte Hardware zu monopolisieren.
Er wagte den Schritt und begann Nvidias KI-Reise.
Dieses Mal müssen Führungskräfte der KI-Branche keine E-Mails mehr an Nvidia schreiben, um kostenlose Grafikkarten zu beantragen.
Im August 2016 übergab Huang Renxun persönlich den weltweit ersten DGX-1 an das Büro von OpenAI.
Musk, der zu diesem Zeitpunkt noch nicht mit OpenAI gebrochen hatte, packte das Produkt persönlich aus, für dessen Entwicklung 3.000 Menschen drei Jahre brauchten.
In der offiziellen Pressemitteilung sagte Huang scherzhaft:
Wenn dies das einzige ausgelieferte Produkt wäre, würde das Projekt 2 Milliarden US-Dollar kosten.
Wer hätte gedacht, dass Google im nächsten Jahr eine neue Trainingsarchitektur für neuronale Netze ankündigen würde: Transformer.
Dieser neue Durchbruch wurde von Sutskever erfasst und veranlasste OpenAI, das erste GPT-Modell zu entwickeln, das vollständig auf NVIDIA-Supercomputern basierte.
Heute vor einem Jahr hat OpenAI ChatGPT offiziell der Öffentlichkeit zugänglich gemacht und damit alles verändert, auch Nvidia.
Es gibt endlose Bestellungen und das Angebot übersteigt die Nachfrage.
Im Jahr 2023 stieg der Aktienkurs von Nvidia um mehr als 200 % und wurde zum weltweit ersten Chiphersteller mit einem Marktwert von über einer Billion US-Dollar.
CUDA, das einst nicht optimistisch war, hat ebenfalls 4 Millionen Entwickler versammelt und ist zu einem weiteren „Burggraben“ für NVIDIA im KI-Bereich geworden.
Ob es sich um Forschung in den Bereichen Luft- und Raumfahrt, Biowissenschaften, Maschinenbau, Energieforschung und anderen Bereichen handelt, die meisten davon werden auf CUDA durchgeführt.
NVIDIAs neuestes KI-Produkt, der DGX H100, ist eine Metallbox mit einem Gewicht von 370 Pfund und einem Preis von 500.000 US-Dollar.
Verglichen mit dem DGX-1, der damals an das OpenAI-Büro geschickt wurde, läuft das neue Produkt fünfmal schneller.
Wenn Sie AlexNet trainieren möchten, können Sie dies in einer Minute tun.
Der Gewinner, der immer „am Rande des Bankrotts“ steht
Im September dieses Jahres wurde Huang erneut in das Restaurant Denny's in San Jose, Kalifornien, eingeladen.
Damals entwarf er mit seinen Partnern am Stand dieses Restaurants Dokumente und gründete Nvidia.
Sie wollten einen Chip entwickeln, der die Konkurrenz „grün vor Neid“ machen würde. Jen-Hsun Huang erfand den Namen „Nvidia“, indem er das lateinische Wort „invidia“ einbezog.
Mittlerweile ist Nvidia durchaus neidisch auf seine Konkurrenten: Sogar der CEO der Restaurantkette Denny's hat eigens eine Gedenktafel für sie angefertigt, damit das Licht von Nvidia im Restaurant erstrahlen kann.
Der Erfolg von Nvidia ist jedoch keine besonders typische „Gewinner“-Geschichte.
Als NVIDIA gegründet wurde, glaubte Huang Jen-Hsun, der Videospiele liebte, dass der Gaming-Markt bessere Grafikkarten verdiente, und brachte 1995 sein erstes Produkt, NV1, auf den Markt.
Allerdings wurde NV1 vom Mainstream-Markt nicht wirklich akzeptiert. Einer der Gründe dafür ist, dass Microsoft im selben Jahr die D3D-API auf den Markt brachte, NV1 D3D jedoch nicht unterstützt. Auch das Produkt der nächsten Generation, NV2, scheiterte.
Huang Renxun, der einmal seine „Wette“ verlor, war nicht überzeugt. 1996 entließ er die Hälfte seiner Mitarbeiter, kürzte die Mittel und setzte alles auf ungetestete neue Produkte:
Die Chancen stehen 50/50, aber wir stehen so oder so bereits am Rande des Bankrotts.
Als der RIVA 128 offiziell auf den Markt kam, hatte NVIDIA nur noch genug Geld übrig, um die Ausgaben eines Monats zu decken. Glücklicherweise war RIVA 128 ein Erfolg: Innerhalb von vier Monaten wurden Millionen Exemplare verkauft.
Seitdem ermutigt Huang seine Mitarbeiter, mit dieser „Verzweiflung“ zu arbeiten.
Für Jen-Hsun Huang sind Schwierigkeiten und Misserfolge keine Unbekannten:
Ich finde, dass ich am klarsten denke, wenn ich in einer schwierigen Situation bin.
Meine Herzfrequenz würde sogar sinken.
Er bestand sogar darauf, dass „Misserfolge geteilt werden müssen“.
Zuvor hatte Nvidia eine problematische Grafikkarte mit einem sehr lauten Lüfter verschickt.
Huang Renxun entließ den für dieses Produkt verantwortlichen Manager nicht. Stattdessen hielt er ein Treffen ab, versammelte Hunderte von Menschen und bat den Manager, jede Entscheidung zu beschreiben, die letztendlich zu dieser Farce führte.
Das Anzeigen von „Fehlern“ ist bei NVIDIA zu einer „Gewohnheit“ geworden.
Daran lässt sich auch schnell erkennen, wer hier bleiben kann und wer nicht.
Wenn jemand anfängt, sich zu verteidigen, weiß ich, dass er nicht lange da sein wird.
sagte Dwight Diercks, Leiter Software bei Nvidia.
Huang ermutigt seine Mitarbeiter auch gerne, „Null-Milliarden-Dollar-Märkte“ zu erschließen – experimentelle Bereiche, in denen es keine Konkurrenten und keine klaren Kunden gibt.
Schließlich sagte Huang Renxun:
Ich dachte immer, wir wären nur noch 30 Tage vom Bankrott entfernt. Das hat sich nie geändert.
Es gibt keinen Grund, es nicht auszuprobieren.
# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner: aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.
Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo