Sam Altmans neuestes Interview: Exposure kehrt zur Insider-Story zurück und reagiert zum ersten Mal auf das Q*-Modell
Heute vor einem Jahr veröffentlichte OpenAI ChatGPT und löste damit die kambrische Explosion künstlicher Intelligenz aus.
Das Gefühl der Beschleunigung der technologischen Entwicklung wird immer stärker, und das „Zeugen der Geschichte“ ist zu einer alltäglichen Sache geworden. Zusammen mit Aufregung, Angst, Sorge, Nachdenken … scheint jeder begierig darauf zu sein, eine neue Seite in der Geschichte aufzuschlagen.
Nach einer Reihe jüngster Turbulenzen gab OpenAI heute auch offiziell die Rückkehr von Altman bekannt, und Microsoft, der größte Investor des Unternehmens, wird ebenfalls als nicht stimmberechtigter Beobachter dem Vorstand beitreten.
Gleichzeitig akzeptierte Altman auch ein exklusives Interview mit The Verge , in dem er über einige Insiderinformationen vor der Rückkehr sowie das zuvor enthüllte Q*-Modell sprach – die KI-Technologie, die als Bedrohung für die Menschheit gilt .
Aber in diesem Interview weigerte sich Altman wiederholt, die wichtigste Frage zu beantworten: Warum um alles in der Welt wurde er gefeuert?
Als der OpenAI-Vorstand Sam Altman einen Tag nach seiner Entlassung aufforderte, zurückzukehren, war Altman zunächst widerspenstig, verletzt und wütend. Er sagte Reportern am Telefon:
Es dauerte ein paar Minuten, bis ich da rauskam, über mich selbst und meine Gefühle hinwegkam und dachte: „Ja, natürlich möchte ich das machen.“ „Natürlich liebe ich dieses Unternehmen und habe in den letzten viereinhalb Jahren voll in es investiert, aber tatsächlich hat es viel länger gedauert.“ Wir haben enorme Fortschritte bei einer Mission gemacht, die mir sehr am Herzen liegt: sichere und nützliche künstliche Intelligenz.
Das Folgende ist das vollständige Interview von The Verge mit OpenAI-CEO Sam Altman und CTO Mira Murati, leicht bearbeitet von Ai Faner:
F: Sam, ich möchte zunächst über das Offensichtliche sprechen: Wir wissen immer noch nicht, warum Sie überhaupt gefeuert wurden. Warum glauben Sie, dass Sie gefeuert wurden?
Altman: Der Vorstand wird hier eine unabhängige Prüfung durchführen. Das begrüße ich sehr. Ich habe im Moment nicht viel zu sagen, aber ich freue mich darauf, mehr zu erfahren.
F: Warum hat der Vorstand Ihrer Meinung nach gesagt, dass er das Vertrauen in Sie verloren hat?
Altman: Das ist für sie eine bessere Antwort.
F: Sie haben gerade zu X gesagt: „Es ist klar, dass es echte Missverständnisse zwischen Ihnen und den Vorstandsmitgliedern gab.“ Was waren diese Missverständnisse?
Altman: Ich bin noch nicht bereit, darüber zu sprechen. Ich denke, es ist wichtig, diesen Überprüfungsprozess stattfinden zu lassen. Ich freue mich über alles, was zukunftsweisend ist. Ich denke, es wird eine Zeit geben, in der ich gerne darüber sprechen würde, was hier passiert ist, aber jetzt ist nicht der richtige Zeitpunkt dafür.
F: Können Sie mir sagen, warum Sie jetzt nicht darüber sprechen können?
Altman: Ich möchte einfach, dass der Prozess ohne Eingreifen abläuft.
F: Sie haben Ilya Sutskever (Chefwissenschaftler von OpenAI) in Ihrem Brief an die Mitarbeiter erwähnt. Können Sie mir sagen, warum er seine Meinung geändert und beschlossen hat, sich auf die Seite der anderen zu stellen?
Mira Murati: Wir wissen es nicht. Da musst du Ilja fragen.
F: Sam, was war im Rückblick die Hauptmotivation, die dich zurückgebracht hat?
Altman: Das ist wirklich interessant. Einige Vorstandsmitglieder riefen mich am Samstagmorgen an und fragten, ob ich über dieses Thema sprechen würde. Meine erste Reaktion war ein wenig defensiv, etwa: „Oh mein Gott, ich bin verletzt, ich bin wütend, ich finde das schlimm.“
Und dann begann ich fast sofort zu denken: Natürlich liebe ich dieses Unternehmen so sehr und habe mich in den letzten viereinhalb Jahren so sehr dafür eingesetzt, aber es hat tatsächlich viel länger gedauert. Wir haben enorme Fortschritte bei einer Mission gemacht, die mir sehr am Herzen liegt: sichere und nützliche künstliche Intelligenz. Aber es sind auch die Menschen hier und alle Partner, die große Erwartungen an uns haben, und Mira und das Führungsteam und alle Menschen hier, die einen unglaublichen Job machen. Es dauerte ein paar Minuten, bis ich da rauskam, über mich selbst und meine Gefühle hinwegkam und dachte: „Ja, natürlich möchte ich das machen.“
F: Der Vorstand hat Sie also gebeten, zurückzukommen?
Altmann: Ja.
F: Waren Sie zunächst zögerlich?
Altman: Nicht mehr lange. Was mir danach widerfuhr, löste in mir viele Gefühle aus.
F: Es ist klar, dass die Mitarbeiter Sie unterstützen. Welchen Einfluss hat das Ihrer Meinung nach?
Altman: Wir gehen aus diesem Prozess definitiv als stärkeres, geeinteres, fokussierteres und engagierteres Team hervor. Ich denke, wir hatten vorher viel Glauben und Konzentration, und ich denke, jetzt haben wir sogar noch mehr. Das ist also mein Lichtblick in all dem.
Während des gesamten Prozesses haben wir keinen einzigen Mitarbeiter oder Kunden verloren. Sie haben nicht nur das Produkt trotz des unkontrollierbaren Wachstums am Laufen gehalten, sondern auch neue Funktionen eingeführt. Der Forschungsfortschritt geht weiter.
F: Möchten Sie in den Vorstand zurückkehren?
Altman: Auch wenn das wie ein PR-Pitch klingt, ist es momentan nicht mein Schwerpunkt. Ich habe eine Menge sehr schwieriger, wichtiger und dringender Aufgaben zu erledigen. Ich möchte meinen Job machen, aber es geht nicht darum, im Vorstand zu sein oder nicht. Jetzt nehme ich mir nicht die Zeit, darüber nachzudenken.
F: Was bedeutet „Verbesserung unserer Governance-Struktur“? Wird sich die Struktur der gemeinnützigen Holdinggesellschaft ändern?
Altman: Das wäre angemessener, wenn ein Vorstandsmitglied antworten würde, aber im Moment nicht. Ehrlich gesagt, sie brauchen Zeit und wir werden sie dabei unterstützen, darüber nachzudenken. Offensichtlich stimmt etwas mit unserer Governance-Struktur nicht. Es wird eine Weile dauern, den besten Weg zur Lösung dieses Problems zu finden. Ich verstehe vollkommen, warum die Leute gerade jetzt eine Antwort wollen. Aber ich halte es auch für völlig unvernünftig, sofortige Antworten zu erwarten.
F: Warum halten Sie das für unvernünftig? Ich denke, die Leute sehen eine große Unklarheit darüber, was vor sich geht. Scheint eine Meinungsverschiedenheit zu sein, kein unangemessenes Verhalten oder ähnliches.
Altman: Oh, nur weil die Gestaltung einer wirklich guten Governance-Struktur, insbesondere für eine so einflussreiche Technologie, keine Frage der Woche ist. Es wird Zeit in Anspruch nehmen, nachzudenken, zu debattieren, Außenperspektiven einzuholen und Stresstests durchzuführen. Das dauert eine Weile.
F: Werden die Ereignisse, die gerade passiert sind, den Sicherheitsansatz von OpenAI ändern?
Murati: Nein. Das hat nichts mit Sicherheit zu tun.
F: Worum geht es in dem Bericht über Ihren jüngsten Durchbruch beim Q*-Modell?
Altman: Ich habe keinen besonderen Kommentar zu diesem unglücklichen Leak. Aber eigentlich haben wir schon früher betont, genau wie wir es vor zwei Wochen gesagt haben, was wir vor einem Jahr gesagt haben und was wir noch früher gesagt haben: Wir gehen davon aus, dass der Fortschritt dieser Technologie weiterhin rasant sein wird, und das erwarten wir auch Arbeiten Sie weiterhin hart daran, es besser zu machen. Erfahren Sie, wie Sie es sicher und nützlich machen können. Deshalb sind wir jeden Tag aufgestanden. Deshalb werden wir in Zukunft jeden Tag aufstehen. Ich denke, wir waren dabei sehr konsequent.
Ohne eine konkrete Sache oder ein bestimmtes Projekt zu kommentieren, glauben wir, dass Fortschritt Forschung ist. Es besteht immer die Möglichkeit, dass Sie auf Hindernisse stoßen, aber wir gehen davon aus, dass die Fortschritte weiterhin erheblich sein werden. Wir wollen mit der Welt in Kontakt treten und herausfinden, wie wir diese Technologie so gut wie möglich machen können.
F: Letzte Frage. Ich bin mir sicher, dass Sie immer noch über all das nachdenken. Ich weiß, das ist alles neu. Was haben Sie aus diesem ganzen Vorfall gelernt?
Ich glaube, ich habe noch keine prägnante und aussagekräftige Antwort. Offensichtlich habe ich viel gelernt, aber ich versuche immer noch, alles zu verstehen. Ich meine, es gibt definitiv viel zu sagen, aber ich glaube, ich bin noch nicht bereit … Ich kann im Moment nur eine lange und weitschweifige Antwort geben.
Altman: Nun, darüber reden wir später.
Nachdem er aufgelegt hatte, rief Altman ein paar Minuten später zurück:
Ich habe gelernt, dass das Unternehmen auch ohne mich funktionieren könnte, was wirklich gut war. Ich bin froh, zurück zu sein, verstehen Sie mich nicht falsch. Aber ich kam ohne den Druck zurück: „Oh, ich muss das tun, sonst braucht die Firma mich oder was auch immer.“
Ich dachte, ich fühle mich gut, weil ich entweder großartige Führungskräfte ausgewählt oder sie gut trainiert habe. Es fühlt sich gut an, dass es dem Unternehmen ohne mich gut geht und dass das Team bereit ist und sich verbessert.
# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner: aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.
Ai Faner | Ursprünglicher Link · Kommentare anzeigen · Sina Weibo