Der CEO von OpenAI verrät, was ihn an KI schlaflose Nächte bereitet

Der Mann, der eines der bekanntesten und mächtigsten KI-Unternehmen der Welt leitet, hat gerade enthüllt, was ihn an KI schlaflose Nächte bereitet. Und nachdem Sie diesen Artikel gelesen haben, könnte er auch Sie wach halten.

OpenAI-CEO Sam Altman teilte seine Gedanken während eines Bühnenauftritts bei einer Veranstaltung der Federal Reserve in Washington, DC, am Dienstag.

Auf die Frage eines Zuschauers, was ihn an KI schlaflose Nächte bereitet, nannte Altman drei Szenarien, die ihm am meisten Sorgen bereiten. Schnall dich an …

Szenario 1 – „Der Bösewicht bekommt zuerst Superintelligenz“

Das ist genau das, was es verspricht. Es klingt wie aus einem Science-Fiction-Thriller: Hier setzt ein wirklich unangenehmer Mensch ein hochmodernes und noch zu erfindendes KI-System namens Superintelligenz ein, um Ihnen den Tag so richtig zu vermiesen.

„Ein Bösewicht erlangt zuerst eine Superintelligenz und nutzt sie, bevor der Rest der Welt über eine ausreichend starke Version zur Verteidigung verfügt“, erklärte Altman dem Publikum. „Ein Gegner der USA sagt also: ‚Ich werde die Superintelligenz nutzen, um eine Biowaffe zu entwickeln, das Stromnetz der USA lahmzulegen, in das Finanzsystem einzudringen und allen ihr Geld wegzunehmen.‘“

Altman fügte hinzu, dass die Bio- und Cybersicherheitsfähigkeiten der KI „ziemlich bedeutend“ würden. Sein Team sei „immer wieder davor gewarnt“. „Ich glaube, die Welt nimmt uns nicht ernst. Ich weiß nicht, was wir da noch tun können, aber das ist eine ganz große Sache, die da kommt.“

Szenario 2 – Die Vorfälle des „Kontrollverlusts“

Altman sagte, er mache sich Sorgen vor einer Zeit, „in der die KI sagt: ‚Oh, ich will eigentlich nicht, dass du mich abschaltest, [oder] ich fürchte, das kann ich nicht.‘“ Mit anderen Worten: Wenn eine fortgeschrittene KI anfängt, eigensinnig zu werden und zu tun, was sie will, sei es zum Selbstschutz oder für andere bösartige Ziele. Das Ausmaß der Störungen, die dies verursachen könnte, ist unvorstellbar. „Da die Systeme so leistungsfähig werden, ist das ein echtes Problem“, sagte der CEO von OpenAI. OpenAI hat vor einigen Jahren sogar eine Einheit gegründet, die Sicherheitsvorkehrungen treffen soll, um zu verhindern, dass superintelligente KI-Systeme außer Kontrolle geraten.

Szenario 3 – „Wo die Modelle quasi aus Versehen die Weltherrschaft übernehmen“

Ja, das hat Altman tatsächlich gesagt und hinzugefügt, dass er befürchte, dass dies fast ohne unser Wissen geschehen könnte.

Der Open-AI-Chef sagte, es sei „ziemlich beängstigend“, dass KI-Systeme „so tief in der Gesellschaft verwurzelt sein könnten, dass wir nicht wirklich verstehen, was sie tun, aber wir sind irgendwie auf sie angewiesen. Und selbst ohne den geringsten Anflug von Böswilligkeit kann die Gesellschaft in eine seltsame Richtung abdriften.“

Er meinte sogar, dass die KI eines Tages so intelligent werden könnte, dass ein künftiger US-Präsident ihr die Führung des Landes überlassen könnte. Er sagte: „Das würde bedeuten, dass die Gesellschaft einen wesentlichen Teil der Entscheidungsfindung kollektiv diesem sehr mächtigen System überlassen hat, das von uns lernt, sich mit uns verbessert und sich mit uns weiterentwickelt, allerdings auf eine Art und Weise, die wir nicht ganz verstehen.“

In einem allgemeineren Gespräch über KI sagte Altman, dass zwar viele Experten behaupteten, die künftigen Auswirkungen der Technologie vorhersagen zu können, er jedoch der Ansicht sei, dass es „sehr schwer sei, Vorhersagen zu treffen“, da es sich „um ein zu komplexes System und eine zu neue und einflussreiche Technologie“ handele.

Natürlich gibt es keine Garantie dafür, dass eines dieser Szenarien eintritt, und es ist gut, dass jemand in Altmans Position so ehrlich über die Technologie spricht. Klar ist aber, dass es bei KI viele unbekannte Unbekannte gibt, und genau das macht manche Leute ziemlich nervös. Schlaf gut.