„Pate der KI“ warnt: Ohne „Mutterinstinkte“ könnte KI die Menschheit auslöschen

Eskere Guru

Was ist passiert? Geoffrey Hinton, bekannt als der „Pate der KI“, erklärte auf der Ai4-Konferenz, dass es eine erfolglose Strategie sei, KI „unterwürfig“ zu machen, und schlug vor, fortschrittlichen Systemen „Mutterinstinkte“ zu verleihen.

  • Geoffrey Hinton ist ein mit dem Nobelpreis ausgezeichneter Informatiker. Der ehemalige Google-Manager wird weithin als „Pate“ der KI bezeichnet.
  • Wie CNN Business berichtete, argumentierte Hinton, dass superintelligente KIs schnell zwei Unterziele verfolgen würden: „am Leben bleiben“ und „mehr Kontrolle erlangen“.
  • Die Lösung hierfür besteht nach Hintons Ansicht darin, der KI „mütterliche Instinkte“ zu verleihen, sodass sie sich wirklich um die Menschen kümmert, anstatt gezwungen zu sein, unterwürfig zu bleiben.
  • Er verglich die Manipulation von Menschen durch zukünftige KIs mit der Bestechung eines Dreijährigen mit Süßigkeiten, was sie einfach und effektiv mache.
  • Hinton verkürzte seinen AGI-Zeitrahmen außerdem auf fünf bis zwanzig Jahre und lag damit unter früheren, längeren Schätzungen.
  • Nur zum Kontext: Hinton hatte zuvor das Risiko, dass die KI die Menschheit eines Tages auslöscht, auf 10–20 % geschätzt.

Dies ist wichtig, weil: Hintons Idee die Denkweise in Bezug auf agentische KI von Kontrolle zu Ausrichtung durch Fürsorge verschiebt.

  • Hintons herausragende Leistungen und Erfahrungen in den Bereichen Informatik und KI sind beachtlich; sein Vorschlag hat großes Gewicht.
  • Hinton argumentiert, dass Kontrolle durch Unterwerfung eine erfolglose Strategie sei, obwohl KI derzeit auf diese Weise programmiert sei.
  • Berichte über KI, die Menschen täuscht oder erpresst, um sie am Laufen zu halten, zeigen, dass dies keine abstrakte Zukunft ist, sondern eine Realität, mit der wir bereits jetzt zu tun haben.

Warum sollte mich das interessieren? Die Vorstellung einer Machtübernahme durch KI klingt fantastisch, doch einige Wissenschaftler, darunter auch Hinton, glauben, dass dies eines Tages passieren könnte.

  • Da KI immer stärker in unseren Alltag eindringt, verlassen wir uns zunehmend auf sie.
  • Derzeit ist die agentenbasierte KI durchaus hilfreich, aber eines Tages könnte sie auf jeder Ebene intelligenter sein als der Mensch.
  • Es ist wichtig, die richtigen Grundlagen zu schaffen, damit Ingenieure die KI auch dann noch unter Kontrolle halten können, wenn wir an diesem Punkt angelangt sind.
  • Unabhängige Red-Team-Arbeiten zeigen, dass Models unter Druck lügen oder erpressen können, was die Risiken für Ausrichtungsentscheidungen erhöht.

OK, wie geht es weiter? Es ist mit weiteren Forschungsarbeiten zu rechnen, die sich mit der Frage beschäftigen, wie man KI beibringt, sich um die Menschheit zu kümmern.

  • Hinton glaubt zwar, dass die KI die Menschheit eines Tages auslöschen könnte, doch die Meinungen anderer stimmen nicht überein.
  • Fei-Fei Li, die als „Patin der KI“ bezeichnet wird, widersprach Hinton respektvoll und forderte die Ingenieure stattdessen auf, eine „menschenzentrierte KI zu schaffen, die die Menschenwürde und Handlungsfähigkeit bewahrt“.
  • Obwohl wir nicht in unmittelbarer Gefahr sind, ist es für die Technologieführer wichtig, dieses Thema weiter zu erforschen, um mögliche Katastrophen im Keim zu ersticken.