Exklusiv: Der Vater des Quantencomputings glaubt, dass AGI eine Person sein wird, kein Programm 

„Es gibt eine Art von Programm, das wir nicht einmal im Prinzip verstehen: AGIs. Eines Tages werden wir es verstehen, aber im Moment sehe ich keine Anzeichen dafür, und das ist ziemlich frustrierend.“

Dies ist die Ansicht von David Deutsch, der als „Vater des Quantencomputings“ gilt und Physik, Philosophie und Humor auf brillante Weise miteinander verbinden kann, in einem Video, das exklusiv für Digital Trends veröffentlicht wurde.

Heute ist Deutsch nicht nur in der Quantentheorie, sondern auch in Debatten über künstliche Intelligenz eine einflussreiche Stimme.

In Sanas Podcast-Reihe „Strange Loop“ – gemeinsam moderiert von Joel Hellermark , CEO des schwedischen KI-Scale-ups Sana , und Gustav Söderström , Co-Präsident von Spotify – spricht Deutsch ausführlich und faszinierend darüber, wie sich AGI auf eine Art und Weise manifestieren könnte, die wir nicht erwarten – und geht sogar so weit, vorherzusagen, was passieren wird, wenn die Menschheit in einer Million Jahren noch überlebt.

Während Unternehmen wie Google und OpenAI regelmäßig über ihre Fortschritte in Richtung Artificial General Intelligence (AGI) sprechen – dem Moment, in dem KI wirklich lernen und wie ein Mensch reagieren kann – mit Produkten wie ChatGPT und Gemini , fragen sich viele Leute regelmäßig, ob AGI bereits erreicht wurde.

Auf die Frage, was ein Zeichen dafür sein könnte, dass „echte“ AGI erreicht wurde, entgegnet Deutsch, dass wir nicht einmal wissen, wonach wir suchen:

[Das Zeichen wird sein], wenn jemand eine Theorie hat. Das Zeichen wäre nicht die Maschine; das Zeichen wäre eine Theorie, für die jemand ein Buch schreibt oder einen Artikel veröffentlicht, in dem steht: „Ich habe es gelöst. Das ist es, was eine GI (allgemeine Intelligenz) kennzeichnet.“

„Wenn wir ein Computerprogramm schreiben könnten, das diese Eigenschaft besitzt, wäre es eine AGI, und dies wäre der Grund – eine erklärende Theorie dessen, was allgemeine Intelligenz ist.“

Bedeutsam ist, in welchem ​​Ausmaß Deutsch die gängige Meinung darüber in Frage stellt, wo künstliche Intelligenz steht und wohin sie sich entwickelt.

Er ist von der aktuellen Leistungsfähigkeit der KI-Engines nicht beeindruckt, hat aber dennoch Hoffnung auf ihre weitere Entwicklung.

In vielen Gesprächen über künstliche Intelligenz wird AGI oft als logische Erweiterung von KI angesehen.

Deutsch charakterisiert aktuelle KI-Plattformen als „gehorsame Optimierer“, während echte AGI in der Lage wäre, Erklärungen abzugeben, Vorhersagen zu treffen und Schlussfolgerungen zu ziehen, die die menschlichen Bediener nicht vorhergesehen haben.

Während die Welt darüber grübelt, ob LLMs sich einer menschenähnlichen Intelligenz nähern, liefert David Deutsch einen kühnen Gegenargument: AGI wird kein Werkzeug sein, das man einsetzen kann. Es wird eine Person sein, mit der man rechnen muss.

Deutsch ist der Ansicht, dass die aktuellen LLMs nicht der richtige Weg sind. Sie bieten zwar Korrelationen, aber keine Erklärungen. Er ist der Ansicht, dass dies das wahre Maß menschlicher Intelligenz sei und das fehlende Element der aktuellen Versuche zur AGI.

Er trennt sehr scharf zwischen Mustererkennung und kreativem Denken. Dies ist eine unglaublich wichtige Unterscheidung.

Es liegt in der Natur des Menschen, zu erwarten, dass sich bestehende Muster bis in alle Ewigkeit fortsetzen. Da LLMs derzeit letztlich auf aggregiertem menschlichem Wissen basieren, ist diese Voreingenommenheit bereits fest verankert.

Der berühmte Turing-Test – bei dem ein menschlicher Prüfer aufgefordert wird, per Text mit einer anderen Entität zu interagieren und festzustellen, ob es sich bei dem Befragten um einen Menschen oder eine Maschine handelt – ist eine häufig verwendete Methode, um die Fähigkeit der KI zu „testen“, ihren Fortschritt zu messen.

Während einige den Test „bestanden“ haben, weist Deutsch darauf hin, dass es für Maschinen recht einfach sei, menschliche Sprache und Denkweise nachzuahmen, ohne wirklich zu denken. Ergebnisse allein, so Deutsch, seien kein Beweis für Intelligenz.

Deutschs provokanteste Behauptung besteht darin, dass die Maschinen zu Menschen geworden sein werden, wenn echte AGI erreicht ist:

„Jede AGI ist eine Person. Wenn wir sie als Person erkennen, was sie sein wird, dann ist das Allererste, was sie besitzt, der Computer, auf dem sie läuft.

„Es wird keinen Klon von sich selbst erstellen wollen, weil es Eigentum besitzen wird – es sei denn, es wird als Sklave betrachtet, was ein katastrophaler Fehler der Gesellschaft wäre.“

Er geht sogar so weit zu sagen, dass wir AGI nicht länger als „Eigentum“ betrachten könnten, und deutet an, dass die Menschen das Programm nutzen müssten – und ihm somit Arbeitnehmerrechte und Ähnliches zuschreiben müssten –, damit es Dinge wie den Kauf von Erweiterungen für seine Hardware zur Erweiterung seiner Fähigkeiten tun könnte.

Risiko ohne Untergang

Deutsch schließt Risiken nicht aus – er rechnet mit vielen Fehlern auf dem Weg zu leistungsfähigeren Systemen. Er wehrt sich jedoch gegen die Erzählung einer „KI-Apokalypse“.

Er glaubt, dass die Menschheit, wenn sie sich in den nächsten Millionen Jahren weiterentwickelt, die Galaxie erobert haben wird, allerdings wird dies eher von künstlicher Intelligenz durchdrungen als von ihr verzehrt werden.

Wie alle Technologien erfordert auch die KI sorgfältige Überwachung, Kritik und Fehlerkorrektur. Die Gefahr besteht nicht darin, dass Maschinen plötzlich rebellieren, sondern dass wir den ältesten Fehler der Menschheit wiederholen: Wesen mit Denk- und Handlungsfreiheit Rechte zu verweigern.

Wenn er Recht hat, wird die erste echte AGI nicht nur die Technologie verändern – sie wird uns zwingen, Moral, Recht und die Bedeutung von Intelligenz selbst neu zu definieren.