„Godfather of AI“ verlässt Google, um freier über Bedenken zu sprechen

Der Pionier der künstlichen Intelligenz, Geoffrey Hinton, überraschte viele am Montag, als er bekannt gab, dass er seinen Job bei Google gekündigt hatte, wo er in den letzten zehn Jahren an KI-Projekten gearbeitet hatte.

Der gebürtige Brite Hinton, heute 75, wird wegen seiner bahnbrechenden Arbeit, die vielen der heutigen KI-Systeme zugrunde liegt, oft als „der Pate der KI“ bezeichnet mit seinem ChatGPT- Tool und Google mit Bard arbeiten an der Entwicklung ihrer Produkte, zumal dies auf Kosten der Sicherheit gehen könnte.

Hinton ist so besorgt, dass er sogar sagte, dass ein Teil von ihm seine früheren Bemühungen im Bereich der KI bereue, berichtete die Times.

Wie der Bericht hervorhebt, sind generative KI-Tools bereits dabei, menschliche Arbeitskräfte zu ersetzen, und die Technologie kann auch zur Erstellung und Verbreitung von Fehlinformationen verwendet werden.

In der Tat ist eine von Hintons Sorgen, dass das Internet, dessen Daten verwendet werden, um generative KI-Tools zu trainieren, mit falschen Informationen überflutet wird, die Chatbots wie ChatGPT und Bard dazu bringen könnten, endlose Unwahrheiten auf eine Weise auszuspucken, die glaubwürdig klingt.

Da Unternehmen hinter der Technologie ihre KI-gestützten Tools für die öffentliche Nutzung freigeben, ohne ihr Potenzial vollständig zu kennen, befürchtet Hinton, dass es „schwer vorstellbar ist, wie man die schlechten Akteure daran hindern kann, sie für schlechte Dinge zu verwenden“.

Hinton sagte, dass die Regulierung der Technologie schwierig sein wird, da Unternehmen und Regierungen ziemlich im Geheimen an der Technologie arbeiten können, und fügte hinzu, dass eine Möglichkeit, mit dem Problem umzugehen, darin bestehe, führende Wissenschaftler dazu zu bringen, gemeinsam an Möglichkeiten zur Kontrolle der Technologie zu arbeiten.

Der KI-Experte sagte am Montag in einem Tweet, dass er beschlossen habe, Google zu verlassen, damit er „über die Gefahren der KI sprechen könne, ohne zu berücksichtigen, wie sich dies auf Google auswirkt“, und deutete an, dass wir im Laufe der Technologie noch viel mehr von ihm hören werden entwickeln.

Letzten Monat äußerte Hinton noch größere Bedenken, als er in einem CBS-Interview nach der Wahrscheinlichkeit gefragt wurde, dass die KI „die Menschheit auslöschen“ würde: „Das ist nicht undenkbar.“

Nach der Nachricht von Hintons Abgang sagte Jeff Dean, Chefwissenschaftler von Google, in einer Erklärung: „Wir bleiben einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen ständig, neue Risiken zu verstehen und gleichzeitig mutig innovativ zu sein.“

Hinton ist nicht der einzige Experte, der Bedenken hinsichtlich der neuen Welle der KI-Technologie äußert, die die Welt im Sturm erobert hat.

Vielleicht überraschend hat der Chef von OpenAI, Sam Altman, kürzlich zugegeben, dass er „ein bisschen Angst“ vor den möglichen Auswirkungen der KI-Technologie hat .

Und im März behauptete ein von Technologieführern und Akademikern unterzeichneter Brief, die Technologie stelle „tiefgreifende Risiken für die Gesellschaft und die Menschheit“ dar.

Der vom Future of Life Institute herausgegebene Brief, zu dessen Unterzeichnern Elon Musk gehörte, forderte eine sechsmonatige Pause der Entwicklungsarbeit, um Zeit für die Erstellung und Implementierung von Sicherheitsprotokollen für die fortschrittlichen Tools zu haben.

Es fügte hinzu, dass die Menschheit bei richtiger Handhabung „eine blühende Zukunft mit KI genießen kann“.