Elon Musk sagt, dass der Welt die Daten für das KI-Training ausgehen

Elon Musk, CEO von Tesla/X, scheint zu glauben, dass das Training von KI-Modellen ausschließlich mit von Menschen erstellten Daten unmöglich wird. Musk behauptet, dass es einen wachsenden Mangel an realen Daten gebe, mit denen KI-Modelle trainiert werden könnten, darunter auch sein Grok- KI-Chatbot.

„Wir haben jetzt im Grunde die Gesamtheit des menschlichen Wissens ausgeschöpft … im KI-Training“, sagte Musk während eines X-Livestream-Interviews, das vom Stagwell-Vorsitzenden Mark Penn geführt wurde. „Das ist im Grunde letztes Jahr passiert.“

Musks Kommentare spiegeln die des ehemaligen OpenAI-Forschers Ilya Sutskever wider, der im vergangenen Dezember vorhersagte , dass die KI-Branche „Höchstdaten“ erreicht habe. Musks Lösung für dieses Problem – synthetische Daten – spiegelt auch die größere Branche wider. Google, OpenAI, Anthropic und Meta nutzen bereits synthetische Daten, um ihre Modelle zu trainieren.

„Die einzige Möglichkeit, [reale Daten] zu ergänzen, sind synthetische Daten, bei denen die KI [Trainingsdaten] erstellt“, sagte Musk. „Mit synthetischen Daten … wird sich [KI] gewissermaßen selbst bewerten und diesen Prozess des Selbstlernens durchlaufen.“

Während die Verwendung synthetischer Daten Unternehmen erhebliche Kosteneinsparungen bringen kann, deuten einige Studien darauf hin, dass eine übermäßige Abhängigkeit von synthetischen Daten zum Zusammenbruch des Modells führen kann, wobei die Antworten der KI mit der Zeit weniger kreativ und voreingenommener werden, da sie wiederholt auf rekursiv generierte Daten trainiert werden Daten.

Der Mangel an von Menschen stammenden Daten hat X nicht davon abgehalten , seine Grok AI-Funktion am Donnerstag in seine eigene iOS-App auszugliedern . Der Chatbot und der Bildergenerator, die sich dadurch auszeichnen, dass sie keinerlei geistiges Eigentum oder inhaltliche Schutzmaßnahmen aufweisen , waren früher nur für Leute verfügbar , die 8 US-Dollar pro Monat für ein X-Premium-Konto ausgeben. Der Download der neuen App ist jedoch für jedermann kostenlos.