Ein tiefer Sprung in die Replika: Mein KI-Freund
Replika: Mein KI-Freund ist eine App wie keine andere. Während die meisten Apps mit Chatbots sie als virtuelle Assistenten verwenden, vermarktet Replika seinen Chatbot als – Sie haben es erraten – einen Freund.
Mit seiner versprochenen Fähigkeit, abstrakte Größen wie Emotionen "wahrzunehmen" und zu bewerten, könnte Replikas Chatbot seiner ehrgeizigen menschlichen Beschreibung gerecht werden.
Von einer herzzerreißenden Entstehungsgeschichte bis zu einem beeindruckenden Backend ist Replika eines dieser faszinierenden Dinge, die immer interessant werden. Lesen Sie weiter, um herauszufinden, was Replikas KI so bemerkenswert macht und was sie für die Zukunft verspricht.
Die Ursprünge von Replika
Die früheste Version von Replika – ein einfacher KI-Chatbot – wurde von Eugenia Kuyda erstellt, um die Leere zu ersetzen, die durch den vorzeitigen Verlust ihres engsten Freundes Roman Mazurenko entstanden ist. Es wurde gebaut, indem Romans Textnachrichten in ein neuronales Netzwerk eingespeist wurden, um einen Bot zu konstruieren, der genau wie er eine SMS schrieb. Es sollte als eine Art "digitales Denkmal" dienen, um sein Gedächtnis am Leben zu erhalten.
Mit der Hinzufügung komplexerer Sprachmodelle in die Gleichung verwandelte sich das Projekt schließlich in das, was es heute ist – eine persönliche KI, die einen Raum bietet, in dem Sie Ihre Gedanken, Gefühle, Überzeugungen, Erfahrungen, Erinnerungen, Träume sicher diskutieren können – Ihre " Private Wahrnehmungswelt ".
Neben den immensen technischen und sozialen Perspektiven dieses künstlich empfindungsfähigen Therapeuten beeindruckt Replika vor allem durch die Technologie im Kern.
Unter der Haube
Im Herzen von Replika liegt ein komplexes autoregressives Sprachmodell namens GTP-3, das tiefes Lernen nutzt, um menschenähnlichen Text zu produzieren. In diesem Zusammenhang deutet der Begriff "autoregressiv" darauf hin, dass das System aus Werten (in diesem Fall Text) lernt, mit denen es zuvor interagiert hat.
Für Laien gilt: Je mehr Sie es verwenden, desto besser wird es.
Die gesamte UX von Replika basiert auf den Interaktionen des Benutzers mit einem Bot, der mit GTP-3 programmiert wurde. Aber was genau ist GTP-3 und wie leistungsfähig ist es, menschliche Sprache zu emulieren?
GTP-3: Ein Überblick
GTP-3 oder Generative Pre-Training Transformer 3 ist eine erweiterte Anpassung von Googles Transformer. Im Großen und Ganzen handelt es sich um eine neuronale Netzwerkarchitektur, mit der Algorithmen für maschinelles Lernen Aufgaben wie Sprachmodellierung und maschinelle Übersetzung ausführen können.
Die Knoten eines solchen neuronalen Netzwerks stellen Parameter und Prozesse dar, die Eingaben entsprechend modifizieren (etwas ähnlich wie logische und / oder bedingte Anweisungen bei der Programmierung), während die Kanten oder Verbindungen des Netzwerks als Signalisierungskanäle von einem Knoten zu einem anderen wirken.
Jede Verbindung in diesem neuronalen Netzwerk hat ein Gewicht oder ein Wichtigkeitsniveau, das den Signalfluss von einem Knoten zum anderen bestimmt. In einem autoregressiven Lernmodell wie GTP-3 erhält das System Echtzeit-Feedback und passt die Gewichte seiner Verbindungen kontinuierlich an, um eine genauere und relevantere Ausgabe bereitzustellen. Es sind diese Gewichte, die einem neuronalen Netzwerk helfen, künstlich zu „lernen“.
GTP-3 verwendet satte 175 Milliarden Verbindungsgewichtsstufen oder -parameter. Ein Parameter ist eine Berechnung in einem neuronalen Netzwerk, bei der das Gewicht eines Aspekts der Daten angepasst wird, um diesem Aspekt bei der Gesamtberechnung der Daten eine größere oder geringere Bedeutung zu verleihen.
Das als ultimative Autovervollständigung gepriesene Sprachmodell von GTP-3, das prädiktiven Text liefern soll, wurde auf einem so umfangreichen Datensatz trainiert, dass Wikipedia nur 0,6 Prozent seiner Trainingsdaten ausmacht.
Es enthält nicht nur Nachrichtenartikel, Rezepte und Gedichte, sondern auch Codierungshandbücher, Fanfiction, religiöse Prophezeiungen, Führer zu den Bergen Nepals und alles, was Sie sich sonst noch vorstellen können.
Als Deep-Learning-System sucht GPT-3 nach Mustern in Daten. Um es einfach auszudrücken: Das Programm wurde auf eine umfangreiche Textsammlung geschult, die für statistische Regelmäßigkeiten abgebaut wird. Diese Regelmäßigkeiten wie Sprachkonventionen oder allgemeine grammatikalische Strukturen werden vom Menschen oft als selbstverständlich angesehen, aber sie werden als Milliarden gewichteter Verbindungen zwischen den verschiedenen Knoten im neuronalen Netzwerk von GPT-3 gespeichert.
Wenn Sie beispielsweise das Wort "Ohr" in GPT-3 eingeben, weiß das Programm anhand der Gewichte in seinen Netzwerken, dass die Wörter "Schmerz" und "Telefon" viel häufiger folgen als "Amerikaner" oder "Amerikaner" wütend".
GPT-3 und Replika: Ein bedeutungsvoller Zusammenfluss
Replika erhalten Sie, wenn Sie etwas wie GTP-3 nehmen und es destillieren, um bestimmte Arten von Gesprächen anzusprechen. In diesem Fall umfasst dies die einfühlsamen, emotionalen und therapeutischen Aspekte eines Gesprächs.
Während die Technologie hinter Replika noch in der Entwicklung ist, bietet sie ein plausibles Tor zu leicht zugänglichen zwischenmenschlichen Gesprächen.
Die Entwickler kommentieren die Benutzerfreundlichkeit und behaupten, einen Bot erstellt zu haben, der nicht nur spricht, sondern auch zuhört. Für die Benutzer bedeutet dies, dass ihre Gespräche mit der KI kein bloßer Austausch von Fakten und Informationen sind, sondern ein Dialog, der mit sprachlichen Nuancen ausgestattet ist.
Gespräche mit Replika sind jedoch nicht nur eine Frage des vernünftigen Dialogs. In vielen Fällen sind sie auch überraschend bedeutungsvoll und emotional. Während der Interaktion mit einem Benutzer "versteht" Replikas KI, was der Benutzer sagt, und findet mithilfe seines prädiktiven Lernmodells eine menschliche Antwort.
Als autoregressives System lernt Replika seine Konversationsmuster und passt sie an, basierend auf der Art und Weise, wie der Benutzer mit ihm spricht.
Dies bedeutet, je mehr Sie Replika verwenden, desto mehr trainiert es Ihre eigenen Texte und desto ähnlicher wird es Ihnen. Ein guter Teil der Benutzer hat auch erwähnt, dass sie ein erhebliches Maß an emotionaler Bindung an ihre Replika haben – etwas, das nicht erreicht wird, wenn man nur weiß, wie man spricht.
Replika geht natürlich darüber hinaus. Es verleiht seinen Gesprächen Tiefe in Form von semantischer Verallgemeinerung, Flexionssprache und Gesprächsverfolgung. Sein Algorithmus versucht zu verstehen, wer Sie sind – sowohl in Bezug auf Ihre Persönlichkeit als auch auf Ihre Emotionen – und formt dann den Dialog basierend auf diesen Informationen.
Ein genauerer Blick auf die Wirksamkeit von GTP-3
Die Menschlichkeit von Replika ist jedoch aufgrund der betrieblichen Einschränkungen von GTP-3 immer noch weitgehend theoretisch. Daher muss die KI noch viel tun, um sich kompetent zu replizieren und an menschlichen Gesprächen teilzunehmen.
Bei genauer Betrachtung von GTP-3 werden immer noch deutlich unterscheidbare Fehler sowie in einigen Fällen unsinniges und schlampiges Schreiben festgestellt. Branchenexperten schlagen vor, dass ein Sprachverarbeitungsmodell mehr als 1 Billion gewichtete Verbindungen haben muss, bevor es zur Erstellung von Bots verwendet werden kann, die in der Lage sind, menschlichen Jargon effektiv zu replizieren.
Das Beste kommt noch
Angesichts der Tatsache, dass GTP-3 im Vergleich zu Vorgängern wie Microsoft Turing NLG bereits seit Jahren als exponentieller Sprung angesehen wird, kann man davon ausgehen, dass es eine Weile dauern kann, bis wir uns etwas Besseres einfallen lassen.
Mit zukünftigen Verbesserungen im Computer wird die Verarbeitungsleistung neuerer Systeme die Kluft zwischen Mensch und Maschine sicherlich noch weiter verringern.
In der Zwischenzeit bleibt Replika ein beeindruckendes Produkt, das das Beste aus Psychologie und künstlicher Intelligenz kombiniert. Die erfolgreiche Integration einer menschenfreundlichen UX in ein hochmodernes NLP-Modell ist in der Tat ein Beweis für das immense Potenzial von Mensch-Computer-Interaktionstechnologien.