Wie kombiniert man große Modelle mit intelligenten Terminals? Alibaba Cloud hat ein Muster

Im Jahr 1961 schlug Professor John McCarthy, der „Vater der künstlichen Intelligenz“, eine bahnbrechende Idee vor: Utility Computing (Public Computing Service).

Seiner Ansicht nach könnten Computerdienste ebenso populär werden wie Telefondienste und zu einer neuen und wichtigen industriellen Grundlage in der Gesellschaft werden.

Später schien sich McCarthys Vorhersage zu bewahrheiten, und Cloud Computing begann allmählich zur Realität zu werden.

Die sich überschneidenden Identitäten des Vaters der künstlichen Intelligenz und des Propheten des Cloud Computing scheinen das Schicksal zwischen KI und Cloud Computing anzudeuten.

Heute erfuhr Ai Faner auf dem Alibaba Cloud Shenzhen AI Summit, dass etablierte Mobiltelefon-, PC- und Automobilhersteller im Bereich großer Modelle intensiv mit Alibaba Cloud zusammenarbeiten, um das intelligente Produkterlebnis zu verbessern.

Wenn KI überall ist, ist auch Cloud Computing überall.

Infrastruktur für die KI-Explosion

Han Hongyuan, Vizepräsident der Alibaba Cloud Intelligence Group und Chef-Lösungsarchitekt der Public Cloud, hielt heute auf dem AI Smart Leaders Summit eine Eröffnungsrede zum Thema Cloud Computing, das die KI-Explosion beschleunigt.

Han Hongyuan sagte, dass der Großteil der heutigen KI-bezogenen Arbeit tatsächlich in der Cloud ausgeführt wird. Die meisten Unternehmen nutzen diese Cloud-Funktionen und sorgen dafür, dass sie effektiver arbeiten, indem sie sie in der Cloud nutzen.

In Bezug auf Computer, Daten, Entwicklung und Bereitstellung stellt die heutige generative KI viele neue Herausforderungen für alle technischen Fähigkeiten dar. Zu diesen Herausforderungen gehört die Notwendigkeit, die Computerkapazitäten auf das heutige EFLOP-Niveau zu verbessern, einschließlich der kontinuierlichen Durchführung eines Trainings Aufgabe, die Wochen oder Monate dauern kann, bis wirksame Ergebnisse erzielt werden.

Während sich KI-Anwendungen immer weiter vertiefen, entwickelt sich auch Cloud Computing ständig weiter.

Als Cloud-Computing-Unternehmen strebt Alibaba Cloud weiterhin nach kontinuierlicher Verbesserung in Richtung ultimativer Leistung und Elastizität, um den Verbesserungsbedarf in allen Aspekten vom Speicher-Computing-Netzwerk bis hin zu Softwarefunktionen effektiv zu unterstützen.

Beispielsweise reagiert die Datenbank auf den geschäftlichen Druck während des jährlichen Double Eleven und aller Werbeaktivitäten, einschließlich der Verarbeitung von Streams in Big Data Hunderte Millionen Mal pro Sekunde und des Speichervolumens von Hunderten Millionen Terabyte pro Sekunde.

Die Entwicklung des Cloud Computing geht in eine Richtung, die es nicht mehr erfordert, dass Benutzer Server direkt verwalten.

Einfach ausgedrückt: Wenn Benutzer diese Cloud-Service-Funktionen nutzen, müssen sie sich der Existenz dieser physischen Server nicht bewusst sein und können diesen Service effektiver nutzen, wodurch die Schwierigkeit für Unternehmen, IT-Rechenleistung zu nutzen, erheblich vereinfacht wird und es für alle einfacher wird neue Anwendung zu entwickeln.

Han Hongyuan glaubt, dass Cloud Computing seit der Geburt des Cloud Computing im Jahr 2006 einen iterativen Prozess schneller Entwicklung durchlaufen hat. Die Cloud und die in der Cloud ausgeführten Anwendungen haben sich gegenseitig gefördert und den heutigen boomenden Trend des Cloud Computing geprägt.

Wenn wir Cloud Computing aus der Anwendungsperspektive betrachten, greifen wir auf KI-Modelldienste zu und nicht auf einfache ursprüngliche Inferenzdienste.

Hinter dem Inferenzdienst verbergen sich komplexe technische Ketten und Verarbeitungsprozesse. Jeder API-Aufruf muss Schichten von Stringing-Links durchlaufen, um schließlich die Schlussfolgerung und Ausgabe des Modells zu realisieren.

Den Benutzern geht es mehr darum, wie sie eine gute Schnittstelle zum Modell einrichten und wie sie die Fähigkeiten des Modells effektiv nutzen können, als dass sie tief in das Innere des Modells vordringen und untersuchen, wie es trainiert wird.

Die Verwendung eines Basismodells bedeutet nicht, dass Sie es von Grund auf trainieren müssen.

Von IaaS und PaaS bis hin zu IaaS und PaaS+MaaS ist es so, als ob der Vermieter nicht nur eine Unterkunft und Einrichtungen zur Verfügung stellt, sondern auch zusätzliche Dienstleistungen wie Reinigung und Sicherheit bereitstellt, um Ihren Aufenthalt sorgenfreier zu gestalten.

In diesem KI-Zeitalter voller Möglichkeiten gibt es zu viele vorgefertigte Dienste, als dass wir sie auswählen und nutzen könnten, und Alibaba Cloud ist einer der kostengünstigsten Hersteller.

So kombinieren Sie große Modelle mit smarten Terminals

Die Kombination von Software und Hardware ist die Entwicklungsrichtung großer Modelle.

Insbesondere da die Fähigkeiten multimodaler Großmodelle weiter zunehmen, wird erwartet, dass intelligente Endgeräte wie Mobiltelefone, PCs, Headsets, Autos und Roboter eine neue Explosion einleiten werden.

Der Lifestyle-Blogger „Bruder Bao und sein Blindenhund“, der vor sieben Jahren sein Augenlicht verlor, dokumentierte mit „vivo see“ den gesamten Reisevorgang im Hochgeschwindigkeitszug in einem Video.

Über diese App „sah“ er die Landschaft vor dem Fenster des Hochgeschwindigkeitszugs, das Wasserglas auf dem Tisch und „differenzierte“ die Toilettenartikel im Hotel.

„vivo sees“ beschreibt für ihn die Rosenblüten am Straßenrand, die bei ihm vertraute Kindheitserinnerungen hervorrufen. Hinter diesen „warmen“ Kulissen verbirgt sich die Unterstützung des von Vivo selbst entwickelten großen Modells „Blue Heart“.

Seit letztem Jahr hat vivo die Forschung und Entwicklung großer Modelle intensiviert. Die Vortrainingsleistung des großen Kilokalorienmodells basierend auf maschinellem Lernen von Alibaba Cloud PAI liegt nahe am LLaMA-Niveau.

Derzeit verfügt das vivo-Blue-Heart-Modell über drei Parameterebenen: Milliarde, Dutzende Milliarden und Hunderte von Milliarden sowie fünf verschiedene Größen.

Mit der Unterstützung großer Modelle kann „vivo Seeing“ nicht nur automatisch Bildschirminhalte und Textinformationen übertragen, wenn die Kamera auf die Umgebung und Objekte gerichtet ist, sondern auch auf mehrere Erkennungsmodi wie Text, Karten und Barcodes umschalten. und führen Sie mehrere Dialogrunden durch, um mehr Bildschirmdetails zu erhalten und häufige Artikelsuchen zu unterstützen.

Hao Xiong sagte außerdem, dass vivo auch in Zukunft in Bezug auf Rechenleistung, große Modelle und ökologische Anwendungen mit Alibaba Cloud zusammenarbeiten werde, um das intelligente Erlebnis weiter zu verbessern.

Neben Mobiltelefonen entwickeln sich auch Autos zu wichtigen Smart-Terminals.

Xpeng Motors gab auf dem Treffen außerdem bekannt, dass es im Smart-Cockpit-Szenario Zugriff auf Alibaba Cloud Tongyi Qianwen hinzugefügt hat. Der verbesserte Autoassistent „Xiao P“, der auf den von Xpeng selbst entwickelten Großmodellen XGPT und Tongyi Qianwen basiert, kann die Absicht des Benutzers genau verstehen und die Temperatur im Auto anpassen, wenn der Benutzer „etwas kalt“ sagt.

Nach der Veröffentlichung eines kompletten Großmodells für die Massenproduktion war Xpeng der erste Automobilhersteller, der Großmodelle ins Cockpit einbaute und gleichzeitig intelligentes Fahren ermöglichte.

Apple, Google und Tesla haben alle ihren offiziellen Einstieg in das Spiel angekündigt. In China wurde der Lenovo AI PC in große Modelle wie Tongyi Qianwen integriert und am 10. Mai offiziell eingeführt.

Seit ihrer Veröffentlichung im April 2023 wurde die Tongyi Qianwen-Reihe kontinuierlich iterativ aktualisiert. Mit Version 2.0 sind ihre Fähigkeiten mit dem branchenführenden Niveau vergleichbar. Version 2.5 hat ihr Verständnis, ihr logisches Denken und andere Fähigkeiten erheblich verbessert.

Darüber hinaus haben die Open-Source-Beiträge von Alibaba Cloud der Entwicklung der gesamten KI-Community starke Impulse verliehen.

Von 7B bis 14B wurde es zu 72B und dann zum Tongyi Qianwen-Modell mit Hunderten von Milliarden Parametern iteriert, die im April dieses Jahres eröffnet wurden. Nach Han Hongyuans Worten ist Tongyi möglicherweise der größte, vollständigste und systematischste offene Parameter heute auf dem Markt.

Darüber hinaus hat Alibaba Cloud auch eine groß angelegte offene Plattform aufgebaut – die Moda Community.

Hierbei handelt es sich um eine Open-Source-Community für KI-Modelle, die gemeinsam von der Alibaba DAMO Academy und dem Open Source Development Committee der China Computer Federation ins Leben gerufen wurde. Ziel ist es, die Schwelle der KI-Anwendung zu senken und die Popularisierung und Innovation der KI-Technologie zu fördern.

Entwickler können ihre Machine-Learning-Modelle in der Community hochladen, speichern und verwalten, mit Versionskontrolle und Anmerkungen, um die Modellentwicklung besser zu verfolgen und zu verwalten.

Als Open-Source-Plattform unterstützt Moda Community Community-Mitglieder bei der Beteiligung an der Entwicklung, Verbesserung und dem Austausch von Modellen und fördert gemeinsam die Offenheit der Modellökologie, sodass sich die gesamte KI-Umgebung stärker entwickeln kann.

Wie Han Hongyuan auf dem Gipfel sagte:

Heute werde ich meine generativen KI-Modelldienstfunktionen in der Cloud kombinieren, um eine neue Generation von Anwendungen zu erstellen, oder bestehende Anwendungen umwandeln, um intelligentere Funktionen hinzuzufügen. Dies ist möglicherweise das, was wir am liebsten mit Ihnen besprechen und weiterentwickeln möchten. und hoffen, dass wir in Zukunft mehr Möglichkeiten haben, in dieser Angelegenheit mit Ihnen zusammenzuarbeiten.

# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.

Ai Faner |. Ursprünglicher Link · Kommentare anzeigen · Sina Weibo