Die jährliche Technologiekonferenz von Arm geht zu Ende, die KI-Computing-Plattform der nächsten Generation ist auf dem Weg

Heute Nachmittag ging die jährliche Technologiekonferenz Arm Tech Symposia in Shenzhen erfolgreich zu Ende.

Auf dieser Konferenz diskutierte Arm eingehend die Computeranforderungen der KI und erläuterte, wie die Entwicklungsmöglichkeiten der KI durch die drei Kerne Hardware, Software und Ökosystem besser genutzt werden können. Die anwesenden Teilnehmer diskutierten auch Arm-basierte technologische Innovation und KI-Entwicklungstrends.

James McNiven, Vizepräsident für Produktmanagement der Terminal-Abteilung von Arm, betonte in der Grundsatzrede auf der Konferenz in Shenzhen, dass Armv9 als neueste technische Architektur von Arm bei seiner Einführung für die Unterstützung von KI-Computing konzipiert war und weiterhin iterativ aktualisiert wird Durch SVE, SVE2, SME und andere Schlüsseltechnologien optimiert Arm weiterhin das mobile KI-Erlebnis mit architektonischen Innovationen und leistungsstarken Software- und Hardware-Synergiefunktionen und ermöglicht es Entwicklern, eine hervorragende KI-Leistung zu erzielen.

Auf dieser Konferenz ist die KleidiAI-Software eines der Highlights, die Aufmerksamkeit verdienen.

Es erreicht eine tiefe Integration mit gängigen KI-Frameworks und kann Entwicklern ein reibungsloses Entwicklungserlebnis bieten, wenn es mit Arm CSS verwendet wird. KleidiAI integriert Neon , SVE2 und SME2 usw., um die Leistung von Computeranwendungen erheblich zu verbessern.

Berichten zufolge handelt es sich bei KleidiAI um eine Reihe von Hochleistungs-Rechenkernen, die speziell für Entwickler von KI-Frameworks entwickelt wurden.

Es hilft Entwicklern, problemlos die beste Leistung von ARM-CPUs auf einer Vielzahl von Geräten zu erzielen und die Kernfunktionen wichtiger Arm-Architekturen wie Neon, SVE2 und SME2 zu nutzen.

Darüber hinaus integriert KleidiAI auch beliebte KI-Frameworks wie PyTorch, Tensorflow und MediaPipe, optimiert die Leistung von Modellen wie Meta Llama 3 und Phi-3 und übernimmt ein abwärts- und vorwärtskompatibles Design.

Dies hat den Vorteil, dass Arm auch bei der Einführung weiterer Technologien in der Zukunft an zukünftige Marktanforderungen angepasst werden kann.

Berichten zufolge hat die Integration von KleidiAI die Effizienz generativer KI deutlich verbessert.

Die Daten zeigen, dass im Vergleich zur Referenzimplementierung (basierend auf llama.cpp, aber ohne Kleidi-Softwareoptimierung) auf der neuen Arm Cortex-X925-CPU Meta Llama 3 mit llama.cpp (mit integriertem KleidiAI) und Microsoft Phi-3 verwendet wird Die erste Antwortzeit des Tokens des Large Language Model (LLM) wird um 190 % beschleunigt.

Ein weiterer großer Vorteil von KleidiAI ist die einfache Integration.

Es wird berichtet, dass das Ingenieurteam von Arm den Leistungsoptimierungstest von Llama 3 in weniger als 24 Stunden abgeschlossen hat.

Darüber hinaus lässt sich KleidiAI über XNNPACK in MediaPipe integrieren, um Unterstützung für das Open-Source-Programm Gemma LLM zu bieten, das auf Mobilgeräten läuft. Dadurch wird die Reaktionszeit beim ersten Wort von Gemma 2B auf dem Google Pixel 8 Pro-Smartphone um 25 % reduziert.

Gleichzeitig arbeitet Arm auch mit Unity zusammen, um die endseitige KI-Inferenz-Engine Sentis zu entwickeln, die es Spieleentwicklern ermöglicht, ein neues KI-Spielerlebnis auf allen Geräten zu schaffen, die die Unity-Spiel-Engine unterstützen.

Darüber hinaus hat Arm-Terminal-CSS als bisher schnellste Arm-Computing-Plattform eine Verbesserung der Rechen- und Grafikleistung um mehr als 30 % erreicht, was ausreicht, um verschiedene anspruchsvolle Android-Workloads zu bewältigen.

Gleichzeitig verbessert Arm-Terminal-CSS auch die KI-Inferenzgeschwindigkeit um 59 %, wodurch es für ein breiteres Spektrum von KI-/maschinellen Lern- (ML) und Computational Vision-Workloads geeignet ist.

Der Hauptvorteil des Arm-Terminal-CSS besteht darin, dass es mit dem bisher leistungsstärksten, effizientesten und umfassendsten CPU-Cluster von Arm ausgestattet ist und sich für die beste Balance zwischen Leistung und Energieeffizienz einsetzt.

Mit der neuen Generation der Arm Cortex®-X-CPU bringt das KI-optimierte Arm-Terminal-CSS mit einer Leistungssteigerung von 36 % die höchste IPC-Verbesserung im Vergleich zum Vorjahr Die GPU-Grafikleistung steigt um 37 %.

Die Arm Immortalis-G925 GPU ist die leistungsstärkste und effizienteste GPU von Arm und erreicht eine Leistungssteigerung von 37 % in mehreren mobilen Spieleanwendungen und eine Leistungssteigerung von 34 % in mehreren KI- und ML-Netzwerken.

Immortalis-G925 richtet sich hauptsächlich an den Flaggschiff-Smartphone-Markt.

Und einschließlich Arm Mali Die neuen hoch skalierbaren GPU-Serien, einschließlich der GPUs -G725 und Mali-G625, zielen auf ein breites Spektrum von Verbraucherelektronikgeräten ab, von High-End-Mobiltelefonen bis hin zu Smartwatches und tragbaren XR-Geräten.

Arm prognostiziert, dass es bis Ende 2025 weltweit mehr als 100 Milliarden Arm-Geräte mit KI-Funktionen geben wird.

Von Sensoren und Smartphones bis hin zum industriellen Internet der Dinge, Autos und Rechenzentren: So wie der Bau von Wolkenkratzern ein solides Fundament erfordert, kann die dynamische Entwicklung der KI-Technologie nicht von der Unterstützung leistungsstarker und effizienter Computerplattformen getrennt werden.

Mit seinen unermüdlichen Bemühungen in der Chip-Architektur und der technologischen Innovation schafft Arm die zuverlässigste Grundlage für diesen „KI-Wolkenkratzer“ und wird bei diesem technologischen Wandel eine immer wichtigere Rolle spielen.

# Willkommen beim offiziellen öffentlichen WeChat-Konto von aifaner (WeChat-ID: ifanr). Weitere spannende Inhalte werden Ihnen so schnell wie möglich zur Verfügung gestellt.

Ai Faner |. Ursprünglicher Link · Kommentare anzeigen · Sina Weibo