Ein x86-Mikro-Compute-Modul für On-Device-KI

SHANGHAI, 9. September 2026 /PRNewswire/ -- Das LattePanda-Team hat heute das LattePanda Mu Ultra vorgestellt, ein x86-Mikro-Compute-Modul, das speziell für KI auf Endgeräten entwickelt wurde. Angetrieben von Intel Core Ultra 5 226V- und Ultra 7 256V-Prozessoren liefert es bis zu 115 TOPS KI-Leistung in einem kompakten Formfaktor von 69,6 × 60 mm. Das LattePanda Mu Ultra wurde entwickelt, um die Herausforderungen in den Bereichen Hardware, Rechenleistung und Software beim lokalen Betrieb von KI zu bewältigen. Es bietet Ingenieurteams, Systemintegratoren und OEMs in den Bereichen Robotik, industrielle Automatisierung, tragbare Messgeräte, Bildverarbeitungs-KI und einer breiten Palette intelligenter Edge-Anwendungen leistungsstarke KI-Rechenleistung.

115 TOPS KI-Leistung in einem kompakten x86-Modul
LattePanda Mu Ultra kombiniert die CPU, GPU und NPU der Intel Core Ultra 5 226V- und Ultra 7 256V-Prozessoren und liefert damit bis zu 115 TOPS (INT8) KI-Leistung, darunter 47 TOPS aus der dedizierten NPU.

Sein Formfaktor von 69,6 × 60 mm ermöglicht leistungsstarke x86-Rechenleistung in Geräten mit begrenztem Platzangebot – von Handheld-Geräten und Smart-Kameras bis hin zu Robotern und anderen intelligenten Edge-Systemen.

KI lokal auf dem Gerät ausführen
LattePanda Mu Ultra führt KI-Workloads direkt auf dem Gerät aus und ermöglicht so Inferenz mit geringer Latenz, besseren Datenschutz und eine geringere Abhängigkeit vom Cloud-Computing.

In Tests erreichte der LattePanda Mu Ultra Textgenerierungsgeschwindigkeiten von 18 Tokens/s mit Qwen3.5-9B und 55 Tokens/s mit Qwen3.5-2B, wobei INT4-Quantisierung mit OpenVINO GenAI auf der iGPU verwendet wurde. Diese Ergebnisse belegen seine Fähigkeit, reaktionsschnelle, lokale dialogorientierte KI ohne Cloud-Inferenz zu unterstützen. Dadurch eignet es sich für Anwendungen wie lokale Sprachassistenten, die Offline-Dokumentenverarbeitung und den privaten Wissensabruf, wobei sensible Daten auf dem Gerät verbleiben.

Speicher mit hoher Bandbreite für KI-Workloads
Das LattePanda Mu Ultra verfügt über 16 GB LPDDR5X-8533-Speicher, von denen bis zu 11,6 GB als Grafikspeicher zur Verfügung stehen, und bietet damit die erforderliche Bandbreite für anspruchsvolle KI-Workloads auf CPU, GPU und NPU.

Die Speicherarchitektur ist darauf ausgelegt, Workloads von großen Sprachmodellen (LLMs) über multimodale KI bis hin zur Echtzeit-Sensorverarbeitung zu unterstützen. Mit einem Stromverbrauch im Leerlauf von nur 2,5 W eignet sich das Modul zudem hervorragend für tragbare und ständig aktive Anwendungen, bei denen Energieeffizienz eine wichtige Rolle spielt.

Schreibe Deinen Kommentar