Phison und Intel: 26-Milliarden-KI-Modelle auf 16 GB RAM

Ziel ist es, große KI-Modelle direkt auf dem PC laufen zu lassen – ohne teure Cloud-Anbindung.

Die Zusammenarbeit kombiniert Phisons Pascari aiDAPTIV-Technologie mit Intels Core Ultra Series 3-Prozessoren. Das Problem: Bisher scheitert lokale KI an der Speicherbegrenzung. Große Modelle brauchen Unmengen an RAM – mehr, als normale PCs bieten.

Während neue Hardware-Lösungen KI direkt auf den PC bringen, stellt sich für viele Nutzer die Frage nach der praktischen Anwendung im Alltag. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie die Technologie schon heute effizient für Ihre Aufgaben nutzen können. Urlaub planen, Sprachen lernen, Zeit sparen: So erledigt ChatGPT Ihre Alltagsaufgaben in Sekunden

Die Speichermauer fällt

Phisons Lösung orchestriert DRAM und NAND-Flash-Speicher zu einem einzigen Pool. In einer Live-Demonstration zeigten die Unternehmen, wie ein KI-Modell mit 26 Milliarden Parametern auf einem System mit nur 16 GB RAM lief. Normalerweise wären dafür mindestens 32 GB nötig.

Das Geheimnis: Spezielle Pascari AI100E-SSDs dienen als Hochleistungs-Cache. Sie lagern Teile der Rechenlast auf den Flash-Speicher aus – ohne die üblichen Geschwindigkeitseinbußen klassischer Auslagerung.

Integration mit Intel

Die Lösung ist für Intels Core Ultra Series 3 optimiert und nutzt das OpenVINO-Toolkit zur einfacheren Bereitstellung. Das ermöglicht Entwicklern, die hybride Speicherarchitektur effizient zu nutzen.

Auf der Computex zeigten Partner wie ASUS, MSI und Acer sowie Softwareentwickler wie Ollama, LLMWare und TurinTech praktische Anwendungen. Sie präsentierten lokale Chat-Oberflächen und hybride LLM-Routing-Anwendungen. Die Botschaft: Komplexe Mixture-of-Experts-Modelle laufen lokal auf handelsüblichen Laptops und Desktops.

Doch die Hardware hat ihren Preis. Die benötigte 1 TB Pascari AI100E SSD wurde kürzlich für umgerechnet rund 2.350 Euro gelistet.

Der Trend zur lokalen KI-Nutzung verspricht mehr Unabhängigkeit, doch viele Anwender wissen noch gar nicht, wie sie die intelligenten Helfer richtig ansteuern. Ein neuer Gratis-Report enthüllt jetzt die praktischsten Befehle und Tricks, mit denen Einsteiger sofort Zeit sparen. Diese einfachen ChatGPT-Befehle kennen die wenigsten – dabei erleichtern sie den Alltag enorm

Neue Ära für KI-Speicher?

Parallel zur Intel-Partnerschaft startete Phison die Initiative „AI Enabler“. Sie umfasst neue Speicherlösungen für KI-Umgebungen. Highlight: Die Pascari aiDAPTIV AI20EH SSD erhielt den Computex Best Choice Award. Phison verspricht eine Verbesserung der KI-Inferenzleistung um das 102-fache bei gleichzeitiger Kostensenkung um 53 Prozent und Speicherreduktion um 67 Prozent.

Weitere Neuheiten:
- Pascari D206V: PCIe Gen5 SSD mit bis zu 245,76 TB Kapazität
- E37T: PCIe Gen5 DRAM-lose SSD mit 14,9 GB/s
- UFS 5.0-Controller: Für mobile KI mit 10 GB/s Durchsatz
- PCIe 6.0 Retimer und Gen6 X3 Controller: Für nächste Datenübertragungsstandards

Die Botschaft ist klar: PC statt Cloud. Mit diesen Technologien wollen Phison und Intel den Computer zur echten KI-Alternative machen – mit mehr Datenschutz und geringeren Latenzen für Unternehmen und Verbraucher.

de | wissenschaft | 69473552 |