Rapid-MLX v0.6.71: Apples KI-Modul 4,2× schneller als Ollama
Veröffentlicht: 03.06.2026 um 08:31 Uhr, Redaktion boerse-global.de
Ein neues KI-Modul für Apple-Hardware zeigt enorme Leistungssprünge und heizt den Konkurrenzkampf mit Windows-ARM-Architekturen an.
Die Veröffentlichung von Rapid-MLX v0.6.71 am 1. Juni 2026 markiert einen Meilenstein für lokale KI auf Apple-Geräten. Die Entwickler versprechen eine mehr als vierfache Geschwindigkeit im Vergleich zum etablierten Ollama-Framework. Das unter der Apache-2.0-Lizenz veröffentlichte Modul erreichte in internen Tests das 4,2-Fache der Ollama-Leistung – und das bei einer beeindruckend niedrigen Latenz von nur 0,08 Sekunden für den ersten Token.
Während Profis KI lokal auf High-End-Hardware nutzen, bietet ChatGPT auch für Einsteiger enorme Erleichterungen im täglichen Leben. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie die KI ohne Vorkenntnisse für Organisation und Zeitersparnis einsetzen. Kostenlosen PDF-Report mit Alltags-Tricks herunterladen
Leistungssprünge bei lokaler Inferenz
Die Zahlen sprechen eine deutliche Sprache: Das Qwen3.5-4B-Modell verarbeitet Rapid-MLX mit 160 Tokens pro Sekunde. Selbst das gigantische DeepSeek V4 Flash 158B-Modell schafft auf kompatiblen Apple-Rechnern noch 31 bis 56 Tokens pro Sekunde. Damit positioniert sich die Software als ernsthafte Alternative für Entwickler und Anwender, die KI-Modelle lokal und datenschutzfreundlich betreiben wollen.
Doch damit nicht genug: Google Research veröffentlichte zeitgleich TurboQuant, ein neues Quantisierungsverfahren speziell für Apple Silicon. Die Methode erlaubt es, 32B-Parameter-Modelle – normalerweise ein Fall für 64 Gigabyte Arbeitsspeicher – mit nur 13 Gigabyte auskommen zu lassen. Ein M3 Max-Chip erreicht damit immerhin 18 Tokens pro Sekunde. Das dürfte besonders für Entwickler interessant sein, die große Modelle auf handelsüblichen MacBooks testen wollen.
Neue Tools für datenschutzbewusste Anwender
Der Leistungsschub hat eine Welle neuer Desktop-Anwendungen ausgelöst. Am 1. Juni erschien OpenYak v1.3.0 – ein lokaler Desktop-Agent, der entweder Rapid-MLX oder Ollama nutzt. Die Open-Source-Software kommt ganz ohne Benutzerkonten aus und gibt den Nutzern die volle Kontrolle über ihre Daten.
Parallel dazu launchte der Content-Creator PewDiePie die Plattform Odysseus, die verschiedene lokale Backends wie llama.cpp und vLLM unter einer einheitlichen Oberfläche vereint. Für Kommandozeilen-Fans gibt es seit dem 2. Juni LlamaStash – einen schlanken Proxy für llama.cpp mit minimalem Overhead.
Auch JetBrains mischt mit: Das Unternehmen veröffentlichte Mellum2 als Open-Source-Software. Das 12B-Parameter-Modell nutzt eine Mixture-of-Experts-Architektur und aktiviert pro Token nur 2,5 Milliarden Parameter. Auf handelsüblichen GPUs mit 12 bis 16 Gigabyte VRAM erreicht es unter optimalen Bedingungen 192 Tokens pro Sekunde – ein Wert, der selbst DAX-Unternehmen wie SAP aufhorchen lassen dürfte.
Nvidia kontert mit RTX Spark für Windows
Während Apple sein KI-Ökosystem ausbaut, schlägt Nvidia zurück. Am 1. Juni kündigte der Grafikspezialist den RTX Spark (N1X) SoC an – einen Grace-Blackwell-Chip speziell für KI-Aufgaben auf Windows-Laptops. Die Hardware kommt mit einem 20-Kern-ARM-Prozessor, einer Blackwell-2.0-GPU mit 6.144 CUDA-Kernen und unterstützt bis zu 128 Gigabyte LPDDR5x Unified Memory. Die Rechenleistung: beeindruckende 1 Petaflop bei FP4-Genauigkeit.
Die ersten Laptops von ASUS, Dell und Lenovo sollen im Herbst 2026 erscheinen. Doch erste Benchmark-Ergebnisse vom 2. Juni zeigen: Der Rückstand auf Apple bleibt spürbar. Der N1X liegt im Single-Core-Bereich rund 30 Prozent hinter dem M5 Max, bei Multi-Core-Aufgaben sogar 33 bis 42 Prozent. Die GPU-Leistung des Nvidia-Chips positioniert sich zwischen Apples Pro- und Max-Klasse – ein Vorteil könnte in treiberoptimierten Spielen und spezialisierten CUDA-Anwendungen liegen.
Ob Urlaubsplanung oder das Verfassen komplexer Texte – moderne KI-Tools wie ChatGPT revolutionieren mittlerweile den kompletten digitalen Alltag. Erfahren Sie in diesem Gratis-Leitfaden, welche einfachen Befehle Ihnen die meiste Arbeit abnehmen. Jetzt Gratis-Ratgeber für ChatGPT-Einsteiger sichern
Plattform-Integration und Ausblick
Microsoft reagiert auf den Trend zur lokalen KI: Auf der Build-2026-Konferenz kündigte der Konzern am 2. Juni WSL 3 an. Die neue Version führt eine paravirtualisierte Architektur ein, die Linux-Umgebungen unter Windows den Zugriff auf GPUs und NPUs mit nahezu nativer Leistung ermöglicht. Das dürfte besonders für Ollama-Nutzer interessant sein, die auf Windows arbeiten.
Apple seinerseits wird voraussichtlich auf der WWDC am 8. Juni 2026 seine lokale KI-Strategie weiter konkretisieren. Branchenbeobachter erwarten einen Fokus auf On-Device-Verarbeitung für Siri und iOS 27 – weg von Cloud-Anfragen, außer bei besonders komplexen Aufgaben. Die 2024 angekündigte Apple Intelligence ist inzwischen vollständig verfügbar.
Der Wettlauf um die leistungsfähigste lokale KI-Hardware hat gerade erst begonnen. Während Apple mit seiner integrierten Architektur punkten kann, setzt Nvidia auf rohe Rechenleistung und ein etabliertes Ökosystem. Für Anwender bedeutet das: Noch nie war es einfacher, große KI-Modelle datenschutzfreundlich auf dem eigenen Rechner zu betreiben.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
