Das KI-Startup Tiny Corp hat Treiber veröffentlicht, die erstmals externe Nvidia- (RTX 30er, 40er, 50er Serie) und AMD-GPUs (RDNA3+) über USB4 und Thunderbolt auf Apple Silicon Macs betreiben – und Apple hat den Treiber offiziell signiert. Die Lösung basiert auf dem Open-Source-Framework Tinygrad und ist ausschließlich für rechenintensive KI-Workloads konzipiert, nicht für Grafik-Rendering oder Gaming. Voraussetzung ist macOS 12.1 sowie ein USB4- oder Thunderbolt-Anschluss.
- Das Startup Tiny Corp macht via USB4 und Thunderbolt externe AMD- und Nvidia-Grafikkarten auf Apple Silicon Macs nutzbar.
- Die Treiber sind nicht für klassisches Grafik-Rendering gedacht, sondern dienen ausschließlich dem Auslagern rechenintensiver KI-Workloads.
- Entwickler können so große KI-Modelle lokal berechnen, ohne zwingend auf Cloud-Dienste oder separate Linux-Rechner auszuweichen.
Seit Apples Wechsel zu eigenen ARM-Chips endete der offizielle Treibersupport für externe Nvidia- und AMD-GPUs auf macOS vollständig. Apples Unified-Memory-Architektur war bewusst so ausgelegt, dass externe GPUs für Standardnutzer überflüssig erscheinen. Für Entwickler, die lokal große Sprachmodelle trainieren oder umfangreiche Datensätze verarbeiten wollen, bedeutete das seit Jahren eine harte Grenze: Entweder Cloud-Infrastruktur oder ein anderes Betriebssystem. Tiny Corp nutzt die native PCIe-Unterstützung von USB4 und Thunderbolt, um eine höhere Bandbreite zu erzielen als der ursprüngliche USB3-Ansatz. Das Offloading der Prompt-Verarbeitung auf eine externe GPU eliminiert Engpässe und ermöglicht laut Tiny Corp deutlich schnellere Reaktionszeiten bei größeren Modellen. Der Treiber funktioniert zudem auf Linux und Windows über libUSB – das Projekt adressiert also nicht nur die Mac-Community.
Für Entwickler im DACH-Raum, die lokale LLM-Experimente ohne Cloud-Abhängigkeit betreiben wollen, öffnet das einen praktischen Weg. Wer bereits in Apple-Hardware investiert hat und eine leistungsfähige externe GPU besitzt, kann diese Kombination nun für KI-Forschung nutzen – ohne auf eine separate Linux-Workstation angewiesen zu sein. Ob Apple diesen Weg dauerhaft offen lässt oder ihn in einem zukünftigen macOS-Update stillschweigend schließt, bleibt abzuwarten.