Die Thelio Mira AI ist eine Linux-Workstation von System76, die speziell für lokales KI-Training, Feinabstimmung und Simulationen entwickelt wurde. Das System basiert auf Open-Source-Hardware und kann mit bis zu einem 16-Core AMD Ryzen 9000 Series Prozessor, 192 GB DDR5-RAM und zwei NVIDIA RTX Pro 6000 GPUs mit insgesamt 192 GB dediziertem GPU-Speicher konfiguriert werden. Der Einstiegspreis liegt bei 3.299 US-Dollar, während voll ausgestattete Konfigurationen mit Spitzenkomponenten über 42.000 US-Dollar kosten können. Als Betriebssysteme stehen Pop!_OS 24.04 LTS mit COSMIC Desktop sowie Ubuntu in verschiedenen Versionen zur Verfügung.
Wichtigste Punkte
Preisspektrum: Die Workstation startet bei einem Basispreis von 3.299,00 US-Dollar für minimale Ausstattung, erreicht in Vollausstattung jedoch über 42.000 US-Dollar.
Grafikleistung & VRAM: Konfigurierbar mit bis zu zwei Dual NVIDIA RTX Pro 6000 Blackwell-GPUs, die insgesamt 192 GB GPU-Speicher bereitstellen.
Prozessoroptionen: Ausgestattet mit AMD Ryzen 9000 Series Prozessoren, darunter der Ryzen 7 9700X (8 Kerne), Ryzen 9 9900X (12 Kerne) und Ryzen 9 9950X (16 Kerne).
Arbeitsspeicher: Unterstützt bis zu 192 GB Dual Channel DDR5-RAM (konfigurierbar bis zu 3600 MHz im 4x48GB-Layout).
Speichersubsystem: Bietet M.2 PCIe Gen5 NVMe SSDs mit Lesegeschwindigkeiten von bis zu 14.100 MB/s und Schreibgeschwindigkeiten bis zu 12.600 MB/s.
Netzwerk & Anschlüsse: Enthält 2 x 5GbE LAN-Ports, integriertes WiFi 7 mit Bluetooth 5.4 sowie diverse USB 3.2- und USB 2.0-Schnittstellen.
Stromversorgung: Netzteile von 750W oder 1000W SFX 80+ Gold, wobei Konfigurationen mit zwei RTX Pro 6000 GPUs kombinierte Netzteile (1000W + 750W) erfordern.
Betriebssysteme: Optimiert für Pop!_OS 24.04 LTS mit COSMIC Desktop Environment sowie Ubuntu 24.04 LTS und Ubuntu 26.04 LTS.
Diskussions-Highlights
Kosten und Zielgruppe: Mehrere Kommentatoren zeigen sich überrascht über den Endpreis voll ausgestatteter Systeme von über 42.000 bis 50.000 US-Dollar, der primär durch die extrem teuren NVIDIA-Workstation-Grafikkarten und RAM-Preise getrieben wird.
Vergleich mit Apple Silicon: Es wird intensiv diskutiert, ob das System im Vergleich zu einem voll ausgebauten Apple Mac Studio (z. B. mit 256 GB einheitlichem Speicher) wirtschaftlich sinnvoll ist. Während Apple-Geräte beim einheitlichen Speicher günstiger sind, bieten die NVIDIA-Karten im System76-Rechner eine deutlich höhere Rechenleistung (FLOPS), höhere Speicherbandbreite und schnellere Prefill-Token-Raten.
Kritik an CPU-Auswahl: Einige Nutzer kritisieren die Wahl von Consumer-Desktop-Prozessoren (wie dem AMD Ryzen 9 9950X) anstelle von AMD Threadripper-CPUs bei Workstations dieser Preisklasse, da Consumer-CPUs Limitktionen bei den PCIe-Lanes aufweisen, was zu Drosselungen bei NVMe-SSDs führen kann.
Hardware-Knappheit und Inflation: Diskutiert wird ein genereller Preisanstieg bei SSDs, RAM und High-End-Grafikkarten, der den Betrieb und die Anschaffung solcher Workstations stark verteuert.
Open Source & Fertigung: Positiv hervorgehoben wird der Ansatz von System76, offene Hardware anzubieten, die in den USA (Denver, Colorado) gefertigt wird und modulare Upgrades sowie vollständige Reparierbarkeit erlaubt.
Glossar
VRAM (Video RAM): Dedizierter Grafikspeicher, der direkt auf der GPU sitzt und für das Laden von KI-Modellgewichten und Texten unerlässlich ist.
ECC GPU Memory (Error-Correcting Code GPU-Speicher): Arbeitsspeicher mit Fehlerkorrektur, der Datenkorruption bei langen und rechenintensiven KI-Trainingsläufen verhindert.
PCIe Gen5 NVMe SSD: Solid-State-Drive mit Schnittstelle des Peripheral Component Interconnect Express in Generation 5, die extrem hohe Datenübertragungsraten ermöglicht.
Bifurkation: Aufteilung eines PCIe-Steckplatzes (z. B. x16 in zwei x8-Kanäle), um mehrere PCIe-Geräte an denselben physischen Bus anzuschließen.
Max-Q: Eine von NVIDIA entworfene Design- und Effizienzoptimierung für Grafikkarten, die auf einen niedrigeren Energieverbrauch und optimierte thermische Leistung abzielt.
FLOPS (Floating Point Operations Per Second): Maßeinheit für die Rechenleistung eines Computers bei Gleitkommaoperationen, wichtig für KI-Berechnungen.
TTFT (Time to First Token): Die Zeit, die ein Sprachmodell benötigt, um nach einer Anfrage das erste Antwort-Token zu generieren.
Prefill-Rate: Die Geschwindigkeit, mit der ein KI-Modell den initialen Eingabetext (Prompt) verarbeitet, bevor die eigentliche Textgenerierung beginnt.
SFX 80+ Gold: Ein kompakter Netzteil-Formfaktor mit einer Energieeffizienz-Zertifizierung von mindestens 87 % bei Last.