Mini-PC vs. Desktop-GPU: Was lohnt sich 2026 für dein lokales KI-Modell wirklich?
Lesezeit: etwa 14 Minuten
Ein Sprachmodell zu Hause laufen zu lassen, ist 2026 keine Bastelei mehr. Ollama, LM Studio und llama.cpp bringen Modelle in Minuten zum Laufen, und die Modelle selbst sind so viel effizienter geworden, dass Hardware genügt, die vor zwei Jahren nicht gereicht hätte.
Damit verschiebt sich die Frage. Sie lautet nicht mehr „geht das überhaupt“, sondern: Reicht ein kompakter Mini-PC mit Unified Memory – oder brauchst du einen Desktop mit dedizierter Grafikkarte? Beide Wege führen zum Ziel, kosten aber unterschiedlich viel Geld, Strom und Geduld.
Die ehrliche Antwort hängt an einer einzigen Zahl, die in kaum einer Kaufberatung auftaucht: der Speicherbandbreite. Eine gebrauchte RTX 3090 schaufelt rund 936 GB/s durch ihren Speicher, ein M4 Pro etwa 273 GB/s. Weil die Token-Geschwindigkeit fast direkt an dieser Zahl hängt, erklärt sie fast alles, was du unten liest — inklusive der Kuriosität, dass ein älterer M3 Max Tokens schneller ausspuckt als der neuere M4 Pro.
Dieser Ratgeber für aimageddon.de sortiert die Faktenlage Juli 2026. Wenn du die Grundlagen zu VRAM und Modellgrößen noch brauchst, findest du sie in unserer Kaufberatung fürs erste Homelab-KI-Setup; welches Modell auf welche Hardware passt, klärt der Modell-Guide 2026. Hier geht es um die Formfaktor-Entscheidung.
Zur Einordnung: aimageddon.de testet keine Hardware selbst. Was folgt, ist die Zusammenfassung öffentlich verfügbarer Messwerte und Herstellerangaben, übersetzt in eine Kaufentscheidung.
Die Zahl, um die es geht
| Hardware | Speicherbandbreite | Speicher |
|---|---|---|
| RTX 3090 (gebraucht) | ~936 GB/s | 24 GB VRAM |
| Mac Studio M3 Ultra | ~800 GB/s | bis 256 GB unified |
| M3 Max | ~400 GB/s | bis 128 GB unified |
| M4 Pro | ~273 GB/s | bis 64 GB unified |
| AMD Ryzen AI Max+ 395 („Strix Halo“) | ~256–273 GB/s | 128 GB unified |
| NVIDIA DGX Spark | ~273 GB/s | 128 GB unified |
Lies die Tabelle so: Eine sechs Jahre alte Gebraucht-GPU hat mehr als die dreifache Bandbreite eines aktuellen Mini-PC-Chips. Dafür passen in den Mini-PC Modelle, an denen die GPU scheitert. Das ist der ganze Konflikt in zwei Sätzen.
Warum lokale KI-Modelle 2026 boomen
Datenschutz und Unabhängigkeit
Der stärkste Grund ist der Datenfluss. Alles, was du einer Cloud-API schickst, verlässt dein Netz. Bei einem lokalen Modell bleiben Prompts, Dokumente und Antworten auf deiner Hardware — für Kanzlei-Schriftsätze, Patientendaten oder interne Betriebsdaten kein Komfort, sondern Voraussetzung. Dazu kommt Unabhängigkeit: keine Token-Abrechnung, keine Rate-Limits, keine Preisänderung über Nacht, kein Modell, das ohne Vorwarnung sein Verhalten ändert.
Was du realistisch erwarten kannst
Ein lokales 7B- bis 14B-Modell auf Consumer-Hardware ersetzt nicht das größte Cloud-Modell. Für Textzusammenfassungen, Coding-Hilfe, Übersetzungen und Fragen an eigene Dokumente reicht es in vielen Fällen völlig. Der Abstand zur kommerziellen Spitze liegt bei etwa 18 bis 24 Monaten — beeindruckend wenig, aber eben eine Grenze.
Der Mini-PC-Ansatz: Unified Memory
Wie Unified Memory funktioniert
Mini-PCs mit Apple Silicon oder AMDs Ryzen-AI-Max-Chips teilen sich einen gemeinsamen Speicherpool zwischen CPU und GPU. Der praktische Vorteil: Was als „64 GB RAM“ verkauft wird, steht der GPU weitgehend zur Verfügung. Ein Mac mini mit 64 GB kann damit Modelle laden, an denen eine 24-GB-Grafikkarte scheitert — ohne dass etwas auf die langsame SSD ausgelagert wird.
Ein Detail für die Kalkulation: macOS reserviert für sich rund 3,5 GB. Auf einem 24-GB-Gerät bleiben dir also etwa 20,5 GB nutzbar — knapp für ein 21-GB-Modell.
Was in der Praxis läuft
Konkret wird es mit Qwen3.6-35B-A3B, seit dem 16. April 2026 als Open Weights verfügbar. Der Name ist wichtiger, als er aussieht: 35 Milliarden Parameter insgesamt, aber nur 3 Milliarden aktiv pro Token (das „A3B“). Bei Q4 belegt es rund 21 GB.
Die Messwerte aus der Community, gerundet:
Wer einen Mac fürs lokale Rechnen kauft, sollte die 32-GB-Schwelle ernst nehmen — darunter wird es eng, darüber entspannt.
Der Stromvorteil ist real
Hier gewinnt der Mini-PC klar. Ein Mac mini zieht unter KI-Last rund 30 Watt. Eine dicke Desktop-GPU unter Volllast liegt beim Zehnfachen und mehr. Wer sein Modell rund um die Uhr bereithalten will, zahlt diesen Unterschied jeden Monat. Rechne selbst nach: Watt × Stunden × 365 ÷ 1.000 × dein Arbeitspreis pro kWh.
Was der Mini-PC nicht kann
Zwei harte Grenzen. Erstens die Bandbreite: Bei Modellen, die auch in eine Grafikkarte passen, ist der Mac spürbar langsamer — je nach Vergleich 30 bis 60 Prozent. Zweitens die Aufrüstbarkeit: Unified Memory ist verlötet. Was du kaufst, hast du für die Lebensdauer des Geräts. Bei einem Desktop steckst du eine zweite Karte dazu.
Und ein dritter Punkt, der 2026 dazugekommen ist: Apple hat die 512-GB-Option des Mac Studio M3 Ultra Anfang März 2026 gestrichen — ausdrücklich wegen der globalen DRAM-Knappheit. Die Obergrenze liegt jetzt bei 256 GB. Wer auf die größte Konfiguration spekuliert hat, muss umplanen.
Der Desktop-Ansatz: dedizierte GPU
Warum VRAM und Bandbreite gewinnen
Eine dedizierte Grafikkarte hat schnellen, exklusiv angebundenen Speicher — und das schlägt sich direkt in Token pro Sekunde nieder. Auf einer gebrauchten RTX 3090 läuft dasselbe Qwen3.6-35B-A3B bei Q4 mit rund 55 bis 65 Token/s. Dazu kommt das ausgereiftere Ökosystem: CUDA ist bei den meisten Werkzeugen der erste Zielpfad, Bildgenerierung profitiert besonders davon.
Die Kandidaten und ihre Preisrealität
Der Markt ist 2026 unschön, weil die Speicherknappheit auch die Grafikkarten erfasst hat — GDDR6 und GDDR7 entstehen in denselben Fabriken wie der knappe Arbeitsspeicher.
- Gebrauchte RTX 3090 (24 GB) — international etwa 700 bis 900 US-Dollar. Das beste Verhältnis von Preis zu Gigabyte VRAM, das der Markt hergibt, und der Grund, warum sie 2026 immer noch die Standardempfehlung ist.
- RTX 5090 (32 GB) — UVP 1.999 US-Dollar, real deutlich darüber; Fachpresse hält Preise Richtung 4.000 Euro für realistisch.
- RTX 5060 Ti (16 GB) — von rund 420 auf etwa 540 Euro gestiegen.
- RTX 3060 (12 GB) — von NVIDIA wieder in den Handel gebracht, ab rund 333 Euro. Im Sommer 2025 kostete dieselbe Karte etwa 245 Euro. Eine vier Jahre alte Karte, die teurer wird.
Für 35B-A3B bei Q4 brauchst du 24 GB. 16-GB-Karten reichen dafür nicht — dort läuft ein Teil über CPU und RAM, und das Tempo bricht auf rund 5 bis 10 Token/s ein. Auf 16 GB nimmst du besser das dichte Qwen3.6-27B (etwa 16,8 GB bei Q4).
Was der Desktop kostet
Der Stromverbrauch ist der offensichtliche Preis. Der zweite ist der Arbeitsspeicher: Ein 32-GB-DDR5-Kit liegt im Juni 2026 laut Preisbarometer der Fachpresse bei 440 bis 460 Euro — ein Plus von rund 419 Prozent gegenüber dem Vorjahr. Wer nach der alten Faustregel „System-RAM = doppelter VRAM“ plant, zahlt für 64 GB fast 900 Euro und damit mehr als für die GPU. Für reine GPU-Inferenz reichen in vielen Setups 32 GB.
Dazu kommen Netzteil, Gehäuse, Kühlung, Lautstärke und Platz. Ein Multi-GPU-Rig ist die schnellste Lösung dieser Liste — und die, die im Wohnzimmer am wenigsten Freunde findet.
MoE ändert die Rechnung
Diese Architekturfrage entscheidet 2026 darüber, ob ein Mini-PC eine gute Idee ist.
Dense-Modelle aktivieren für jedes Token alle Parameter — sie hängen voll an der Bandbreite und laufen auf Unified-Memory-Geräten entsprechend zäh. MoE-Modelle aktivieren nur einen Bruchteil. Qwen3.6-35B-A3B verhält sich beim Tempo eher wie ein 3B-Modell, obwohl 35B im Speicher liegen.
Genau deshalb sind die neuen MoE-Modelle für Mini-PCs so wichtig: Sie umgehen exakt die Schwäche dieser Geräte. Ein dichtes 70B-Modell kriecht auf einer 128-GB-Box mit wenigen Token pro Sekunde vor sich hin — technisch lauffähig, praktisch unbenutzbar.
Merk dir: MoE spart Rechenzeit, aber keinen Speicher. Alle 35 Milliarden Parameter müssen rein, auch wenn nur 3 Milliarden rechnen.
Direktvergleich: Was passt zu dir?
| Mini-PC (Unified Memory) | Desktop mit dedizierter GPU | |
|---|---|---|
| Speicher fürs Modell | bis 128 GB (Mac Studio bis 256 GB) | 12–32 GB pro Karte, mehrere Karten möglich |
| Bandbreite | ~273–800 GB/s | ~936 GB/s (RTX 3090) |
| Tempo bei passenden Modellen | 30–60 % langsamer | Referenz |
| Tempo bei großen Modellen | läuft überhaupt | passt nicht rein |
| Stromaufnahme | ~30 W unter Last | ein Vielfaches |
| Lautstärke, Platz | lautlos, handtellergroß | hörbar, Towergröße |
| Aufrüstbar | nein – Speicher ist verlötet | ja – zweite Karte, mehr RAM |
| Ökosystem | MLX, Ollama, llama.cpp | CUDA – der erste Zielpfad fast aller Tools |
| Bildgenerierung | funktioniert, langsamer | deutlich stärker |
Die drei typischen Fälle
Nimm den Mini-PC, wenn dein Gerät leise auf dem Schreibtisch stehen und rund um die Uhr erreichbar sein soll, wenn du mit MoE-Modellen arbeitest und wenn dir 30 Watt lieber sind als 350. Der Mac mini mit 32 GB ist der vernünftige Einstieg, 64 GB der Sweet Spot.
Nimm den Desktop, wenn Tempo zählt, wenn du Bilder generierst, wenn du auf CUDA-Werkzeuge angewiesen bist oder wenn du später aufrüsten willst. Die gebrauchte RTX 3090 bleibt die Referenz, und zwei davon (48 GB) schlagen preislich wie beim Tempo jede 128-GB-Box.
Nimm die 128-GB-Box — DGX Spark, Strix-Halo-Geräte wie den GMKtec EVO-X2 oder den Framework Desktop — nur, wenn du wirklich Modelle jenseits von 48 GB brauchst. Du kaufst dort Kapazität und Kompaktheit, nicht Tempo.
Häufige Fehler vermeiden
| Fehler | Warum er dich trifft |
|---|---|
| Nach Rechenleistung statt Bandbreite und Speicher kaufen | Token-Tempo hängt an der Bandbreite. Ein neuerer Chip mit weniger Bandbreite ist langsamer als ein älterer mit mehr. |
| Beim Mini-PC am Speicher sparen | Unified Memory ist verlötet. Was du heute nicht kaufst, kaufst du nie nach. Unter 32 GB wird es eng. |
| Die RAM-Faustregel blind anwenden | „Doppelter VRAM“ kostet bei 64 GB DDR5 rund 900 Euro — mehr als die GPU. Für reine GPU-Inferenz reichen oft 32 GB. |
| 16-GB-Karte für ein 21-GB-Modell | Das Modell läuft teilweise über CPU und RAM, das Tempo bricht auf 5–10 Token/s ein. Lieber das kleinere dichte Modell nehmen. |
| Dense und MoE verwechseln | Ein dichtes 70B kriecht dort, wo ein 35B-MoE flüssig läuft. Die Parameterzahl allein sagt nichts über das Tempo. |
| Stromkosten ausblenden | 30 Watt gegen mehrere Hundert — im Dauerbetrieb ist das der größte Posten nach der Anschaffung. |
| Auf die größte Mac-Konfiguration spekulieren | Die 512-GB-Option ist seit März 2026 gestrichen. Bei 256 GB ist Schluss. |
| Modellnamen aus Blogs übernehmen | „Qwen3.5 35B“ existiert nicht — gemeint ist Qwen3.6-35B-A3B. Prüf Namen in der offiziellen Modellbibliothek. |
Praktische Handlungsempfehlungen Juli 2026
- Erst das Modell, dann die Hardware. Aus der Modellgröße bei Q4 ergibt sich der Speicherbedarf — und daraus das Gerät. Nicht umgekehrt.
- Auf die Bandbreite schauen, nicht auf die Chip-Generation. Bei Mini-PCs ist sie die entscheidende Kennzahl.
- Mini-PC: mindestens 32 GB, besser 64. Verlötet heißt endgültig.
- Desktop: gebrauchte RTX 3090. 24 GB zum besten Preis pro Gigabyte. Für 70B-Klasse zwei davon.
- RAM nach Workload dimensionieren, nicht nach Formel — bei aktuellen Preisen zählt jeder Riegel.
- MoE bevorzugen, wenn du Unified Memory nutzt. Es umgeht genau dessen Schwäche.
- Stromrechnung vorher machen. Watt × Stunden × 365 ÷ 1.000 × Arbeitspreis. Danach entscheiden, ob Dauerbetrieb Sinn ergibt.
- Modellnamen und Preise vor dem Kauf prüfen. Beides ändert sich in dieser Nische im Wochenrhythmus.
Fazit
Es gibt keinen Sieger, sondern zwei saubere Antworten auf zwei verschiedene Fragen. Willst du ein leises Gerät, das jederzeit bereitsteht, wenig Strom zieht und auch mal ein größeres Modell verkraftet, ist der Mini-PC mit 32 oder 64 GB die richtige Wahl — besonders mit den neuen MoE-Modellen, die seine Bandbreitenschwäche elegant umgehen. Willst du Tempo, Bildgenerierung und die Freiheit, später aufzurüsten, führt kein Weg an einer dedizierten GPU vorbei, und die gebrauchte RTX 3090 ist 2026 immer noch die vernünftigste davon.
Was beide Wege 2026 gemeinsam haben: Sie sind teurer, als sie sein sollten. Die Speicherknappheit hat DDR5 vervierfacht, treibt die GPU-Preise und hat Apple sogar die größte Speicherkonfiguration gestrichen. Wenn du das Setup brauchst, bau es trotzdem jetzt — Marktforscher erwarten frühestens 2027 Entspannung. Nur eben nach Bedarf und nicht nach Wunschzettel.
Quellen und weiterführende Informationen
- Best Local LLMs for Mac 2026 — M1 through M5 Tested (insiderllm.com) – Bandbreiten-Vergleich, Stromaufnahme und Apples Streichung der 512-GB-Option.
- Qwen 3.6 VRAM & Hardware Requirements — 35B-A3B MoE Guide (willitrunai.com) – Speicherbedarf je Quantisierung, Empfehlungen nach Budget.
- Qwen 3.5 MLX on Apple Silicon (willitrunai.com) – Messwerte von M4 16 GB bis M3 Ultra, MLX-Eigenheiten.
- Speicherkrise: Preisentwicklung bei RAM, SSDs und Grafikkarten (pcgameshardware.de) – laufendes Preisbarometer zu DDR5, DDR4 und GPUs.
- Ollama-Modellbibliothek (ollama.com/library) – verbindliche Modellnamen, Tags und Größen.
Haftungsausschluss
Allgemeine Information, keine eigenen Tests. Dieser Artikel fasst öffentlich verfügbare Messwerte, Community-Benchmarks und Herstellerangaben zusammen; aimageddon.de testet keine Hardware selbst. Er ersetzt keine individuelle Beratung. Der KI-Hardware-Markt entwickelt sich außergewöhnlich schnell: Modelle, Treiber, Frameworks und Preise können wenige Wochen nach Erscheinen überholt sein. Genannte Token-Werte sind Näherungen aus Community-Berichten und variieren je nach Quantisierung, Kontextlänge, Framework-Version und Systemlast erheblich – auf deiner Hardware können sie deutlich abweichen.
Preise sind Momentaufnahmen. Alle Preisangaben entsprechen dem Recherchestand Juli 2026 und sind angesichts der anhaltenden Speicherknappheit besonders volatil; Angaben in US-Dollar stammen aus internationalen Quellen und lassen sich nicht 1:1 auf deutsche Straßenpreise übertragen. Nach § 11 PAngV müssen Händler bei Rabattwerbung den niedrigsten Preis der letzten 30 Tage ausweisen – ein nützlicher Prüfstein in einem Markt, in dem „Angebot“ derzeit wenig bedeutet.
Betrieb, Strom und Lizenzen. Die Beispielrechnung zum Stromverbrauch beruht auf angenommenen Werten und ist keine Zusage – setz deine eigenen Verbrauchs- und Tarifdaten ein. Lokale Modelle verarbeiten Anfragen auf deiner Hardware, doch viele Frontends kommunizieren im Hintergrund mit externen Servern; prüf die Datenschutzeinstellungen jeder Software. Die Lizenzbedingungen offener Modelle unterscheiden sich erheblich: Manche stehen unter freien Lizenzen wie Apache 2.0 oder MIT, andere schließen kommerzielle Nutzung oder ganze Regionen aus. Prüf die Bedingungen des konkreten Modells vor dem produktiven Einsatz; das hier ist keine Rechtsberatung.
Deine Rechte und Affiliate. Beim Kauf im Fernabsatz steht dir nach § 312g BGB ein 14-tägiges Widerrufsrecht zu; § 312k BGB verpflichtet Anbieter von Abos zu einem gut sichtbaren Kündigungsbutton. Bei Sachmängeln greifen §§ 437, 438 BGB mit zwei Jahren Frist, in den ersten zwölf Monaten mit Beweislastumkehr nach § 477 BGB; bei privaten Gebrauchtkäufen entfällt die Mängelhaftung in der Regel. Die EU-Richtlinie 2019/771 sichert den Rahmen europaweit. Die §§ 5, 5a und 5b UWG untersagen irreführende Angaben und ungeprüfte Bewertungen. Einige Links führen zum Amazon-Partnerprogramm oder zum Awin-Netzwerk; kaufst du darüber, erhalten wir eine Provision ohne Mehrkosten für dich. Alle Markennamen sind eingetragene Warenzeichen der jeweiligen Inhaber.
👉 AMD Ryzen AI Max+ 395 („Strix Halo”) auf Amazon ansehen
👉 Mac mini M4 auf Amazon ansehen
Affiliate-Hinweis: Dieser Beitrag enthält Affiliate-Links (mit * oder als Amazon-Partnerlink gekennzeichnet). Bei einem Kauf über diese Links erhalten wir eine kleine Provision – für dich entstehen dabei keine zusätzlichen Kosten. Wir empfehlen nur Produkte, die wir für sinnvoll halten.
