Strom sparen im KI-Homelab: Modell entladen, Power-Limit setzen, Server schlafen legen
Wie viel Strom dein KI-Server zieht, misst du an der Steckdose. Wie du das machst und die Werte in Euro umrechnest, steht in unserem Artikel Stromkosten lokaler KI: Idle und Energie pro Token. Dieser Guide setzt danach an: Mit welchen Einstellungen senkst du den Verbrauch, und was kostet dich jede davon an Komfort?
Es geht um drei Hebel, die du ohne neue Hardware nutzen kannst. Erstens gibst du das Modell aus dem Speicher frei, wenn es nicht gebraucht wird. Zweitens begrenzt du die Leistungsaufnahme der Grafikkarte. Drittens lässt du den ganzen Rechner schlafen und weckst ihn bei Bedarf über das Netzwerk. Die Befehle beziehen sich auf einen Linux-Server mit Ollama und NVIDIA-Grafikkarte und stammen aus der jeweiligen offiziellen Dokumentation. Wie viel ein Hebel bei dir spart, zeigt erst deine eigene Messung.
Die drei Hebel im Überblick
| Hebel | Was er bewirkt | Was es nicht leistet |
|---|---|---|
Modell entladen (Ollama keep_alive) | Gibt Grafik- und Arbeitsspeicher frei, wenn keine Anfragen kommen. | Der Rechner bleibt an. Die nächste Anfrage muss das Modell neu laden und startet dadurch später. |
Power-Limit (nvidia-smi -pl) | Begrenzt die Leistungsaufnahme der Grafikkarte unter Last. | Senkt nicht den Leerlauf des restlichen Systems. Antworten können länger dauern. |
| Ruhezustand + Wake-on-LAN | Der Rechner schläft zwischen den Sitzungen und wird per Netzwerk geweckt. | Ein Dienst, der jederzeit sofort antworten soll, ist damit nicht vereinbar. Funktioniert nur mit passender Hardware und Konfiguration. |
Hebel 1: Modell nach der Nutzung entladen
Ollama hält ein Modell laut offizieller FAQ standardmäßig fünf Minuten im Speicher, damit Folgeanfragen schnell beantwortet werden. Die Dauer stellst du an zwei Stellen ein:
- Pro Anfrage: mit dem Parameter
keep_alivean/api/generateoder/api/chat. Möglich sind eine Dauer wie"10m", eine Zahl in Sekunden oder eine negative Zahl. Eine negative Zahl hält das Modell dauerhaft im Speicher,0entlädt es direkt nach der Antwort. - Für den ganzen Server: mit der Umgebungsvariablen
OLLAMA_KEEP_ALIVE. Bei einem systemd-Dienst trägst du sie mitsystemctl edit ollama.servicealsEnvironment="OLLAMA_KEEP_ALIVE=…"unter[Service]ein. Danach folgensystemctl daemon-reloadundsystemctl restart ollama. Einkeep_alivein der einzelnen Anfrage hat Vorrang.
Mit ollama ps siehst du, welche Modelle gerade geladen sind. ollama stop <modell> entlädt eines sofort. Per API listet GET /api/ps die geladenen Modelle auf (Ollama API-Doku).
Was du abwägst: Eine kurze Haltezeit gibt den Speicher schnell frei. Dafür lädt jede Anfrage nach einer Pause das Modell neu. Ob das Entladen an der Steckdose messbar etwas spart, hängt von Grafikkarte und Treiber ab. Miss den Leerlauf einmal mit und einmal ohne geladenes Modell, bevor du dich festlegst. Wenn du den Rechner ohnehin schlafen legst (Hebel 3), ist die Haltezeit vor allem für die Wachphasen interessant.
Hebel 2: Power-Limit der Grafikkarte setzen
Mit nvidia-smi -pl <Watt> legst du laut NVIDIA-Dokumentation die maximale Leistungsaufnahme der Grafikkarte fest. Der Wert muss zwischen dem minimalen und maximalen Power-Limit liegen, das nvidia-smi für deine Karte meldet. Diese Grenzen zeigt dir nvidia-smi -q -d POWER. Der Befehl braucht Root-Rechte. Bei mehreren Karten wählst du die Karte mit -i aus.
Das Limit bleibt nicht dauerhaft gespeichert. Laut NVIDIA springt es nach dem Entladen des Treibers auf den Standardwert zurück, spätestens also nach einem Neustart. Damit es dauerhaft gilt, setzt du den Befehl beim Systemstart erneut, etwa über einen eigenen systemd-Dienst.
Was du abwägst: Ein niedrigeres Limit senkt die Spitzenleistung, die Generierung kann aber länger dauern. Entscheidend ist die Energie pro Aufgabe, nicht der Momentanwert in Watt. Lass deshalb dieselbe Aufgabe einmal mit und einmal ohne Limit laufen und vergleiche an der Steckdose Energie und Dauer. Das Limit greift nur unter Last. Am Leerlaufverbrauch des Rechners ändert es wenig.
Hebel 3: Ruhezustand und Wake-on-LAN
Den größten Effekt hat es, wenn der Rechner gar nicht läuft. Mit systemctl suspend schickst du einen Linux-Server in den Ruhezustand. Geweckt wird er über ein „Magic Packet“ aus dem Netzwerk. Laut Arch Wiki gilt dafür:
- Hardware: Mainboard und Netzwerkkarte müssen Wake-on-LAN unterstützen. Der Rechner hängt per Kabel am Netz, außer die WLAN-Karte beherrscht Wake on Wireless.
- BIOS/UEFI: Aktiviere die Wake-on-LAN-Option. Die Bezeichnung variiert, etwa „PCI Power up“. Deaktiviere ErP, falls vorhanden, sonst bekommt die Netzwerkkarte im Schlaf keinen Strom.
- Netzwerkkarte:
ethtool <interface> | grep Wake-onzeigt den Status.ethtool -s <interface> wol gaktiviert das Wecken per Magic Packet. Die Einstellung kann einen Neustart nicht überleben. Dauerhaft wird sie zum Beispiel mitWakeOnLan=magicin einer systemd-.link-Datei. - Wecken: Von einem anderen Gerät im selben Netz schickst du das Paket an die MAC-Adresse des Servers, etwa mit dem Tool
wol. Manche Mainboards wachen nur aus dem Ruhezustand auf, nicht aus dem ausgeschalteten Zustand.
Bekannte Stolperfalle: Laut Ollama-GPU-Doku findet Ollama unter Linux die NVIDIA-Karte nach einem Ruhezustand manchmal nicht mehr und rechnet dann auf dem Prozessor. Als Abhilfe nennt die Doku, das UVM-Modul neu zu laden: sudo rmmod nvidia_uvm && sudo modprobe nvidia_uvm. Prüfe nach dem ersten Aufwachen mit ollama ps, ob das Modell wieder auf der GPU läuft.
Automatisch schlafen, wenn nichts zu tun ist
Den Ruhezustand von Hand auszulösen vergisst man leicht. Das Open-Source-Tool autosuspend legt einen Server schlafen, wenn vorher festgelegte Aktivitätsprüfungen nichts melden. Laut Doku gibt es unter anderem diese Prüfungen:
- ActiveConnection: blockiert den Ruhezustand, solange ein Client mit bestimmten Ports verbunden ist, zum Beispiel per SSH.
- Processes: blockiert den Ruhezustand, solange bestimmte Prozesse laufen.
- NetworkBandwidth: blockiert ihn, solange auf einer Schnittstelle mehr als eine festgelegte Bandbreite genutzt wird.
- ExternalCommand: führt einen eigenen Befehl aus. Liefert er den Rückgabewert 0, gilt das System als aktiv.
In Verbindung mit Hebel 1 lässt sich so eine Regel bauen: Solange Ollama ein Modell geladen hat (abfragbar über ollama ps oder /api/ps), bleibt der Server wach. Ist das Modell nach der keep_alive-Zeit entladen und meldet keine weitere Prüfung Aktivität, schläft er ein. Teste eine solche Regel vor dem Dauerbetrieb, denn der genaue Befehl hängt von deinem Setup ab. Laufen andere Dienste auf demselben Server, etwa ein NAS oder Home Assistant, nimm sie in die Prüfungen auf oder verzichte auf den automatischen Ruhezustand.
Welcher Hebel passt zu deinem Betrieb?
KI nur in geplanten Sitzungen: Ruhezustand mit Wake-on-LAN, dazu eine kurze keep_alive-Zeit. Das bringt am meisten, weil der Rechner die meiste Zeit gar nicht läuft.
Dienst, der jederzeit antworten soll: Hier fällt der Ruhezustand weg. Miss, ob das Entladen des Modells deinen Leerlauf senkt, und prüfe ein Power-Limit anhand der Energie pro Aufgabe.
Server mit weiteren Diensten: Der Leerlauf fällt ohnehin an. Für die KI bleiben das Power-Limit und eine angepasste Haltezeit. Welche Kosten du der KI zurechnest, erklärt der Artikel Stromkosten Homelab-KI-Server.
Häufige Fehler beim Stromsparen im KI-Homelab
| Fehler | Was stattdessen gilt |
|---|---|
OLLAMA_KEEP_ALIVE in der Shell setzen, obwohl Ollama als systemd-Dienst läuft | Die Variable per systemctl edit ollama.service eintragen und den Dienst neu starten. |
| Ein Power-Limit setzen und davon ausgehen, dass es dauerhaft gilt | Nach dem Entladen des Treibers gilt wieder der Standardwert. Setze das Limit beim Systemstart neu. |
| Das Power-Limit nach dem Wattwert bewerten | Energie und Dauer derselben Aufgabe vergleichen. |
Wake-on-LAN nur per ethtool aktivieren | Auch BIOS/UEFI prüfen, ErP abschalten und die Einstellung dauerhaft machen. |
| Nach dem Aufwachen nicht prüfen, ob die GPU genutzt wird | Mit ollama ps kontrollieren, ob das Modell wieder auf der GPU läuft. Bei Bedarf nvidia_uvm neu laden. |
| Den automatischen Ruhezustand nur an die KI koppeln | Alle Dienste auf dem Server in die Aktivitätsprüfungen aufnehmen. |
| Eine Einsparung annehmen, ohne nachzumessen | Vorher und nachher an der Steckdose messen. |
Praktische Handlungsempfehlungen November 2026
Miss den Ausgangswert. Halte an der Steckdose den Leerlauf mit und ohne geladenes Modell fest, dazu Energie und Dauer einer typischen Aufgabe.
Stell die Haltezeit passend zu deinen Pausen ein. Setze OLLAMA_KEEP_ALIVE so, dass das Modell bei längeren Pausen entladen wird. Kontrolliere das Ergebnis mit ollama ps.
Probier ein Power-Limit aus. Lies mit nvidia-smi -q -d POWER die Grenzen deiner Karte aus und vergleiche dieselbe Aufgabe mit und ohne Limit. Behalte das Limit nur, wenn die Energie pro Aufgabe sinkt.
Richte Wake-on-LAN ein, bevor du den Ruhezustand nutzt. Prüfe BIOS/UEFI, ethtool und das Wecken von einem anderen Gerät. Erst danach legst du den Server ferngesteuert schlafen.
Automatisiere zuletzt. Mit autosuspend oder einem eigenen Skript machst du den Ruhezustand zur Gewohnheit, sobald die Handgriffe zuverlässig funktionieren.
Fazit
Wenn dein KI-Server nicht rund um die Uhr erreichbar sein muss, sparst du am meisten durch Ausschalten: Ruhezustand mit Wake-on-LAN, dazu eine kurze Haltezeit für das Modell. Power-Limit und keep_alive sind die Feinarbeit für Server, die durchlaufen müssen.
Behalte jede Einstellung nur, wenn deine Messung an der Steckdose eine Einsparung zeigt und dich der Komfortverlust nicht stört. Ein Modell, das bei jeder Anfrage neu geladen wird, oder ein Server, der nicht zuverlässig aufwacht, kostet dich am Ende mehr Nerven, als er an Strom spart.
Quellen und weiterführende Informationen
- Ollama FAQ (
keep_alive,OLLAMA_KEEP_ALIVE,ollama stop, Server-Konfiguration unter Linux) - Ollama API-Dokumentation (
GET /api/ps: geladene Modelle) - Ollama GPU-Dokumentation (Linux Suspend/Resume, Neuladen von
nvidia_uvm) - NVIDIA: nvidia-smi Dokumentation (
--power-limit, Root-Rechte, Rückkehr zum Standardwert nach dem Entladen des Treibers) - Arch Wiki: Wake-on-LAN (BIOS/UEFI, ErP,
ethtool,WakeOnLan=magic) - autosuspend: Available activity checks (ActiveConnection, Processes, NetworkBandwidth, ExternalCommand)
Haftungsausschluss
Transparenzhinweis: Dieser Artikel ordnet öffentlich zugängliche Informationen ein, vor allem die oben genannten Dokumentationen (Stand: November 2026). Wir testen und messen nicht selbst. Wie viel du einsparst, hängt von Hardware, Treiber und Nutzung ab, deshalb nennen wir keine Sparbeträge.
Systemänderungen: Befehle mit Root-Rechten, Power-Limits und BIOS/UEFI-Einstellungen änderst du auf eigene Verantwortung. Bleib innerhalb der Grenzen, die nvidia-smi meldet. Schalte weder Lüfter noch Schutzfunktionen ab, und notiere die Ausgangswerte, damit du Änderungen zurücknehmen kannst.
Stand der Software: Befehle, Parameter und Standardwerte können sich mit neuen Versionen von Ollama, NVIDIA-Treiber oder Distribution ändern. Prüfe vor dem Einsatz die aktuelle Dokumentation.
Affiliate-Hinweis: Enthält dieser Artikel Links zu Produkten oder Händlern, kann es sich um Affiliate-Links handeln: Bei einem Kauf darüber erhält aimageddon.de eine Provision, ohne dass sich dein Preis erhöht. Genannte Markennamen sind Warenzeichen der jeweiligen Inhaber und dienen der sachlichen Information; es handelt sich um keine bezahlte Empfehlung.
👉 autosuspend auf Amazon ansehen
👉 oollama ps auf Amazon ansehen
👉 Ollama API auf Amazon ansehen
👉 systemd-.link-Datei auf Amazon ansehen
👉 Ollama keep_alive auf Amazon ansehen
👉 Power-Limit auf Amazon ansehen
👉 Power-Limit setzen auf Amazon ansehen
👉 Server schlafen legen auf Amazon ansehen
* Produktlinks sind Affiliate-Links. Bei einem Kauf über diese Links erhalten wir eine kleine Provision – für dich entstehen keine Mehrkosten.
Affiliate-Hinweis: Dieser Beitrag enthält Affiliate-Links (mit * oder als Amazon-Partnerlink gekennzeichnet). Bei einem Kauf über diese Links erhalten wir eine kleine Provision – für dich entstehen dabei keine zusätzlichen Kosten. Wir empfehlen nur Produkte, die wir für sinnvoll halten.
