KI & LLMs
KV-Cache quantisieren: Mehr Kontext im selben VRAM mit Ollama und llama.cpp
GGUF-Quantisierung wählen: Berechne RAM und VRAM für dein lokales KI-Modell Schritt für Schritt. Finde jetzt die passende Variante!
#
Schlagwort: lokale ki-modelle
Homelab & Server
Strom sparen im KI-Homelab: Modell entladen, Power-Limit setzen, Server schlafen legen
Lokale KI-Modelle 2026: Was kostet dich der Strom im Homelab? Erfahre, wie du Verbrauch und Kosten berechnest und Strom sparst. Jetzt lesen!
KI & LLMs
Lokale Coding-LLMs für Python vergleichen: Ein Verfahren für dein Homelab
Vergleiche lokale Coding-LLMs für Python in deinem Homelab Schritt für Schritt: Qualität, Tempo und Hardware im Blick. Jetzt lesen!
KI & LLMs
VRAM-Rechentabelle: Q4_K_M, Q5_K_M und Q8_0 für vier Modelle durchgerechnet
Q4_K_M, Q5_K_M oder Q8? Finde Schritt für Schritt die passende Quantisierung für dein VRAM-Budget 2026. Jetzt vergleichen!
Anleitungen & Tipps
Ollama installieren & einrichten 2026: Lokale KI im Homelab
Ollama installieren und einrichten 2026: Schritt-für-Schritt lokale KI-Modelle im Homelab betreiben. Jetzt starten und datenschutzkonform loslegen!
KI & LLMs
KI-Homelab-Server 2026: Hardware richtig wählen
Homelab-Server 2026 selbst bauen: CPU, GPU, RAM & VRAM richtig wählen für lokale KI-Modelle wie Llama & Co. Jetzt Hardware-Guide lesen!