Bester VPS für LLM-Hosting in 2026

Ein eigenes LLM zu betreiben bedeutet keine API-Kosten, keine Rate Limits und volle Datenprivatsphäre. Aber Sie brauchen den richtigen Server. Hier erfahren Sie, was für das Hosting von Sprachmodellen funktioniert — von kleinen 7B-Parameter-Modellen bis hin zu ernsthaften 70B-Deployments.

Erste Meinung: Der Mac M5 Ist Aktuell die Beste LLM-Maschine

Ich muss es gleich vorweg sagen — wenn Sie die absolut beste Erfahrung beim lokalen Betrieb von LLMs wollen, schlägt nichts Apples M5 Pro und M5 Max MacBook Pro.

Der M5 Max mit 128 GB Unified Memory und 614 GB/s Speicherbandbreite kann ein vollständiges 70B-Parameter-Modell in den Speicher laden und Inferenz mit Geschwindigkeiten durchführen, die NVIDIA A100s bei Einzelnutzer-Workloads alt aussehen lassen. Apple behauptet eine 4x schnellere LLM-Prompt-Verarbeitung im Vergleich zur M4-Generation, und nach ersten Benchmarks ist das kein Marketing-Bluff.

Warum Unified Memory für LLMs so wichtig ist: Bei einem traditionellen GPU-Setup sind Sie durch VRAM begrenzt (24 GB bei einer 4090, 40-80 GB bei einer A100). Beim M5 Max teilen sich GPU und CPU denselben 128 GB Speicherpool. Kein Kopieren von Daten zwischen CPU und GPU. Kein PCIe-Engpass. Das Modell sitzt einfach da, vollständig geladen, einsatzbereit.

Der M5 Max vs. die VPS-Realität:

	M5 Max (128 GB)	Hetzner A100 GPU	Hetzner CPX51 (CPU)
70B-Modell-Geschwindigkeit	~45-55 Tok/s	~30-40 Tok/s	~3-5 Tok/s
Speicher für Modell	128 GB Unified	40 GB VRAM	32 GB RAM
Monatliche Kosten	0$ (gehört Ihnen)	~320€/Mo	19,99€/Mo
Anschaffungskosten	~3.500-4.000$	0$	0$
Dauerbetrieb	Nein (Laptop)	Ja	Ja
Multi-User-Betrieb	Nicht ideal	Hervorragend	Eingeschränkt

Warum sagt dieser Artikel also nicht einfach „kaufen Sie einen Mac”? Weil ein Laptop kein Server ist. Sie können einen Mac nicht rund um die Uhr betreiben, um API-Anfragen für Ihre Apps, Ihre Agenten oder Ihr Team zu bedienen. Sie können sich nicht von überall per SSH verbinden. Er hat keine statische IP. Er steht nicht in einem Rechenzentrum mit redundanter Stromversorgung und Netzwerk.

Der M5 ist am besten für: persönliche Inferenz, lokale Entwicklung, Modelle betreiben während Sie programmieren, private KI-Assistenten auf eigener Hardware. Ich nutze meinen genau dafür — mit Modellen experimentieren, Prompts testen, lokale RAG-Pipelines betreiben.

Ein VPS ist am besten für: dauerhaften API-Betrieb, Multi-User-Zugang, Produktions-Workloads, Agenten-Infrastruktur, alles was laufen muss, wenn Ihr Laptop zugeklappt ist.

Für die meisten Leser dieser Seite ist die Antwort wahrscheinlich beides. Ein Mac für lokale Arbeit, ein VPS für Produktion. Allerdings — wenn Sie sich für eines entscheiden müssen und Ihr Anwendungsfall persönlich ist, kaufen Sie den Mac. Nichts anderes kommt derzeit heran.

Warum LLMs Selbst Hosten?

Pro Token zu zahlen summiert sich schnell. Ein aktiver Chatbot mit GPT-4 kann über 500$/Monat kosten. Ein VPS mit einem Open-Source-Modell? 20-80$/Monat, unbegrenzte Nutzung.

Selbst-Hosting macht Sinn, wenn:

• Sie Datenprivatsphäre brauchen (Gesundheitswesen, Recht, Finanzen)
• Sie ein planbares, hohes Volumen haben (Kundenservice, Dokumentenverarbeitung)
• Sie Modelle mit Ihren eigenen Daten fine-tunen wollen
• Sie niedrige Latenz ohne Netzwerk-Roundtrips brauchen
• Sie Rate Limits und API-Ausfälle leid sind

Bleiben Sie bei APIs, wenn:

• Sie Spitzenintelligenz brauchen (GPT-4, Claude 3.5)
• Die Nutzung sporadisch und gering ist
• Sie keine Infrastruktur verwalten wollen

Welche Specs Brauchen LLMs Wirklich?

Die Modellgröße bestimmt alles. Hier ist die Realität:

Modellgröße → Hardware-Anforderungen

Modellgröße	RAM/VRAM Benötigt	Beispiel-Modelle	Praktischer Einsatz
1-3B	4 GB	Phi-3 Mini, Gemma 2B	Einfache Aufgaben, Klassifikation
7-8B	8 GB	Llama 3.1 8B, Mistral 7B	Allgemeiner Chat, Programmierung, RAG
13B	12 GB	CodeLlama 13B, Vicuna 13B	Bessere Qualität, immer noch schnell
34-35B	24 GB	CodeLlama 34B, Yi 34B	Qualität nahe GPT-3.5
70B	48 GB+	Llama 3.1 70B, Qwen 72B	Qualität nahe GPT-4

Wichtigster Punkt: VRAM ist König bei GPU-Inferenz. Bei CPU-Inferenz zählt System-RAM am meisten. In beiden Fällen brauchen Sie genug Speicher, um das Modell zu halten.

Quantisierung Ändert Alles

Sie müssen Modelle nicht mit voller Präzision betreiben. Quantisierte Modelle (Q4_K_M, Q5_K_M) reduzieren den Speicherverbrauch um 60-75% bei minimalem Qualitätsverlust:

• Llama 3.1 8B volle Präzision: 16 GB → Q4_K_M: 4,7 GB
• Llama 3.1 70B volle Präzision: 140 GB → Q4_K_M: 40 GB

Deshalb kann ein 15$/Monat-VPS Modelle betreiben, die scheinbar Enterprise-Hardware erfordern.

Bester VPS für LLM-Hosting (CPU-Inferenz)

CPU-Inferenz ist langsamer, aber überraschend praktikabel für persönliche Nutzung und Low-Traffic-APIs. Moderne AMD EPYC und Intel Xeon Prozessoren mit AVX-512 verarbeiten quantisierte Modelle gut. Für eine einfachere Einrichtung siehe unseren Ollama VPS Guide.

1. Hetzner CPX51 — Bestes CPU-Preis-Leistungs-Verhältnis

19,99€/Mo | 16 vCPU (AMD EPYC), 32 GB RAM, 240 GB NVMe

Hetzners AMD EPYC Prozessoren haben hervorragende AVX2-Unterstützung, und 32 GB RAM bewältigen 13B quantisierte Modelle problemlos. Der Preis ist für diese Spezifikation unschlagbar.

Was Sie betreiben können:

• Llama 3.1 8B mit ~12-18 Tokens/Sek
• Mistral 7B mit ~15-20 Tokens/Sek
• 13B-Modelle mit ~8-12 Tokens/Sek

Einrichtung:

# Ollama installieren
curl -fsSL https://ollama.ai/install.sh | sh

# Oder vLLM für Produktions-API-Betrieb verwenden
pip install vllm
python -m vllm.entrypoints.openai.api_server \
  --model TheBloke/Llama-3.1-8B-GPTQ \
  --device cpu

2. Hostinger VPS KVM8 — Günstiges LLM-Hosting

Hostinger bietet einen soliden Einstiegspunkt für LLM-Hosting. Mit genug RAM für 7-8B-Modelle und schnellem NVMe-Speicher bewältigt er persönliche KI-Assistenten und Low-Traffic-Chatbots, ohne das Budget zu sprengen.

Am besten für: Persönliche Projekte, Lernen, Prototypen von KI-Apps

Schnellstart:

# Ollama installieren und ein Modell herunterladen
curl -fsSL https://ollama.ai/install.sh | sh
ollama pull llama3.2
ollama serve &

# Jetzt haben Sie eine OpenAI-kompatible API auf localhost:11434
curl http://localhost:11434/v1/chat/completions \
  -d '{"model":"llama3.2","messages":[{"role":"user","content":"Hello"}]}'

3. Contabo VPS L — Maximaler RAM pro Dollar

14,99€/Mo | 8 vCPU, 30 GB RAM, 400 GB SSD

Contabos Stärke sind die reinen Spezifikationen pro Dollar. 30 GB RAM zu diesem Preis bedeutet, dass Sie größere Modelle laden können. Der Kompromiss? Ältere CPUs und geteilte Ressourcen bedeuten langsamere Inferenz.

Am besten für: Größere Modelle mit kleinem Budget betreiben, wenn Geschwindigkeit nicht kritisch ist

Bester VPS für LLM-Hosting (GPU-Inferenz)

GPU-Inferenz ist 10-50x schneller als CPU. Wenn Sie mehrere Benutzer bedienen oder Echtzeit-Antworten brauchen, ist GPU der Weg. Sie können auch die KI-Inferenz-Optimierung für Produktions-Deployments erkunden.

1. Hetzner GEX44 — Bestes GPU-Preis-Leistungs-Verhältnis in Europa

0,44€/Std (~320€/Mo) | NVIDIA A100 40 GB, 16 vCPU, 64 GB RAM

Eine A100 betreibt 70B quantisierte Modelle und bedient Dutzende gleichzeitiger Benutzer. Hetzners stündliche Abrechnung bedeutet, dass Sie nur zahlen, wenn die GPU aktiv ist.

Was Sie betreiben können:

• Llama 3.1 70B Q4 mit ~30-40 Tokens/Sek
• Llama 3.1 8B mit ~100+ Tokens/Sek
• Mehrere kleine Modelle gleichzeitig

2. Vultr Cloud GPU — Flexible NVIDIA-Optionen

Vultr bietet A100, A40 und L40S GPUs mit stündlicher Abrechnung. Gute geografische Abdeckung mit Rechenzentren weltweit.

Am besten für: Teams, die GPU-Server in bestimmten Regionen brauchen

3. Lambda Cloud — Speziell für KI Gebaut

Ab 0,50$/Std | NVIDIA A10, A100, H100 Optionen

Lambda ist auf KI-Workloads spezialisiert. Ihr Software-Stack kommt vorkonfiguriert mit CUDA, PyTorch und gängigen ML-Tools. Weniger Konfiguration, mehr Inferenz.

Am besten für: Teams, die GPU-Umgebungen ohne Einrichtungsaufwand wollen

LLM-Serving-Software im Vergleich

Das Modell ist nur die Hälfte der Gleichung. Ihre Serving-Software bestimmt Durchsatz, Latenz und Kompatibilität.

Software	Am Besten Für	Schlüsselfunktion
Ollama	Persönliche Nutzung, Einfachheit	Ein-Befehl-Installation
vLLM	Produktions-APIs	PagedAttention, hoher Durchsatz
llama.cpp	CPU-Inferenz, Edge	Reines C++, keine Abhängigkeiten
text-generation-inference	HuggingFace-Modelle	Token-Streaming, produktionsreif
LocalAI	OpenAI API Drop-in-Ersatz	Kompatibel mit bestehendem Code

Produktions-Setup mit vLLM

Für den LLM-Betrieb für mehrere Benutzer ist vLLM der Standard:

# Installation
pip install vllm

# Mit OpenAI-kompatibler API bereitstellen
python -m vllm.entrypoints.openai.api_server \
  --model meta-llama/Llama-3.1-8B-Instruct \
  --max-model-len 4096 \
  --gpu-memory-utilization 0.9

# Ihre API ist jetzt unter http://localhost:8000
# Funktioniert mit jedem OpenAI SDK Client

Einfaches Setup mit Ollama + Open WebUI

Für eine ChatGPT-ähnliche Oberfläche auf Ihrem eigenen Server:

# Ollama installieren
curl -fsSL https://ollama.ai/install.sh | sh
ollama pull llama3.1

# Web-UI hinzufügen
docker run -d -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

Kostenvergleich: Selbst Gehostet vs API

Vergleichen wir die monatlichen Kosten für verschiedene Nutzungsstufen:

Nutzungsstufe	OpenAI GPT-4o	Selbst Gehostet (CPU)	Selbst Gehostet (GPU)
Leicht (100K Tokens/Tag)	~15$/Mo	15-20$/Mo (Hetzner)	Überdimensioniert
Mittel (1M Tokens/Tag)	~150$/Mo	20-30$/Mo (Hetzner)	50-80$/Mo
Intensiv (10M Tokens/Tag)	~1.500$/Mo	Zu langsam	200-400$/Mo
Enterprise (100M+/Tag)	15.000$+/Mo	Nicht praktikabel	500-1.500$/Mo

Break-even-Punkt: Selbst-Hosting schlägt APIs bei etwa 500K-1M Tokens pro Tag, abhängig von den Qualitätsanforderungen.

Tipps zur Performance-Optimierung

1. Verwenden Sie Quantisierte Modelle

Verwenden Sie immer Q4_K_M oder Q5_K_M Quantisierung. Der Qualitätsunterschied zur vollen Präzision ist bei den meisten Aufgaben vernachlässigbar.

2. Aktivieren Sie KV-Cache-Optimierung

# vLLM handhabt dies automatisch
# Für llama.cpp, verwenden Sie Kontext-Recycling
./server -m model.gguf --ctx-size 4096 --cache-reuse 256

3. Bündeln Sie Anfragen

Wenn Sie mehrere Eingaben verarbeiten, bündeln Sie diese. Das kontinuierliche Batching von vLLM kann Ihren Durchsatz um den Faktor 3-5 steigern.

4. Nutzen Sie Swap Sinnvoll

Für Modelle, die gerade so in den RAM passen:

# Swap-Speicher hinzufügen (nicht ideal, aber funktioniert für CPU-Inferenz)
sudo fallocate -l 16G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile

5. Überwachen Sie die Ressourcennutzung

# GPU-Nutzung überwachen
watch -n1 nvidia-smi

# CPU/RAM überwachen
htop

Sicherheitsüberlegungen

LLMs selbst zu hosten bedeutet, dass Sie für die Sicherheit verantwortlich sind:

• Firewall — Setzen Sie Ollama/vLLM-Ports nicht öffentlich ohne Authentifizierung aus
• API-Schlüssel — Verwenden Sie einen Reverse Proxy (Caddy, Nginx) mit Authentifizierung
• Updates — Halten Sie Ihre Serving-Software und Modelle aktuell
• Eingabebereinigung — LLMs können per Prompt-Injection manipuliert werden; validieren Sie Eingaben
• Ressourcenlimits — Setzen Sie eine maximale Kontextlänge, um Speichererschöpfung zu verhindern

# Einfacher Caddy Reverse Proxy mit Authentifizierung
# Caddyfile
llm.yourdomain.com {
    basicauth {
        admin $2a$14$hashed_password_here
    }
    reverse_proxy localhost:11434
}

Unsere Empfehlung

Für persönliche Nutzung und Lernen: Starten Sie mit Hetzner CPX51 (19,99€/Mo) + Ollama. Sie haben 7-8B-Modelle in unter 5 Minuten am Laufen.

Für Produktions-APIs: Hetzner GPU-Instanzen mit vLLM. Die A100 bewältigt ernsthafte Workloads, und die stündliche Abrechnung ermöglicht Skalierung auf Null.

Für Budgetbewusste: Hostinger bietet einen leistungsfähigen VPS zu einem Bruchteil der Kosten. Perfekt zum Experimentieren mit kleineren Modellen und zum Erstellen von Prototypen.

Die Ära des erschwinglichen selbst gehosteten KI ist da. Ein 20$-VPS betreibt Modelle, deren Training OpenAI Millionen gekostet hat. Sie brauchen nur den richtigen Server, um sie auszuführen.