winget install --id Ollama.OllamaBefehl aus.ollama pull Befehl LLMs wie Gemma, LLaMA und DeepSeek lokal herunterladen und ausführen.AKTUALISIERT 21.08.2025: Unter Windows 11 können Sie Ollama installieren, um mehrere KI-Modelle lokal auf Ihrem Computer herunterzuladen und auszuführen. In diesem Leitfaden beschreibe ich die Schritte zur Durchführung dieser Konfiguration.
Windows 11 bietet zwar viele integrierte KI-Modelle für bestimmte Hardware, wie beispielsweise Copilot+-PCs, diese sind jedoch in der Regel klein und spezialisiert. Daher erfolgt die Interaktion mit großen KI-Sprachmodellen (LLMs) primär über Online-Chatbots wie Microsoft Copilot, OpenAI ChatGPT und Google Gemini .
Der Nachteil dieser LLMs besteht darin, dass sie alle Anfragen in der Cloud verarbeiten, was nicht jeder wünscht. Hier erweist sich Ollama als wertvolles Werkzeug.
Ollama ist ein Open-Source-Tool , mit dem Sie große Sprachmodelle direkt auf Ihrem lokalen Computer unter Windows 11, 10 oder anderen unterstützten Betriebssystemen ausführen können – entweder über die Kommandozeile oder über eine grafische Oberfläche. Es wurde entwickelt, um das Herunterladen, Ausführen und Verwalten dieser KI-Modelle für Einzelanwender, Entwickler und Forscher zu vereinfachen.
In diesem Leitfaden beschreibe ich die Schritte zur Einrichtung eines der einfachsten Tools, um LLMs lokal auf Ihrem Computer auszuführen.
Um Ollama lokal unter Windows 11 zu installieren, befolgen Sie diese Schritte:
Öffnen Sie das Startmenü unter Windows 11.
Suchen Sie nach „Eingabeaufforderung“ (oder „Terminal“ ), klicken Sie mit der rechten Maustaste auf das oberste Ergebnis und wählen Sie die Option „Als Administrator ausführen“ .
(Option 1) Geben Sie diesen Befehl ein, um das offizielle Ollama-Tool zu installieren, und drücken Sie die Eingabetaste :
Winget-Installation --id Ollama.Ollama
Klicken Sie auf die Schaltfläche „Fertigstellen “.
(Option 2) Geben Sie diesen Befehl ein, um Ollama von Windows 11 zu deinstallieren, und drücken Sie die Eingabetaste :
Winget-Deinstallation – ID Ollama.Ollama
Kleiner Tipp: Es wird empfohlen, vor der Deinstallation von Ollama alle KI-Modelle vom Computer zu entfernen.
Sobald Sie die Schritte abgeschlossen haben, läuft Ollama im Hintergrund, und Sie können dann über die ollama Befehlszeile mit ihm interagieren, entweder über die Eingabeaufforderung oder über PowerShell.
Neben der Verwendung des Windows Package Managers (winget) zur Installation dieses Tools können Sie den Ollama-Installer auch von der offiziellen Webseite oder von dieser GitHub -Seite beziehen.
Bevor Sie mit der Installation beginnen, öffnen Sie die Ollama -Bibliotheksseite , um zu entscheiden, welches KI-Modell Sie installieren möchten.
Auf der Seite finden Sie eine Liste der verfügbaren Modelle von DeepSeek , Google (gemma), Meta (llama) und anderen.
Sie werden außerdem feststellen, dass jedes Modell Bezeichnungen wie 1b, 4b, 12b usw. aufweist, die die Anzahl der Parameter in Milliarden angeben. Eine höhere Parameteranzahl deutet auf ein größeres und potenziell leistungsfähigeres Modell hin. Allerdings benötigen solche Modelle auch leistungsfähigere Hardware.
Wenn Sie gerade erst anfangen, sollten Sie die kleinste verfügbare Version herunterladen (zum Beispiel „1b“).
Um ein KI-Modell mit Ollama unter Windows 11 zu installieren, befolgen Sie diese Schritte:
Öffnen Start .
Suchen Sie nach „Eingabeaufforderung“ (oder „Terminal“ ), klicken Sie mit der rechten Maustaste auf das oberste Ergebnis und wählen Sie die Option „Als Administrator ausführen“ .
(Optional) Geben Sie diesen Befehl ein, um die Ollama-Version zu überprüfen, und drücken Sie die Eingabetaste :
ollama --version
(Optional) Geben Sie diesen Befehl ein, um zu bestätigen, dass Ollama ausgeführt wird, und drücken Sie die Eingabetaste :
curl http://localhost:11434
(Option 1) Geben Sie diesen Befehl ein, um das KI-Modell lokal auf Ihrem Computer zu installieren und auszuführen, und drücken Sie die Eingabetaste :
ollama pull gemma3:1b
Kurzer Hinweis: Dieser Befehl lädt Google Gemma Version 3 herunter, die eine Milliarde Parameter enthält. Ersetzen Sie in Ihrem Befehl gemma3:1b den Modellnamen und die Version durch den gewünschten Modellnamen und die gewünschte Version, z. B. deepseek-r1:1.5b.
(Optional) Geben Sie diesen Befehl ein, um die installierten Modelle anzuzeigen, und drücken Sie die Eingabetaste :
Ollama-Liste
(Option 2) Geben Sie diesen Befehl ein, um ein KI-Modell von Ihrem Computer zu deinstallieren, und drücken Sie die Eingabetaste :
ollama rm gemma3:1b
Geben Sie diesen Befehl ein, um zu bestätigen, dass sich das Modell nicht mehr auf Ihrem Computer befindet, und drücken Sie die Eingabetaste :
Ollama-Liste
Geben Sie diesen Befehl ein, um ein mit Ollama installiertes KI-Modell auszuführen, und drücken Sie die Eingabetaste :
ollama run gemma3:1b
Bestätigen Sie im Befehl das Modell, das Sie mit Ollama verwenden möchten.
(Optional) Geben Sie diesen Befehl ein, um alle laufenden Prozesse von Ollama anzuzeigen, und drücken Sie die Eingabetaste :
ollama ps
(Optional) Geben Sie diesen Befehl ein, um Details zu einem bestimmten Modell anzuzeigen, z. B. Konfiguration und Parameter, und drücken Sie die Eingabetaste :
ollama show gemma3:1b
Bestätigen Sie im Befehl das Modell, das Sie mit Ollama verwenden möchten.
Nachdem Sie die Schritte abgeschlossen haben, können Sie LLM über die Befehlszeilenschnittstelle nutzen.
Mit dem Befehl können Sie auch ollama --helpandere verfügbare Befehle anzeigen lassen, und mit dem ollama run --helpBefehl können Sie die für ein bestimmtes Modell verfügbaren Befehle auflisten.
Um ein KI-Modell mithilfe der Ollama GUI-Anwendung unter Windows 11 zu installieren, befolgen Sie diese Schritte:
Öffnen Sie die Ollama- App über das Startmenü, falls sie nach der Installation nicht automatisch gestartet wurde.
Klicken Sie auf das Menü des KI-Modells und wählen Sie das herunterzuladende Modell aus. Zum Beispiel die Option „GPT-OSS:20b“ .
Formulieren und senden Sie eine Frage ab, um den Download des OpenAI GPT-Modells zu starten.
Sobald Sie die Schritte abgeschlossen haben, wird das KI-Modell über die grafische Benutzeroberfläche auf Ihren Computer heruntergeladen.
Wenn Sie über ein Ollama-Konto verfügen , können Sie sich anmelden und die integrierte Websuche nutzen, um die Möglichkeiten des Modells mit den neuesten online verfügbaren Informationen zu kombinieren.
Die Turbo- Option ist ein Cloud-basierter Dienst von Ollama, mit dem große KI-Modelle auf Hardware der Rechenzentrumsklasse ausgeführt werden können. Er bietet hohe Leistung und Geschwindigkeit für Modelle, die für die Ausführung auf einem lokalen Computer zu groß oder zu langsam wären. Das Monatsabonnement kostet 20 US-Dollar.
Die Ollama-App bietet keine Möglichkeit, die verfügbaren KI-Modelle vorab herunterzuladen. Sie können dies jedoch, wie oben beschrieben, über das Kommandozeilen-Tool erledigen.
Häufig gestellte Fragen zu Ollama unter Windows 11
Falls Sie noch Fragen zum Ollama haben, helfen Ihnen die folgenden FAQs, verschiedene Aspekte dieses Werkzeugs zu klären. Sie können Ihre Fragen auch jederzeit in den Kommentaren unten stellen.
Benötigt man spezielle KI-Hardware, um Ollama auszuführen?
Nein, die mit Ollama erstellten grundlegenden KI-Modelle lassen sich auch mit relativ moderner Hardware ausführen, eine separate neuronale Verarbeitungseinheit (NPU) ist nicht zwingend erforderlich. Ollama kann zwar auch direkt im Prozessor ausgeführt werden, eine Grafikkarte wird jedoch dringend empfohlen.
Allerdings benötigen Sie je nach Parametern der verschiedenen KI-Modelle spezifische Hardware. Beispielsweise können Sie das gpt-oss-20b- Modell mit normaler, moderner Hardware ausführen. Für das gpt-oss-120b -Modell benötigen Sie hingegen sehr leistungsfähige Hardware, wie etwa eine NVIDIA-GPU mit mindestens 80 GB VRAM, einen Serverprozessor (z. B. AMD EPYC oder Intel Xeon), mindestens 256 GB Arbeitsspeicher und eine schnelle NVMe-SSD mit mindestens 500 GB freiem Speicherplatz für Modellgewichte und temporäre Dateien.
Welche Systemvoraussetzungen gelten für Ollama unter Windows 11?
Die Systemvoraussetzungen für die Installation von Ollama unter Windows 11 oder 10 sind moderat:
Die Anforderungen sind zwar nicht besonders hoch, aber ich empfehle einen modernen Mehrkernprozessor, mindestens 32 GB RAM, mehr als 256 GB freien Speicherplatz auf einer SSD (vorzugsweise NVMe) und eine Grafikkarte wie die Nvidia RTX 30xx-Serie. Alternativ können Sie aber auch eine vergleichbare AMD Radeon-GPU verwenden.
Für fortgeschrittene Modelle werden außerdem mindestens 4 GB VRAM empfohlen.
Je größer das Modell, desto mehr Ressourcen werden benötigt, was bedeutet, dass die Maschine robustere Hardware benötigt.
Nutzt Ollama Virtualisierung, um unter Windows 11 zu laufen?
Nein, Ollama erstellt selbst keine virtuelle Maschine. Es erzeugt jedoch eine isolierte Umgebung auf dem System, um LLMs auszuführen. Diese Umgebung enthält alle notwendigen Komponenten, wie z. B. Modellgewichte (die vortrainierten Daten) und Konfigurationsdateien.
Wichtig zu beachten ist, dass Ollama WSL2 nicht mehr benötigt . Es läuft nativ auf der neuesten Version von Windows 11 oder 10.
Aktualisierung vom 21. August 2025: Dieser Leitfaden wurde aktualisiert, um die Genauigkeit zu gewährleisten und Änderungen im Prozess zu berücksichtigen.
Bereinigen Sie einen SteamLibrary-Ordner unter Windows 10 sicher mit Steam Storage und entfernen Sie anschließend bestätigte übriggebliebene Spielordner, ohne Spielstände oder aktive Dateien zu löschen.
Erfahren Sie, wie Sie Spiele unter Windows 10 mithilfe des aktuellen Scan-Locations-Workflows der NVIDIA App zu GeForce Experience hinzufügen und wie Sie fehlende oder nicht unterstützte Spiele beheben.
Erfahren Sie, wie Sie das Discord-In-Game-Overlay unter Windows 10 oder 11 aktivieren, es mit Shift + ` öffnen, es anpassen und häufige Overlay-Probleme beheben.
Erfahren Sie, wie Sie die Steam Cloud-Synchronisierung überprüfen, Cloud-Spielstände herunterladen, lokale Steam-Spielstände finden und gespeicherte Spiele sicher zurücksetzen oder löschen können, ohne riskante Dateimanipulationen durchzuführen.
Die alte iTunes-MSI-Lösung ist nicht mehr erforderlich. Installieren Sie unter Windows 10 die App „Apple-Geräte“ aus dem Microsoft Store, um ein iPhone oder iPad zu verbinden und zu verwalten.
Beheben Sie verzerrte oder verstümmelte Videos in VLC, indem Sie die Hardware-Dekodierungs- und Videoausgabeeinstellungen ändern, das Stream-Caching anpassen und Dateiprobleme ausschließen.
Beheben Sie den Fehler „MSVCP140.dll wurde nicht gefunden“ unter Windows 10, indem Sie die Microsoft Visual C++ Redistributable und die betroffene Anwendung reparieren oder neu installieren.
Erfahre, wie du das Discord-Spiel-Overlay unter Windows global oder pro Spiel deaktivierst und was du überprüfen solltest, wenn das Overlay nicht angezeigt wird oder immer wieder erscheint.
Windows 10 bietet keine integrierte Bestätigungsabfrage für normale Drag-and-Drop-Aktionen per Linksklick. Verwenden Sie stattdessen die Rechtsklick-Funktion, Strg oder Umschalt oder die Funktionen Ausschneiden und Einfügen, um versehentliche Verschiebungen zu vermeiden.
Erfahren Sie, wie Sie unter Windows 10 den alten Windows Defender-Schutzverlauf sicher löschen, aktive Warnmeldungen beheben und die Aufbewahrungsdauer des Defender-Scanverlaufs mit PowerShell verkürzen können.
