Wie installiert man Ollama, um lokale KI-Modelle unter Windows 11 auszuführen?

• Um Ollama unter Windows 11 zu installieren, öffnen Sie die Eingabeaufforderung als Administrator und führen Sie den winget install --id Ollama.OllamaBefehl aus.
• Nach der Installation können Sie mit dem ollama pull Befehl LLMs wie Gemma, LLaMA und DeepSeek lokal herunterladen und ausführen.
• Alternativ können Sie die Ollama-App starten, um die gewünschten Modelle zu installieren und auszuführen.
• Ollama funktioniert unabhängig von der Cloud und unterstützt die Ausführung von Modellen über eine Befehlszeilenschnittstelle oder eine benutzerdefinierte Schnittstelle.

AKTUALISIERT 21.08.2025: Unter Windows 11 können Sie Ollama installieren, um mehrere KI-Modelle lokal auf Ihrem Computer herunterzuladen und auszuführen. In diesem Leitfaden beschreibe ich die Schritte zur Durchführung dieser Konfiguration.

Windows 11 bietet zwar viele integrierte KI-Modelle für bestimmte Hardware, wie beispielsweise Copilot+-PCs, diese sind jedoch in der Regel klein und spezialisiert. Daher erfolgt die Interaktion mit großen KI-Sprachmodellen (LLMs) primär über Online-Chatbots wie Microsoft Copilot, OpenAI ChatGPT und Google Gemini .

Der Nachteil dieser LLMs besteht darin, dass sie alle Anfragen in der Cloud verarbeiten, was nicht jeder wünscht. Hier erweist sich Ollama als wertvolles Werkzeug.

Ollama ist ein Open-Source-Tool , mit dem Sie große Sprachmodelle direkt auf Ihrem lokalen Computer unter Windows 11, 10 oder anderen unterstützten Betriebssystemen ausführen können – entweder über die Kommandozeile oder über eine grafische Oberfläche. Es wurde entwickelt, um das Herunterladen, Ausführen und Verwalten dieser KI-Modelle für Einzelanwender, Entwickler und Forscher zu vereinfachen.

In diesem Leitfaden beschreibe ich die Schritte zur Einrichtung eines der einfachsten Tools, um LLMs lokal auf Ihrem Computer auszuführen.

• Installieren Sie Ollama unter Windows 11, um KI-Modelle lokal auszuführen.
• Installation und Ausführung von KI-LLMs mit Ollama unter Windows 11 (CLI-Methode)
• Installation und Ausführung von KI-LLMs mit Ollama unter Windows 11 (GUI-Methode)

Installieren Sie Ollama unter Windows 11, um KI-Modelle lokal auszuführen.

Um Ollama lokal unter Windows 11 zu installieren, befolgen Sie diese Schritte:

1. Öffnen Sie das Startmenü unter Windows 11.

    

    

2. Suchen Sie nach „Eingabeaufforderung“ (oder „Terminal“ ), klicken Sie mit der rechten Maustaste auf das oberste Ergebnis und wählen Sie die Option „Als Administrator ausführen“ .

3. (Option 1) Geben Sie diesen Befehl ein, um das offizielle Ollama-Tool zu installieren, und drücken Sie die Eingabetaste :

   Winget-Installation --id Ollama.Ollama

   

4. Klicken Sie auf die Schaltfläche „Fertigstellen “.

5. (Option 2) Geben Sie diesen Befehl ein, um Ollama von Windows 11 zu deinstallieren, und drücken Sie die Eingabetaste :

   Winget-Deinstallation – ID Ollama.Ollama

   Kleiner Tipp: Es wird empfohlen, vor der Deinstallation von Ollama alle KI-Modelle vom Computer zu entfernen.

Sobald Sie die Schritte abgeschlossen haben, läuft Ollama im Hintergrund, und Sie können dann über die ollama Befehlszeile mit ihm interagieren, entweder über die Eingabeaufforderung oder über PowerShell.

Neben der Verwendung des Windows Package Managers (winget) zur Installation dieses Tools können Sie den Ollama-Installer auch von der offiziellen Webseite oder von dieser GitHub -Seite beziehen. 

Installation und Ausführung von KI-gestützten Lernmanagementsystemen mit Ollama unter Windows 11

Bevor Sie mit der Installation beginnen, öffnen Sie die Ollama -Bibliotheksseite , um zu entscheiden, welches KI-Modell Sie installieren möchten.

Auf der Seite finden Sie eine Liste der verfügbaren Modelle von DeepSeek , Google (gemma), Meta (llama) und anderen.

Sie werden außerdem feststellen, dass jedes Modell Bezeichnungen wie 1b, 4b, 12b usw. aufweist, die die Anzahl der Parameter in Milliarden angeben. Eine höhere Parameteranzahl deutet auf ein größeres und potenziell leistungsfähigeres Modell hin. Allerdings benötigen solche Modelle auch leistungsfähigere Hardware.

Wenn Sie gerade erst anfangen, sollten Sie die kleinste verfügbare Version herunterladen (zum Beispiel „1b“).

Um ein KI-Modell mit Ollama unter Windows 11 zu installieren, befolgen Sie diese Schritte:

1. Öffnen Start .

2. Suchen Sie nach „Eingabeaufforderung“ (oder „Terminal“ ), klicken Sie mit der rechten Maustaste auf das oberste Ergebnis und wählen Sie die Option „Als Administrator ausführen“ .

3. (Optional) Geben Sie diesen Befehl ein, um die Ollama-Version zu überprüfen, und drücken Sie die Eingabetaste :

   ollama --version

   

4. (Optional) Geben Sie diesen Befehl ein, um zu bestätigen, dass Ollama ausgeführt wird, und drücken Sie die Eingabetaste :

   curl http://localhost:11434

5. (Option 1) Geben Sie diesen Befehl ein, um das KI-Modell lokal auf Ihrem Computer zu installieren und auszuführen, und drücken Sie die Eingabetaste :

   ollama pull gemma3:1b

   

   Kurzer Hinweis: Dieser Befehl lädt Google Gemma Version 3 herunter, die eine Milliarde Parameter enthält. Ersetzen Sie in Ihrem Befehl gemma3:1b den Modellnamen und die Version durch den gewünschten Modellnamen und die gewünschte Version, z. B. deepseek-r1:1.5b.

6. (Optional) Geben Sie diesen Befehl ein, um die installierten Modelle anzuzeigen, und drücken Sie die Eingabetaste :

   Ollama-Liste

7. (Option 2) Geben Sie diesen Befehl ein, um ein KI-Modell von Ihrem Computer zu deinstallieren, und drücken Sie die Eingabetaste :

   ollama rm gemma3:1b

8. Geben Sie diesen Befehl ein, um zu bestätigen, dass sich das Modell nicht mehr auf Ihrem Computer befindet, und drücken Sie die Eingabetaste :

   Ollama-Liste

9. Geben Sie diesen Befehl ein, um ein mit Ollama installiertes KI-Modell auszuführen, und drücken Sie die Eingabetaste :

   ollama run gemma3:1b

   

   Bestätigen Sie im Befehl das Modell, das Sie mit Ollama verwenden möchten.

10. (Optional) Geben Sie diesen Befehl ein, um alle laufenden Prozesse von Ollama anzuzeigen, und drücken Sie die Eingabetaste :

    ollama ps

11. (Optional) Geben Sie diesen Befehl ein, um Details zu einem bestimmten Modell anzuzeigen, z. B. Konfiguration und Parameter, und drücken Sie die Eingabetaste :

    ollama show gemma3:1b

    

    Bestätigen Sie im Befehl das Modell, das Sie mit Ollama verwenden möchten.

Nachdem Sie die Schritte abgeschlossen haben, können Sie LLM über die Befehlszeilenschnittstelle nutzen.

Mit dem Befehl können Sie auch ollama --helpandere verfügbare Befehle anzeigen lassen, und mit dem ollama run --helpBefehl können Sie die für ein bestimmtes Modell verfügbaren Befehle auflisten.

Installation und Ausführung von KI-LLMs mit Ollama unter Windows 11 (GUI-Methode)

Um ein KI-Modell mithilfe der Ollama GUI-Anwendung unter Windows 11 zu installieren, befolgen Sie diese Schritte:

1. Öffnen Sie die Ollama- App über das Startmenü, falls sie nach der Installation nicht automatisch gestartet wurde.

2. Klicken Sie auf das Menü des KI-Modells und wählen Sie das herunterzuladende Modell aus. Zum Beispiel die Option „GPT-OSS:20b“ .

   

3. Formulieren und senden Sie eine Frage ab, um den Download des OpenAI GPT-Modells zu starten.

   

Sobald Sie die Schritte abgeschlossen haben, wird das KI-Modell über die grafische Benutzeroberfläche auf Ihren Computer heruntergeladen.

Wenn Sie über ein Ollama-Konto verfügen , können Sie sich anmelden und die integrierte Websuche nutzen, um die Möglichkeiten des Modells mit den neuesten online verfügbaren Informationen zu kombinieren.

Die Turbo- Option ist ein Cloud-basierter Dienst von Ollama, mit dem große KI-Modelle auf Hardware der Rechenzentrumsklasse ausgeführt werden können. Er bietet hohe Leistung und Geschwindigkeit für Modelle, die für die Ausführung auf einem lokalen Computer zu groß oder zu langsam wären. Das Monatsabonnement kostet 20 US-Dollar.

Die Ollama-App bietet keine Möglichkeit, die verfügbaren KI-Modelle vorab herunterzuladen. Sie können dies jedoch, wie oben beschrieben, über das Kommandozeilen-Tool erledigen.

Häufig gestellte Fragen zu Ollama unter Windows 11

Falls Sie noch Fragen zum Ollama haben, helfen Ihnen die folgenden FAQs, verschiedene Aspekte dieses Werkzeugs zu klären. Sie können Ihre Fragen auch jederzeit in den Kommentaren unten stellen.

Benötigt man spezielle KI-Hardware, um Ollama auszuführen?

Nein, die mit Ollama erstellten grundlegenden KI-Modelle lassen sich auch mit relativ moderner Hardware ausführen, eine separate neuronale Verarbeitungseinheit (NPU) ist nicht zwingend erforderlich. Ollama kann zwar auch direkt im Prozessor ausgeführt werden, eine Grafikkarte wird jedoch dringend empfohlen.

Allerdings benötigen Sie je nach Parametern der verschiedenen KI-Modelle spezifische Hardware. Beispielsweise können Sie das gpt-oss-20b- Modell mit normaler, moderner Hardware ausführen. Für das gpt-oss-120b -Modell benötigen Sie hingegen sehr leistungsfähige Hardware, wie etwa eine NVIDIA-GPU mit mindestens 80 GB VRAM, einen Serverprozessor (z. B. AMD EPYC oder Intel Xeon), mindestens 256 GB Arbeitsspeicher und eine schnelle NVMe-SSD mit mindestens 500 GB freiem Speicherplatz für Modellgewichte und temporäre Dateien.

Welche Systemvoraussetzungen gelten für Ollama unter Windows 11?

Die Systemvoraussetzungen für die Installation von Ollama unter Windows 11 oder 10 sind moderat:

• Prozessor: Intel oder AMD x86-64.
• Arbeitsspeicher: 8 GB, 16 GB und mehr werden jedoch empfohlen.
• Speicherplatz: 10 GB freier Speicherplatz.
• Grafik: Integrierte oder dedizierte GPU.

Die Anforderungen sind zwar nicht besonders hoch, aber ich empfehle einen modernen Mehrkernprozessor, mindestens 32 GB RAM, mehr als 256 GB freien Speicherplatz auf einer SSD (vorzugsweise NVMe) und eine Grafikkarte wie die Nvidia RTX 30xx-Serie. Alternativ können Sie aber auch eine vergleichbare AMD Radeon-GPU verwenden.

Für fortgeschrittene Modelle werden außerdem mindestens 4 GB VRAM empfohlen.

Je größer das Modell, desto mehr Ressourcen werden benötigt, was bedeutet, dass die Maschine robustere Hardware benötigt.

Nutzt Ollama Virtualisierung, um unter Windows 11 zu laufen?

Nein, Ollama erstellt selbst keine virtuelle Maschine. Es erzeugt jedoch eine isolierte Umgebung auf dem System, um LLMs auszuführen. Diese Umgebung enthält alle notwendigen Komponenten, wie z. B. Modellgewichte (die vortrainierten Daten) und Konfigurationsdateien.

Wichtig zu beachten ist, dass Ollama WSL2 nicht mehr benötigt . Es läuft nativ auf der neuesten Version von Windows 11 oder 10.

Aktualisierung vom 21. August 2025: Dieser Leitfaden wurde aktualisiert, um die Genauigkeit zu gewährleisten und Änderungen im Prozess zu berücksichtigen.