如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  • 若要在 Windows 11 上安裝 Ollama,請以管理員身分開啟命令提示字元並執行該winget install --id Ollama.Ollama命令。
  • 安裝完成後,使用該ollama pull 命令在本地下載並運行 Gemma、LLaMA 和 DeepSeek 等 LLM。
  • 或者,您可以啟動 Ollama 應用程式來安裝和執行您想要的模型。
  • Ollama 獨立於雲端運行,支援透過命令列介面或自訂介面運行模型。

更新於 2025 年 8 月 21 日:Windows 11上,您可以安裝 Ollama 以在您的電腦上本機下載和執行多個 AI 模型,在本指南中,我將概述完成此配置的步驟。

儘管 Windows 11 內建了許多針對特定硬體的 AI 模型,例如 Copilot+ PC,但這些模型通常規模較小且用途較為專業。因此,與大型語言模型 (LLM) 互動的主要方式是透過線上聊天機器人,例如 Microsoft Copilot、OpenAI ChatGPTGoogle Gemini等。

使用這些LLM的缺點在於它們會在雲端處理所有請求,而這並非所有人都願意這樣做。這時,Ollama就派上用場了。

Ollama 是一款開源工具,它允許您在運行 Windows 11、10 或其他受支援作業系統的本機電腦上,透過命令列或圖形介面直接執行大型語言模型。它的設計旨在簡化個人用戶、開發人員和研究人員下載、運行和管理這些 AI 模型的過程。

在本指南中,我將概述在電腦上本地運行 LLM 的最簡單工具之一的設定步驟。

在 Windows 11 上安裝 Ollama 以在本機上執行 AI 模型

若要在 Windows 11 上本機安裝 Ollama,請依照下列步驟操作:

  1. 在 Windows 11 中開啟「開始」功能表。

     

     

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (方法一)輸入以下指令安裝官方 Ollama 工具,再按Enter 鍵

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. 點擊“完成”按鈕。

  5. (方法二)輸入下列指令從 Windows 11 卸載 Ollama,然後按下Enter 鍵

    winget卸載--id Ollama.Ollama

    小提醒:建議在卸載 Ollama 之前,先從電腦卸載所有 AI 模型。

完成這些步驟後,Ollama 將在背景執行,然後您可以使用ollama 命令列從命令提示字元或 PowerShell 與其互動。

除了使用Windows 套件管理員 (winget)安裝此工具外,您還可以從其官方頁面或此GitHub頁面取得 Ollama 安裝程式。 

在 Windows 11 上使用 Ollama 安裝並執行 AI LLM

在開始安裝之前,請開啟Ollama 頁面,決定要安裝哪個 AI 模型。

在該頁面上,您將找到來自DeepSeek、Google (gemma)、Meta (llama) 等公司的可用模型清單。

您還會注意到,每個模型都有類似 1b、4b、12b 等的標記,這些標記表示參數的數量,單位為十億。參數數量越多,模型規模越大,功能也可能越強大。但是,它們也需要更強大的硬體支援。

如果你是新手,應該下載最小的版本(例如「1b」)。

若要在 Windows 11 上使用 Ollama 安裝 AI 模型,請依照下列步驟操作:

  1. 打開開始

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (可選)輸入以下指令檢查 Ollama 版本,然後按Enter 鍵

    ollama --version

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. (可選)輸入以下命令以確認 Ollama 正在運行,然後按Enter 鍵

    curl http://localhost:11434

  5. (方法一)輸入以下命令,在您的電腦上本機安裝並執行 AI 模型,然後按Enter 鍵

    ollama pull gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    簡要說明:此指令會下載 Google Gemma 版本 3,其中包含十億個參數。請在命令中,將 `<model_name>` 替換gemma3:1b 為您要安裝的模型名稱和版本,例如 `<model_name> deepseek-r1:1.5b`。

  6. (可選)輸入以下命令以查看已安裝的型號,然後按Enter 鍵

    奧拉瑪列表

  7. (方法二)輸入以下指令從電腦卸載 AI 模型,然後按Enter 鍵

    ollama rm gemma3:1b

  8. 輸入以下命令以確認模型已從您的電腦上刪除,然後按Enter 鍵

    奧拉瑪列表

  9. 輸入以下指令執行使用 Ollama 安裝的 AI 模型,然後按Enter 鍵

    ollama run gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

  10. (可選)輸入以下命令以顯示 Ollama 的所有正在運行的進程,然後按Enter 鍵

    奧拉瑪 ps

  11. (可選)輸入此命令以顯示特定型號的詳細信息,例如配置和參數,然後按Enter 鍵

    ollama 展示 gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

完成這些步驟後,您就可以透過命令列介面開始使用 LLM 了。

您還可以使用該ollama --help命令查看其他可用命令,以及使用該ollama run --help命令列出特定型號的可用命令。

在 Windows 11 上使用 Ollama 安裝和執行 AI LLM(圖形介面方法)

若要在 Windows 11 上使用 Ollama GUI 應用程式安裝 AI 模型,請依照下列步驟操作:

  1. 如果安裝後Ollama應用程式沒有自動啟動,請從開始功能表開啟它。

  2. 點選人工智慧模型選單,選擇要下載的模型。例如,“GPT-OSS:20b”選項。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  3. 撰寫並提交一個問題,即可開始下載 OpenAI GPT 模型。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

完成這些步驟後,人工智慧模型將透過圖形使用者介面下載到您的電腦。

如果您擁有Ollama 帳戶,您可以登入並使用內建的網路搜尋功能,將模型的功能與網路上可取得的最新資訊結合。

Turbo選項是 Ollama 提供的一項基於雲端的服務它利用資料中心級硬體運行大型 AI 模型。該服務旨在為那些規模過大或運行速度過慢而無法在本地電腦上運行的模型提供高效能和高速度。每月訂閱費用為 20 美元。

Ollama 應用程式本身並未提供預先下載可用 AI 模型的功能。但是,您可以按照上述步驟,透過命令列工具完成此操作。

關於 Windows 11 上 Ollama 的常見問題解答

如果您對 Ollama 還有疑問,以下常見問題將幫助您了解工具的各個方面。您也可以隨時在下方留言區留言提問。

運行 Ollama 需要特定的 AI 硬體嗎?

不,您可以使用相對現代的硬體來運行透過 Ollama 取得的基礎 AI 模型,而且您不一定需要神經處理單元 (NPU)。 Ollama 也可以直接在處理器中運行,但強烈建議使用獨立顯示卡。

但是,根據不同AI模型的參數,您需要特定的硬體才能運行它們。例如,您可以使用普通的現代硬體運行gpt-oss-20b模型,但如果您想使用gpt-oss-120b模型,則需要性能非常強大的硬體,例如至少配備80GB顯存的NVIDIA GPU、伺服器級處理器(例如AMD EPYC或Intel Xeon)、至少256GB內存以及至少有500GB內存可用300GB,用於存儲空間模型的高速組合。

Ollama 在 Windows 11 系統上的要求是什麼?

在 Windows 11 或 10 上安裝 Ollama 的系統需求不高:

  • 處理器: Intel 或 AMD x86-64。
  • 記憶體: 8GB,但建議使用16GB或更高。
  • 儲存空間: 10GB 可用空間。
  • 顯示卡:整合式顯示卡或獨立顯示卡。

雖然配置要求並不高,但我建議使用現代多核心處理器、至少 32GB 記憶體、256GB 以上的固態硬碟(最好是 NVMe 固態硬碟)以及 Nvidia RTX 30 系列顯示卡。當然,您也可以使用同等效能的 AMD Radeon 顯示卡。

此外,對於高階機型,建議至少配備 4GB 記憶體。

模型越大,所需的資源就越多,這意味著機器需要更強大的硬體。

Ollama 是否使用虛擬化技術在 Windows 11 上運作?

不,Ollama 本身並不會創建虛擬機器。但是,它會在系統上建立一個隔離的環境來執行 LLM。此環境包含所有必要的元件,例如模型權重(預訓練資料)和設定檔。

值得注意的是,Ollama不再需要WSL2。它可以在最新版本的Windows 11或10上原生運作。

2025 年 8 月 21 日更新:本指南已更新,以確保準確性並反映流程的變更。

留下評論

如何建立可啟動的 Windows 11 25H2 USB 安裝介質

如何建立可啟動的 Windows 11 25H2 USB 安裝介質

要建立 Windows 11 25H2 可啟動 USB 安裝程序,您可以使用 Rufus、Ventoy、命令提示字元和媒體建立工具,以下是具體操作方法。

Windows 11 版本 26220.7653 (KB5074157) 帶來了新的深色模式調整(開發版、測試版)

Windows 11 版本 26220.7653 (KB5074157) 帶來了新的深色模式調整(開發版、測試版)

KB5074157(版本 26220.7653)適用於 Windows 11,改進了深色模式,增加了 WebP 壁紙支持,並修復了任務欄、開始功能表、藍牙等問題。

Windows 11 更新 KB5074109 簡直是一場災難——主要問題列表

Windows 11 更新 KB5074109 簡直是一場災難——主要問題列表

KB5074109 是 Windows 11 的 2026 年 1 月更新,它導致了崩潰、啟動失敗、Outlook 問題和卸載錯誤,迫使用戶將其刪除。

如何阻止 ChatGPT 對話出現在 Google 搜尋中

如何阻止 ChatGPT 對話出現在 Google 搜尋中

要防止您的 ChatGPT 對話出現在 Google 搜尋中,請檢查並刪除公開共享的 ChatGPT 鏈接,方法如下。

如何在 Windows 11 上安裝適用於 Android 的 Windows 子系統 (WSA)

如何在 Windows 11 上安裝適用於 Android 的 Windows 子系統 (WSA)

您可以透過 Microsoft Store 或 PowerShell 安裝適用於 Android 的 Windows 子系統 (WSA),從而在 Windows 11 上執行 Android 應用程式。方法如下。

如何阻止 ChatGPT 將您的個人資料用於 AI 訓練

如何阻止 ChatGPT 將您的個人資料用於 AI 訓練

OpenAI 預設會收集您的 ChatGPT 對話內容用於 AI 訓練,以下是如何停用此功能以更好地保護隱私的方法。

Windows 11 版本 27913 發布了「設定」應用程式變更(Canary 版)

Windows 11 版本 27913 發布了「設定」應用程式變更(Canary 版)

Windows 11 版本 27913(Canary)帶來了重新設計的設定介面,恢復了 Vista 啟動聲音,修復了黑屏桌布問題等等。

適用於 Windows 11 24H2 版本(Beta 版)的版本 26120.4733 (KB5062651),包含更改

適用於 Windows 11 24H2 版本(Beta 版)的版本 26120.4733 (KB5062651),包含更改

Windows 11 版本 26120.4733 (KB5062651) 在 Beta 頻道中引入了新的 AI 圖像描述、應用程式權限重新設計以及管理員保護功能。

適用於 Windows 11 25H2 的版本 26200.5702 (KB5062653) 帶來了新功能(開發版)

適用於 Windows 11 25H2 的版本 26200.5702 (KB5062653) 帶來了新功能(開發版)

Windows 11 25H2 版本 26200.5702 (KB5062653) 帶來了 AI 映像描述、新的管理員安全功能、重新設計的權限對話方塊等。

如何在 Windows 10 上使用 Winget 安裝應用程式

如何在 Windows 10 上使用 Winget 安裝應用程式

現在您可以使用 winget 命令在 Windows 10 上安裝應用程序,以下是使用 Windows 軟體套件管理器執行此操作的步驟。