如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  • 若要在 Windows 11 上安裝 Ollama,請以管理員身分開啟命令提示字元並執行該winget install --id Ollama.Ollama命令。
  • 安裝完成後,使用該ollama pull 命令在本地下載並運行 Gemma、LLaMA 和 DeepSeek 等 LLM。
  • 或者,您可以啟動 Ollama 應用程式來安裝和執行您想要的模型。
  • Ollama 獨立於雲端運行,支援透過命令列介面或自訂介面運行模型。

更新於 2025 年 8 月 21 日:Windows 11上,您可以安裝 Ollama 以在您的電腦上本機下載和執行多個 AI 模型,在本指南中,我將概述完成此配置的步驟。

儘管 Windows 11 內建了許多針對特定硬體的 AI 模型,例如 Copilot+ PC,但這些模型通常規模較小且用途較為專業。因此,與大型語言模型 (LLM) 互動的主要方式是透過線上聊天機器人,例如 Microsoft Copilot、OpenAI ChatGPTGoogle Gemini等。

使用這些LLM的缺點在於它們會在雲端處理所有請求,而這並非所有人都願意這樣做。這時,Ollama就派上用場了。

Ollama 是一款開源工具,它允許您在運行 Windows 11、10 或其他受支援作業系統的本機電腦上,透過命令列或圖形介面直接執行大型語言模型。它的設計旨在簡化個人用戶、開發人員和研究人員下載、運行和管理這些 AI 模型的過程。

在本指南中,我將概述在電腦上本地運行 LLM 的最簡單工具之一的設定步驟。

在 Windows 11 上安裝 Ollama 以在本機上執行 AI 模型

若要在 Windows 11 上本機安裝 Ollama,請依照下列步驟操作:

  1. 在 Windows 11 中開啟「開始」功能表。

     

     

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (方法一)輸入以下指令安裝官方 Ollama 工具,再按Enter 鍵

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. 點擊“完成”按鈕。

  5. (方法二)輸入下列指令從 Windows 11 卸載 Ollama,然後按下Enter 鍵

    winget卸載--id Ollama.Ollama

    小提醒:建議在卸載 Ollama 之前,先從電腦卸載所有 AI 模型。

完成這些步驟後,Ollama 將在背景執行,然後您可以使用ollama 命令列從命令提示字元或 PowerShell 與其互動。

除了使用Windows 套件管理員 (winget)安裝此工具外,您還可以從其官方頁面或此GitHub頁面取得 Ollama 安裝程式。 

在 Windows 11 上使用 Ollama 安裝並執行 AI LLM

在開始安裝之前,請開啟Ollama 頁面,決定要安裝哪個 AI 模型。

在該頁面上,您將找到來自DeepSeek、Google (gemma)、Meta (llama) 等公司的可用模型清單。

您還會注意到,每個模型都有類似 1b、4b、12b 等的標記,這些標記表示參數的數量,單位為十億。參數數量越多,模型規模越大,功能也可能越強大。但是,它們也需要更強大的硬體支援。

如果你是新手,應該下載最小的版本(例如「1b」)。

若要在 Windows 11 上使用 Ollama 安裝 AI 模型,請依照下列步驟操作:

  1. 打開開始

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (可選)輸入以下指令檢查 Ollama 版本,然後按Enter 鍵

    ollama --version

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. (可選)輸入以下命令以確認 Ollama 正在運行,然後按Enter 鍵

    curl http://localhost:11434

  5. (方法一)輸入以下命令,在您的電腦上本機安裝並執行 AI 模型,然後按Enter 鍵

    ollama pull gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    簡要說明:此指令會下載 Google Gemma 版本 3,其中包含十億個參數。請在命令中,將 `<model_name>` 替換gemma3:1b 為您要安裝的模型名稱和版本,例如 `<model_name> deepseek-r1:1.5b`。

  6. (可選)輸入以下命令以查看已安裝的型號,然後按Enter 鍵

    奧拉瑪列表

  7. (方法二)輸入以下指令從電腦卸載 AI 模型,然後按Enter 鍵

    ollama rm gemma3:1b

  8. 輸入以下命令以確認模型已從您的電腦上刪除,然後按Enter 鍵

    奧拉瑪列表

  9. 輸入以下指令執行使用 Ollama 安裝的 AI 模型,然後按Enter 鍵

    ollama run gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

  10. (可選)輸入以下命令以顯示 Ollama 的所有正在運行的進程,然後按Enter 鍵

    奧拉瑪 ps

  11. (可選)輸入此命令以顯示特定型號的詳細信息,例如配置和參數,然後按Enter 鍵

    ollama 展示 gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

完成這些步驟後,您就可以透過命令列介面開始使用 LLM 了。

您還可以使用該ollama --help命令查看其他可用命令,以及使用該ollama run --help命令列出特定型號的可用命令。

在 Windows 11 上使用 Ollama 安裝和執行 AI LLM(圖形介面方法)

若要在 Windows 11 上使用 Ollama GUI 應用程式安裝 AI 模型,請依照下列步驟操作:

  1. 如果安裝後Ollama應用程式沒有自動啟動,請從開始功能表開啟它。

  2. 點選人工智慧模型選單,選擇要下載的模型。例如,“GPT-OSS:20b”選項。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  3. 撰寫並提交一個問題,即可開始下載 OpenAI GPT 模型。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

完成這些步驟後,人工智慧模型將透過圖形使用者介面下載到您的電腦。

如果您擁有Ollama 帳戶,您可以登入並使用內建的網路搜尋功能,將模型的功能與網路上可取得的最新資訊結合。

Turbo選項是 Ollama 提供的一項基於雲端的服務它利用資料中心級硬體運行大型 AI 模型。該服務旨在為那些規模過大或運行速度過慢而無法在本地電腦上運行的模型提供高效能和高速度。每月訂閱費用為 20 美元。

Ollama 應用程式本身並未提供預先下載可用 AI 模型的功能。但是,您可以按照上述步驟,透過命令列工具完成此操作。

關於 Windows 11 上 Ollama 的常見問題解答

如果您對 Ollama 還有疑問,以下常見問題將幫助您了解工具的各個方面。您也可以隨時在下方留言區留言提問。

運行 Ollama 需要特定的 AI 硬體嗎?

不,您可以使用相對現代的硬體來運行透過 Ollama 取得的基礎 AI 模型,而且您不一定需要神經處理單元 (NPU)。 Ollama 也可以直接在處理器中運行,但強烈建議使用獨立顯示卡。

但是,根據不同AI模型的參數,您需要特定的硬體才能運行它們。例如,您可以使用普通的現代硬體運行gpt-oss-20b模型,但如果您想使用gpt-oss-120b模型,則需要性能非常強大的硬體,例如至少配備80GB顯存的NVIDIA GPU、伺服器級處理器(例如AMD EPYC或Intel Xeon)、至少256GB內存以及至少有500GB內存可用300GB,用於存儲空間模型的高速組合。

Ollama 在 Windows 11 系統上的要求是什麼?

在 Windows 11 或 10 上安裝 Ollama 的系統需求不高:

  • 處理器: Intel 或 AMD x86-64。
  • 記憶體: 8GB,但建議使用16GB或更高。
  • 儲存空間: 10GB 可用空間。
  • 顯示卡:整合式顯示卡或獨立顯示卡。

雖然配置要求並不高,但我建議使用現代多核心處理器、至少 32GB 記憶體、256GB 以上的固態硬碟(最好是 NVMe 固態硬碟)以及 Nvidia RTX 30 系列顯示卡。當然,您也可以使用同等效能的 AMD Radeon 顯示卡。

此外,對於高階機型,建議至少配備 4GB 記憶體。

模型越大,所需的資源就越多,這意味著機器需要更強大的硬體。

Ollama 是否使用虛擬化技術在 Windows 11 上運作?

不,Ollama 本身並不會創建虛擬機器。但是,它會在系統上建立一個隔離的環境來執行 LLM。此環境包含所有必要的元件,例如模型權重(預訓練資料)和設定檔。

值得注意的是,Ollama不再需要WSL2。它可以在最新版本的Windows 11或10上原生運作。

2025 年 8 月 21 日更新:本指南已更新,以確保準確性並反映流程的變更。

留下評論

如何使用 Winhance 精簡 Windows 11 系統

如何使用 Winhance 精簡 Windows 11 系統

Winhance 讓您可以安全且有效率地控制 Windows 11,例如精簡預先安裝應用程式、最佳化效能以及個人化您的電腦。以下是具體操作方法。

適用於 Windows 11 的 KB5074109(版本 26200.7623)作為 2025 年 1 月更新發布。

適用於 Windows 11 的 KB5074109(版本 26200.7623)作為 2025 年 1 月更新發布。

KB5074109(版本 26200.7623)和 KB5073455 Windows 11 2026 年 1 月更新推出了針對 25H2、24H2 和 23H2 的安全修復和變更。

Windows 11 一月更新 (KB5074109) 會導致 NVIDIA GPU 出現問題(已包含修復程式)

Windows 11 一月更新 (KB5074109) 會導致 NVIDIA GPU 出現問題(已包含修復程式)

適用於 Windows 11 的 KB5074109(版本 26200.7623)會導致 NVIDIA GPU 出現問題,但您可以按照以下三個提示解決此問題。

如何使用 Rufus 建立可啟動的 Windows 11 24H2 USB

如何使用 Rufus 建立可啟動的 Windows 11 24H2 USB

若要使用 Rufus 建立 Windows 11 24 小時制 USB 啟動盤,請開啟該工具,選擇“開啟現有 ISO 檔案”或“下載 ISO 檔案”,然後選擇“自訂”選項。具體操作方法請點擊此處。

如何下載 Windows 11 ISO 文件

如何下載 Windows 11 ISO 文件

要下載 Windows 11 ISO 文件,您可以使用微軟網站、媒體建立工具、Rufus 和 UUP Dump。方法如下。

Windows 10 版本 19045.6216 (KB5063709) 作為 2025 年 8 月更新發布。

Windows 10 版本 19045.6216 (KB5063709) 作為 2025 年 8 月更新發布。

微軟發布了 2025 年 8 月的「週二補丁日」更新,其中包含 Windows 10 的更改和修復。

如何準確檢查您的電腦為何無法執行 Windows 11

如何準確檢查您的電腦為何無法執行 Windows 11

WhyNotWin11 比 Microsoft PC Health Check 應用程式更好,它可以告訴你為什麼你的電腦無法執行 Windows 11,包含 TPM 2.0 和 CPU 支援。

安裝 Windows 11 之前必須做的 8 件事

安裝 Windows 11 之前必須做的 8 件事

安裝 Windows 11 之前,您應該檢查相容性、啟用 TPM 2.0 和安全啟動、建立備份、刪除應用程式、修復檔案等等。

Windows Recall:關於這項AI記憶功能,你需要知道的一切

Windows Recall:關於這項AI記憶功能,你需要知道的一切

Windows 11 的「回憶」功能是一項人工智慧功能,它可以追蹤您在電腦上的所有操作,並使您的活動可被搜尋。以下是您需要了解的所有資訊。

如何在不遺失檔案的情況下重新安裝 Windows 11

如何在不遺失檔案的情況下重新安裝 Windows 11

若要重新安裝 Windows 11,請開啟“設定”>“系統”>“復原”,按一下“立即重新安裝”和“確定”,或使用“重設此電腦並保留檔案”選項。