如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  • 若要在 Windows 11 上安裝 Ollama,請以管理員身分開啟命令提示字元並執行該winget install --id Ollama.Ollama命令。
  • 安裝完成後,使用該ollama pull 命令在本地下載並運行 Gemma、LLaMA 和 DeepSeek 等 LLM。
  • 或者,您可以啟動 Ollama 應用程式來安裝和執行您想要的模型。
  • Ollama 獨立於雲端運行,支援透過命令列介面或自訂介面運行模型。

更新於 2025 年 8 月 21 日:在Windows 11上,您可以安裝 Ollama 以在您的電腦上本機下載和執行多個 AI 模型,在本指南中,我將概述完成此配置的步驟。

儘管 Windows 11 內建了許多針對特定硬體的 AI 模型,例如 Copilot+ PC,但這些模型通常規模較小且用途較為專業。因此,與大型語言模型 (LLM) 互動的主要方式是透過線上聊天機器人,例如 Microsoft Copilot、OpenAI ChatGPT和Google Gemini等。

使用這些LLM的缺點在於它們會在雲端處理所有請求,而這並非所有人都願意這樣做。這時,Ollama就派上用場了。

Ollama 是一款開源工具,它允許您在運行 Windows 11、10 或其他受支援作業系統的本機電腦上,透過命令列或圖形介面直接執行大型語言模型。它的設計旨在簡化個人用戶、開發人員和研究人員下載、運行和管理這些 AI 模型的過程。

在本指南中,我將概述在電腦上本地運行 LLM 的最簡單工具之一的設定步驟。

在 Windows 11 上安裝 Ollama 以在本機上執行 AI 模型

若要在 Windows 11 上本機安裝 Ollama,請依照下列步驟操作:

  1. 在 Windows 11 中開啟「開始」功能表。

     

     

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (方法一)輸入以下指令安裝官方 Ollama 工具,再按Enter 鍵:

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. 點擊“完成”按鈕。

  5. (方法二)輸入下列指令從 Windows 11 卸載 Ollama,然後按下Enter 鍵:

    winget卸載--id Ollama.Ollama

    小提醒:建議在卸載 Ollama 之前,先從電腦卸載所有 AI 模型。

完成這些步驟後,Ollama 將在背景執行,然後您可以使用ollama 命令列從命令提示字元或 PowerShell 與其互動。

除了使用Windows 套件管理員 (winget)安裝此工具外,您還可以從其官方頁面或此GitHub頁面取得 Ollama 安裝程式。 

在 Windows 11 上使用 Ollama 安裝並執行 AI LLM

在開始安裝之前,請開啟Ollama 庫頁面,決定要安裝哪個 AI 模型。

在該頁面上,您將找到來自DeepSeek、Google (gemma)、Meta (llama) 等公司的可用模型清單。

您還會注意到,每個模型都有類似 1b、4b、12b 等的標記,這些標記表示參數的數量,單位為十億。參數數量越多,模型規模越大,功能也可能越強大。但是,它們也需要更強大的硬體支援。

如果你是新手,應該下載最小的版本(例如「1b」)。

若要在 Windows 11 上使用 Ollama 安裝 AI 模型,請依照下列步驟操作:

  1. 打開開始。

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行”選項。

  3. (可選)輸入以下指令檢查 Ollama 版本,然後按Enter 鍵:

    ollama --version

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  4. (可選)輸入以下命令以確認 Ollama 正在運行,然後按Enter 鍵:

    curl http://localhost:11434

  5. (方法一)輸入以下命令,在您的電腦上本機安裝並執行 AI 模型,然後按Enter 鍵:

    ollama pull gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    簡要說明:此指令會下載 Google Gemma 版本 3,其中包含十億個參數。請在命令中,將 `<model_name>` 替換gemma3:1b 為您要安裝的模型名稱和版本,例如 `<model_name> deepseek-r1:1.5b`。

  6. (可選)輸入以下命令以查看已安裝的型號,然後按Enter 鍵:

    奧拉瑪列表

  7. (方法二)輸入以下指令從電腦卸載 AI 模型,然後按Enter 鍵:

    ollama rm gemma3:1b

  8. 輸入以下命令以確認模型已從您的電腦上刪除,然後按Enter 鍵:

    奧拉瑪列表

  9. 輸入以下指令執行使用 Ollama 安裝的 AI 模型,然後按Enter 鍵:

    ollama run gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

  10. (可選)輸入以下命令以顯示 Ollama 的所有正在運行的進程,然後按Enter 鍵:

    奧拉瑪 ps

  11. (可選)輸入此命令以顯示特定型號的詳細信息,例如配置和參數,然後按Enter 鍵:

    ollama 展示 gemma3:1b

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

    在命令中,確認您要開始與 Ollama 一起使用的模型。

完成這些步驟後,您就可以透過命令列介面開始使用 LLM 了。

您還可以使用該ollama --help命令查看其他可用命令,以及使用該ollama run --help命令列出特定型號的可用命令。

在 Windows 11 上使用 Ollama 安裝和執行 AI LLM(圖形介面方法)

若要在 Windows 11 上使用 Ollama GUI 應用程式安裝 AI 模型,請依照下列步驟操作:

  1. 如果安裝後Ollama應用程式沒有自動啟動,請從開始功能表開啟它。

  2. 點選人工智慧模型選單,選擇要下載的模型。例如,“GPT-OSS:20b”選項。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

  3. 撰寫並提交一個問題,即可開始下載 OpenAI GPT 模型。

    如何在 Windows 11 上安裝 Ollama 以執行本機 AI 模型

完成這些步驟後,人工智慧模型將透過圖形使用者介面下載到您的電腦。

如果您擁有Ollama 帳戶,您可以登入並使用內建的網路搜尋功能,將模型的功能與網路上可取得的最新資訊結合。

Turbo選項是 Ollama 提供的一項基於雲端的服務,它利用資料中心級硬體運行大型 AI 模型。該服務旨在為那些規模過大或運行速度過慢而無法在本地電腦上運行的模型提供高效能和高速度。每月訂閱費用為 20 美元。

Ollama 應用程式本身並未提供預先下載可用 AI 模型的功能。但是,您可以按照上述步驟,透過命令列工具完成此操作。

關於 Windows 11 上 Ollama 的常見問題解答

如果您對 Ollama 還有疑問,以下常見問題將幫助您了解工具的各個方面。您也可以隨時在下方留言區留言提問。

運行 Ollama 需要特定的 AI 硬體嗎?

不,您可以使用相對現代的硬體來運行透過 Ollama 取得的基礎 AI 模型,而且您不一定需要神經處理單元 (NPU)。 Ollama 也可以直接在處理器中運行,但強烈建議使用獨立顯示卡。

但是,根據不同AI模型的參數,您需要特定的硬體才能運行它們。例如,您可以使用普通的現代硬體運行gpt-oss-20b模型,但如果您想使用gpt-oss-120b模型,則需要性能非常強大的硬體,例如至少配備80GB顯存的NVIDIA GPU、伺服器級處理器(例如AMD EPYC或Intel Xeon)、至少256GB內存以及至少有500GB內存可用300GB,用於存儲空間模型的高速組合。

Ollama 在 Windows 11 系統上的要求是什麼?

在 Windows 11 或 10 上安裝 Ollama 的系統需求不高:

  • 處理器: Intel 或 AMD x86-64。
  • 記憶體: 8GB,但建議使用16GB或更高。
  • 儲存空間: 10GB 可用空間。
  • 顯示卡:整合式顯示卡或獨立顯示卡。

雖然配置要求並不高,但我建議使用現代多核心處理器、至少 32GB 記憶體、256GB 以上的固態硬碟(最好是 NVMe 固態硬碟)以及 Nvidia RTX 30 系列顯示卡。當然,您也可以使用同等效能的 AMD Radeon 顯示卡。

此外,對於高階機型,建議至少配備 4GB 記憶體。

模型越大,所需的資源就越多,這意味著機器需要更強大的硬體。

Ollama 是否使用虛擬化技術在 Windows 11 上運作?

不,Ollama 本身並不會創建虛擬機器。但是,它會在系統上建立一個隔離的環境來執行 LLM。此環境包含所有必要的元件,例如模型權重(預訓練資料)和設定檔。

值得注意的是,Ollama不再需要WSL2。它可以在最新版本的Windows 11或10上原生運作。

2025 年 8 月 21 日更新:本指南已更新,以確保準確性並反映流程的變更。

留下評論

使用 FotoSketcher 將照片轉換為繪畫、素描和卡通

使用 FotoSketcher 將照片轉換為繪畫、素描和卡通

使用 FotoSketcher Studio 將照片轉換成繪畫、鉛筆素描或卡通。學習如何選擇效果、調整預覽、保存作品。

使用音訊標識符詳細分析和識別音訊文件

使用音訊標識符詳細分析和識別音訊文件

了解音訊標識符揭示的位元率、編碼器和標籤訊息,其傳統工作流程如何運作,以及當前哪些工具可以檢查文件或識別歌曲。

我的照片索引:一款適用於 Windows 的開源照片管理器。

我的照片索引:一款適用於 Windows 的開源照片管理器。

My Photo Index 是一款舊版 Windows 相片目錄管理工具,用於標記、評分和瀏覽本機影像。請查看其文件功能、相容性限制以及一個維護良好的替代方案。

使用屬性變更器變更檔案和資料夾屬性、日期和時間

使用屬性變更器變更檔案和資料夾屬性、日期和時間

學習如何使用屬性變更器安全地編輯 Windows 檔案屬性和時間戳記、更新 JPEG EXIF 照片日期以及預覽批次變更。

如何在 Windows 10 中為每個顯示器設定不同的桌布

如何在 Windows 10 中為每個顯示器設定不同的桌布

為每個 Windows 10 顯示器設定單獨的壁紙,識別顯示器,調整影像適應度,並解決缺少顯示器選擇的問題。

pViewer:一款極簡圖像檢視器和漫畫閱讀器

pViewer:一款極簡圖像檢視器和漫畫閱讀器

了解 pViewer 的功能、照片和漫畫模式的工作原理、應該下載哪個 Windows 版本,以及舊版和重寫版之間的差異。

如何在 Windows 7 和 8 中使用快速鍵切換到下一個桌面背景

如何在 Windows 7 和 8 中使用快速鍵切換到下一個桌面背景

設定 Windows 7 或 8 投影片放映,建立一個小型 VBScript 快捷方式,並指派鍵盤熱鍵來切換到下一張桌布。

NeoDownloader:設定參數並從網站批量下載圖片

NeoDownloader:設定參數並從網站批量下載圖片

學習如何建立 NeoDownloader 專案、選擇爬取範圍、設定映像過濾器和目標位置,以及查看批次下載。

XnConvert:批次應用特效和轉換影像格式

XnConvert:批次應用特效和轉換影像格式

使用 XnConvert 可以批次套用特效、調整照片大小和轉換影像格式。選擇輸出設定、預覽編輯效果並保護您的原始文件。

使用 ManicTime 追蹤工作時間和電腦使用情況

使用 ManicTime 追蹤工作時間和電腦使用情況

了解 ManicTime 如何追蹤應用程式使用情況、活躍時間和空閒時間以及文檔,然後將您的活動歷史記錄轉換為專案標籤和時間表。