如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  • 若要在 Windows 11 上安裝 GPT-OSS AI 模型,請先開啟命令提示字元(管理員),然後執行該winget install --id Ollama.Ollama命令。
  • 其次,您需要gpt-oss:20b從清單中選擇選項並提交問題以觸發下載。
  • 或者,您可以使用 Ollama 命令列工具和命令提示字元(管理員),並使用命令ollama pull gpt-oss:20b 下載並安裝(例如)GPT-OSS 到您的電腦本機。

Windows 11上,您可以將 OpenAI 的最新 GPT-OSS(開源軟體)AI 模型安裝並運行在本機電腦上,在本指南中,我將概述完成此配置的步驟。

GPT-OSS 是OpenAI 旗下開源大型語言模型系列中的一個文字模型。目前,我們有兩個版本,分別是gpt-oss-20b(約 210 億參數)和gpt-oss-120b(約 1170 億參數),它們均以 Apache 2.0 許可證發布,允許任何人免費下載、運行、修改和重新分發。

  • gpt-oss-20b:體積小巧,可在至少配備16GB 記憶體的普通硬體上運作(例如筆記型電腦、高效能手機),並且擅長本地低延遲任務。
  • gpt-oss-120b:它是較大的型號,專為強大的推理任務而設計,可在高端配置(例如單個 80GB GPU)上運行,並提供接近 O4-mini 的性能。

這些模型支援思維鏈推理、工具使用、長上下文窗口,並提供可配置的推理等級(如低、中、高),以實現靈活性。

作為普通用戶,我可以使用 GPT-OSS 做什麼?

如果您是精通技術的使用者、開發者或愛好者,新的 OpenAI 模型可讓您在本機電腦上執行聊天機器人,無需訂閱,並完全控制您的資料。

如果你有能力,你可以對模型進行試驗、自訂和微調,因為它採用的是 Apache 2.0 授權。

通常情況下,GPT-OSS 可用於程式碼輔助、複雜問題解決、對話和智慧體工作流程。此外,它還支援離線使用,無需網路連線。 

OpenAI GPT-OSS 的目標受眾是誰?

這些人工智慧模型是為開發人員、研究人員、學者和技術達人量身定制的。

如果您想在本機上(獨立於雲端)運行這些 AI 模型,最簡單的方法是使用Ollama,這是一個開源工具,可讓您直接在執行 Windows 11、10 或其他平台的本機上執行大型語言模型。

雖然在配備NPU(神經處理單元)的裝置(例如搭載驍龍處理器的 Copilot+ PC)上安裝和運行 AI 模型效果最佳,但實際上幾乎任何硬體都可以運行這些模型。 Ollama 也與 Nvidia 合作,在 GeForce RTX 和 RTX Pro GPU 上加速 GPT-OSS 模型的運作。 

我唯一要說明的是,如果沒有 NPU 或效能強大的 GPU,AI 聊天機器人可能需要很長時間才能回答一個簡單的問題。

在本指南中,我將概述在 Windows 11 上設定 Gemma AI 模型的步驟。

使用 Ollama(圖形介面方法)在 Windows 11 上安裝 GPT-OSS

若要在 Windows 11 上本機安裝 GPT-OSS 或 3n,請依照下列步驟操作:

  1. 在 Windows 11 中開啟「開始」功能表。

     

     

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行” 選項。

  3. 輸入以下指令安裝官方 Ollama 工具,然後按Enter 鍵

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  4. 點擊“完成”按鈕完成安裝。

  5. 如果Ollama應用程式沒有自動啟動,請從開始功能表開啟它。

  6. 點選 AI 模型選單,選擇「GPT-OSS:20b」選項。

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  7. 撰寫並提交一個問題,即可開始下載 OpenAI GPT 模型。

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

完成這些步驟後,您就可以透過命令列介面開始使用 GPT-OSS AI 模型了。

如果您擁有Ollama 帳戶,您可以登入並使用內建的網路搜尋功能,將模型的功能與網路上可取得的最新資訊結合。

如果您想知道,Turbo 選項是 Ollama 提供的雲端服務,它允許您使用資料中心級硬體運行大型 AI 模型。該服務旨在為那些規模過大或運行速度過慢而無法在本地電腦上運行的模型提供高效能和高速度。每月訂閱費用為 20 美元。

Ollama 應用程式本身並未提供預先下載可用 AI 模型的功能。不過,您可以透過命令列工具完成這項任務。

使用 Ollama(命令列方法)在 Windows 11 上安裝 GPT-OSS

若要在 Windows 11 上本機安裝 OpenAI GPT-OSS,請依照下列步驟操作:

  1. 打開開始

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行” 選項。

  3. 輸入以下指令安裝官方 Ollama 工具,然後按Enter 鍵

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  4. 點擊“完成”按鈕完成安裝。

  5. (方法一)輸入以下指令在本機安裝較小的 GPT-OSS AI 模型,然後按下Enter 鍵

    ollama 拉取 gpt-oss:20b

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

    簡要說明:此指令下載 gpt-oss:20b 版本,其中包含 200 億個參數。不過,您也可以選擇gpt-oss:latest下載當時可用的最新模型。

  6. (選項 2)輸入以下命令以在本機安裝更大的 GPT-OSS AI 模型,然後按Enter 鍵

    ollama 拉取 gpt-oss:120b

  7. (可選)輸入以下命令以確認 AI 模型已安裝,然後按Enter 鍵

    奧拉瑪列表

  8. (可選)輸入此命令以顯示(例如)較小的 GPT-OSS 模型的詳細信息,例如配置和參數,然後按Enter 鍵

    ollama 顯示 gpt-oss:20b

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  9. 輸入以下命令運行(例如)GTP-OSS模型,然後按Enter鍵

    ollama 運行 gpt-oss:20b

完成這些步驟後,您就可以透過命令列介面開始使用 OpenAI 的最新開源 GPT AI 模型了。

除了使用Windows 套件管理員 (winget)安裝此工具外,您還可以從其官方頁面或此GitHub頁面取得 Ollama 安裝程式。 

您還可以使用該ollama --help命令查看其他可用命令,以及使用該ollama run --help命令列出特定型號的可用命令。

如果您打算在電腦上執行這些 AI 模型之一,則應選擇gpt-oss-20b模型,因為它佔用空間小且硬體需求低。

如果您想使用gpt-oss-120b模型,您需要性能非常強大的硬件,例如至少配備 80 GB 顯存的 NVIDIA GPU、伺服器級處理器(例如 AMD EPYC 或 Intel Xeon)、至少 256GB 內存以及至少有 500 GB 可用空間的高速 NVMe SSD,用於存儲模型權重和臨時文件。

留下評論

Copilot 功能可能很快就會整合到 Windows 11 的檔案總管中。

Copilot 功能可能很快就會整合到 Windows 11 的檔案總管中。

微軟正在 Windows 11 的檔案總管中測試原生 Copilot 側邊欄,這暗示著人工智慧驅動的檔案管理以及新的隱私問題。

微軟正透過 PowerToys 探索在 Windows 11 中新增頂部功能表列。

微軟正透過 PowerToys 探索在 Windows 11 中新增頂部功能表列。

全新的 PowerToys 命令調色板 Dock 為 Windows 11 添加了類似 Linux 的功能表欄,使高級用戶能夠靈活地存取工具和系統資訊。

如何在 Windows 11 上將本機帳戶與 Microsoft 帳戶關聯

如何在 Windows 11 上將本機帳戶與 Microsoft 帳戶關聯

要從 Windows 11 本機帳戶切換到 Microsoft 帳戶,請開啟“設定”>“帳戶”>“你的資訊”,然後關聯帳戶。操作方法如下。

微軟計劃在 Windows 11 中預設為停用 NTLM 驗證。

微軟計劃在 Windows 11 中預設為停用 NTLM 驗證。

微軟將在未來的 Windows 11 和 Server 版本中預設為停用 NTLM 驗證,從而推動企業轉向更強大的 Kerberos 安全性。

拆解顯示,Surface Laptop 和 Surface Pro 無法維修。

拆解顯示,Surface Laptop 和 Surface Pro 無法維修。

Surface Laptop 和 Surface Pro (2017) 的拆解顯示,它們有許多焊接元件、膠水和膠帶,而且無法修復。

Xbox One S 拆解顯示其硬碟速度更快,設計更簡潔。

Xbox One S 拆解顯示其硬碟速度更快,設計更簡潔。

微軟新款 Xbox One S 拆解圖曝光,硬體略有提升,還隱藏著士官長的彩蛋。點此看拆解圖!

Surface Pro 3:深入剖析這款平板電腦的運作機制

Surface Pro 3:深入剖析這款平板電腦的運作機制

搶先一睹 Surface Pro 3 的內部構造,看看全新的主機板、散熱系統、電池以及其他讓這款平板電腦運作起來的組件。

如何建立可啟動的 Windows 11 USB 安裝介質

如何建立可啟動的 Windows 11 USB 安裝介質

若要建立用於安裝 Windows 11 的啟動 USB 隨身碟,您可以使用 Rufus、Ventoy、命令提示字元或媒體建立工具。方法如下。

如何在 Windows 10 上停用驅動程式簽章強制

如何在 Windows 10 上停用驅動程式簽章強制

若要停用 Windows 10 上安裝未簽署驅動程式的簽章強制,您可以使用 WinRE 中的啟動設定或 bcdedit 指令。

Windows 11 24H2 系統需求和硬體相容性說明

Windows 11 24H2 系統需求和硬體相容性說明

Windows 11 24H2 的硬體需求包括 1GHz 雙核心 CPU、4GB 記憶體、64GB SSD、TPM 2.0、安全啟動和 NPU(用於 AI)。