如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  • 若要在 Windows 11 上安裝 GPT-OSS AI 模型,請先開啟命令提示字元(管理員),然後執行該winget install --id Ollama.Ollama命令。
  • 其次,您需要gpt-oss:20b從清單中選擇選項並提交問題以觸發下載。
  • 或者,您可以使用 Ollama 命令列工具和命令提示字元(管理員),並使用命令ollama pull gpt-oss:20b 下載並安裝(例如)GPT-OSS 到您的電腦本機。

在Windows 11上,您可以將 OpenAI 的最新 GPT-OSS(開源軟體)AI 模型安裝並運行在本機電腦上,在本指南中,我將概述完成此配置的步驟。

GPT-OSS 是OpenAI 旗下開源大型語言模型系列中的一個文字模型。目前,我們有兩個版本,分別是gpt-oss-20b(約 210 億參數)和gpt-oss-120b(約 1170 億參數),它們均以 Apache 2.0 許可證發布,允許任何人免費下載、運行、修改和重新分發。

  • gpt-oss-20b:體積小巧,可在至少配備16GB 記憶體的普通硬體上運作(例如筆記型電腦、高效能手機),並且擅長本地低延遲任務。
  • gpt-oss-120b:它是較大的型號,專為強大的推理任務而設計,可在高端配置(例如單個 80GB GPU)上運行,並提供接近 O4-mini 的性能。

這些模型支援思維鏈推理、工具使用、長上下文窗口,並提供可配置的推理等級(如低、中、高),以實現靈活性。

作為普通用戶,我可以使用 GPT-OSS 做什麼?

如果您是精通技術的使用者、開發者或愛好者,新的 OpenAI 模型可讓您在本機電腦上執行聊天機器人,無需訂閱,並完全控制您的資料。

如果你有能力,你可以對模型進行試驗、自訂和微調,因為它採用的是 Apache 2.0 授權。

通常情況下,GPT-OSS 可用於程式碼輔助、複雜問題解決、對話和智慧體工作流程。此外,它還支援離線使用,無需網路連線。 

OpenAI GPT-OSS 的目標受眾是誰?

這些人工智慧模型是為開發人員、研究人員、學者和技術達人量身定制的。

如果您想在本機上(獨立於雲端)運行這些 AI 模型,最簡單的方法是使用Ollama,這是一個開源工具,可讓您直接在執行 Windows 11、10 或其他平台的本機上執行大型語言模型。

雖然在配備NPU(神經處理單元)的裝置(例如搭載驍龍處理器的 Copilot+ PC)上安裝和運行 AI 模型效果最佳,但實際上幾乎任何硬體都可以運行這些模型。 Ollama 也與 Nvidia 合作,在 GeForce RTX 和 RTX Pro GPU 上加速 GPT-OSS 模型的運作。 

我唯一要說明的是,如果沒有 NPU 或效能強大的 GPU,AI 聊天機器人可能需要很長時間才能回答一個簡單的問題。

在本指南中,我將概述在 Windows 11 上設定 Gemma AI 模型的步驟。

使用 Ollama(圖形介面方法)在 Windows 11 上安裝 GPT-OSS

若要在 Windows 11 上本機安裝 GPT-OSS 或 3n,請依照下列步驟操作:

  1. 在 Windows 11 中開啟「開始」功能表。

     

     

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行” 選項。

  3. 輸入以下指令安裝官方 Ollama 工具,然後按Enter 鍵:

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  4. 點擊“完成”按鈕完成安裝。

  5. 如果Ollama應用程式沒有自動啟動,請從開始功能表開啟它。

  6. 點選 AI 模型選單,選擇「GPT-OSS:20b」選項。

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  7. 撰寫並提交一個問題,即可開始下載 OpenAI GPT 模型。

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

完成這些步驟後,您就可以透過命令列介面開始使用 GPT-OSS AI 模型了。

如果您擁有Ollama 帳戶,您可以登入並使用內建的網路搜尋功能,將模型的功能與網路上可取得的最新資訊結合。

如果您想知道,Turbo 選項是 Ollama 提供的雲端服務,它允許您使用資料中心級硬體運行大型 AI 模型。該服務旨在為那些規模過大或運行速度過慢而無法在本地電腦上運行的模型提供高效能和高速度。每月訂閱費用為 20 美元。

Ollama 應用程式本身並未提供預先下載可用 AI 模型的功能。不過,您可以透過命令列工具完成這項任務。

使用 Ollama(命令列方法)在 Windows 11 上安裝 GPT-OSS

若要在 Windows 11 上本機安裝 OpenAI GPT-OSS,請依照下列步驟操作:

  1. 打開開始。

  2. 搜尋“命令提示字元(或終端)”,以滑鼠右鍵按一下第一個搜尋結果,然後選擇“以管理員身份執行” 選項。

  3. 輸入以下指令安裝官方 Ollama 工具,然後按Enter 鍵:

    winget install --id Ollama.Ollama

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  4. 點擊“完成”按鈕完成安裝。

  5. (方法一)輸入以下指令在本機安裝較小的 GPT-OSS AI 模型,然後按下Enter 鍵:

    ollama 拉取 gpt-oss:20b

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

    簡要說明:此指令下載 gpt-oss:20b 版本,其中包含 200 億個參數。不過,您也可以選擇gpt-oss:latest下載當時可用的最新模型。

  6. (選項 2)輸入以下命令以在本機安裝更大的 GPT-OSS AI 模型,然後按Enter 鍵:

    ollama 拉取 gpt-oss:120b

  7. (可選)輸入以下命令以確認 AI 模型已安裝,然後按Enter 鍵:

    奧拉瑪列表

  8. (可選)輸入此命令以顯示(例如)較小的 GPT-OSS 模型的詳細信息,例如配置和參數,然後按Enter 鍵:

    ollama 顯示 gpt-oss:20b

    如何在 Windows 11 上安裝 OpenAI GPT-OSS AI 模型

  9. 輸入以下命令運行(例如)GTP-OSS模型,然後按Enter鍵:

    ollama 運行 gpt-oss:20b

完成這些步驟後,您就可以透過命令列介面開始使用 OpenAI 的最新開源 GPT AI 模型了。

除了使用Windows 套件管理員 (winget)安裝此工具外,您還可以從其官方頁面或此GitHub頁面取得 Ollama 安裝程式。 

您還可以使用該ollama --help命令查看其他可用命令,以及使用該ollama run --help命令列出特定型號的可用命令。

如果您打算在電腦上執行這些 AI 模型之一,則應選擇gpt-oss-20b模型,因為它佔用空間小且硬體需求低。

如果您想使用gpt-oss-120b模型,您需要性能非常強大的硬件,例如至少配備 80 GB 顯存的 NVIDIA GPU、伺服器級處理器(例如 AMD EPYC 或 Intel Xeon)、至少 256GB 內存以及至少有 500 GB 可用空間的高速 NVMe SSD,用於存儲模型權重和臨時文件。

留下評論

使用 FotoSketcher 將照片轉換為繪畫、素描和卡通

使用 FotoSketcher 將照片轉換為繪畫、素描和卡通

使用 FotoSketcher Studio 將照片轉換成繪畫、鉛筆素描或卡通。學習如何選擇效果、調整預覽、保存作品。

使用音訊標識符詳細分析和識別音訊文件

使用音訊標識符詳細分析和識別音訊文件

了解音訊標識符揭示的位元率、編碼器和標籤訊息,其傳統工作流程如何運作,以及當前哪些工具可以檢查文件或識別歌曲。

我的照片索引:一款適用於 Windows 的開源照片管理器。

我的照片索引:一款適用於 Windows 的開源照片管理器。

My Photo Index 是一款舊版 Windows 相片目錄管理工具,用於標記、評分和瀏覽本機影像。請查看其文件功能、相容性限制以及一個維護良好的替代方案。

使用屬性變更器變更檔案和資料夾屬性、日期和時間

使用屬性變更器變更檔案和資料夾屬性、日期和時間

學習如何使用屬性變更器安全地編輯 Windows 檔案屬性和時間戳記、更新 JPEG EXIF 照片日期以及預覽批次變更。

如何在 Windows 10 中為每個顯示器設定不同的桌布

如何在 Windows 10 中為每個顯示器設定不同的桌布

為每個 Windows 10 顯示器設定單獨的壁紙,識別顯示器,調整影像適應度,並解決缺少顯示器選擇的問題。

pViewer:一款極簡圖像檢視器和漫畫閱讀器

pViewer:一款極簡圖像檢視器和漫畫閱讀器

了解 pViewer 的功能、照片和漫畫模式的工作原理、應該下載哪個 Windows 版本,以及舊版和重寫版之間的差異。

如何在 Windows 7 和 8 中使用快速鍵切換到下一個桌面背景

如何在 Windows 7 和 8 中使用快速鍵切換到下一個桌面背景

設定 Windows 7 或 8 投影片放映,建立一個小型 VBScript 快捷方式,並指派鍵盤熱鍵來切換到下一張桌布。

NeoDownloader:設定參數並從網站批量下載圖片

NeoDownloader:設定參數並從網站批量下載圖片

學習如何建立 NeoDownloader 專案、選擇爬取範圍、設定映像過濾器和目標位置,以及查看批次下載。

XnConvert:批次應用特效和轉換影像格式

XnConvert:批次應用特效和轉換影像格式

使用 XnConvert 可以批次套用特效、調整照片大小和轉換影像格式。選擇輸出設定、預覽編輯效果並保護您的原始文件。

使用 ManicTime 追蹤工作時間和電腦使用情況

使用 ManicTime 追蹤工作時間和電腦使用情況

了解 ManicTime 如何追蹤應用程式使用情況、活躍時間和空閒時間以及文檔,然後將您的活動歷史記錄轉換為專案標籤和時間表。