Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

• Pentru a instala modelul GPT-OSS AI pe Windows 11, deschideți mai întâi Command Prompt (admin) și executați comanda winget install --id Ollama.Ollama.
• În al doilea rând, trebuie să selectați gpt-oss:20bopțiunea din listă și să trimiteți o întrebare pentru a declanșa descărcarea.
• Alternativ, puteți utiliza instrumentul din linia de comandă Ollama cu Linia de comandă (admin) și puteți folosi ollama pull gpt-oss:20b comanda pentru a descărca și instala (de exemplu) GPT-OSS local pe computer.

Pe Windows 11 , puteți instala și rula local pe computer cel mai recent model de inteligență artificială GPT-OSS (Open Source Software) de la OpenAI, iar în acest ghid, voi prezenta pașii pentru finalizarea acestei configurații.

GPT-OSS este un model bazat pe text din familia de modele lingvistice mari, cu pondere deschisă, create de OpenAI. În prezent, avem două versiuni, inclusiv gpt-oss-20b (cu aproximativ 21 de miliarde de parametri) și gpt-oss-120b (cu aproximativ 117 de miliarde de parametri), lansate sub licența Apache 2.0, permițând oricui să le descarce, să le ruleze, să le modifice și să le redistribuie liber.

• gpt-oss-20b: Suficient de compact pentru a rula pe hardware obișnuit cu minimum 16 GB de memorie (de exemplu, laptopuri, telefoane puternice) și excelează la sarcini locale cu latență redusă.
• gpt-oss-120b: Este modelul mai mare, conceput pentru sarcini puternice de raționament, rulează pe configurații de ultimă generație, cum ar fi un singur GPU de 80 GB și oferă performanțe aproape de O4-mini.

Aceste modele acceptă raționamentul în lanț de gândire, utilizarea instrumentelor, ferestre contextuale lungi și oferă niveluri de raționament configurabile, cum ar fi scăzut, mediu și ridicat, pentru flexibilitate.

Ce pot face cu GPT-OSS ca utilizator obișnuit?

Dacă ești un utilizator, dezvoltator sau entuziast al tehnologiei, noile modele OpenAI îți permit să rulezi chatbot-ul local pe computer, fără abonament, și având control deplin asupra datelor tale.

Dacă ești pregătit, poți experimenta, personaliza și ajusta modelul, deoarece are o licență Apache 2.0.

De obicei, ați folosi GPT-OSS pentru ajutor în programare, rezolvarea problemelor complexe, conversații și fluxuri de lucru agențice . În plus, îl puteți utiliza offline, fără conexiune la internet. 

Care este publicul țintă pentru OpenAI GPT-OSS?

Aceste modele de inteligență artificială sunt adaptate pentru dezvoltatori, cercetători, cadre universitare și persoane pasionate de tehnologie.

Dacă doriți să rulați aceste modele de inteligență artificială local (independent de cloud) pe computerul dvs., cea mai simplă metodă este să utilizați Ollama , care este un instrument open-source care vă permite să rulați modele lingvistice mari direct pe computerul local care rulează Windows 11, 10 sau o altă platformă.

Deși este recomandat să instalați și să rulați modele AI pe dispozitive cu o unitate de procesare neuronală (NPU) , cum ar fi un PC Copilot+ cu procesor Snapdragon, puteți rula aceste modele pe aproape orice hardware. Ollama colaborează, de asemenea, cu Nvidia pentru a accelera GPT-OSS pe plăcile grafice GeForce RTX și RTX Pro . 

Singura mea avertizare este că, fără o unitate de procesare nucleară (NPU) sau o unitate grafică capabilă, chatbot-ul cu inteligență artificială poate avea nevoie de foarte mult timp pentru a răspunde la o întrebare simplă.

În acest ghid , voi prezenta pașii pentru configurarea modelelor Gemma AI pe Windows 11.

• Instalați GPT-OSS pe Windows 11 cu Ollama (metoda GUI)
• Instalați GPT-OSS pe Windows 11 cu Ollama (metoda CLI)

Instalați GPT-OSS pe Windows 11 cu Ollama (metoda GUI)

Pentru a instala GPT-OSS sau 3n local pe Windows 11, urmați acești pași:

1. Deschideți Start pe Windows 11.

    

    

2. Căutați Linie de comandă (sau Terminal ), faceți clic dreapta pe rezultatul de sus și alegeți opțiunea Executare ca administrator  .

3. Tastați această comandă pentru a instala instrumentul oficial Ollama și apăsați Enter :

   winget install --id Ollama.Ollama

   

4. Faceți clic pe butonul Finish pentru a finaliza instalarea.

5. Deschideți aplicația Ollama din meniul Start dacă nu s-a lansat automat.

6. Faceți clic pe meniul modelului AI și selectați opțiunea „GPT-OSS:20b” .

   

7. Scrieți și trimiteți o întrebare pentru a începe descărcarea modelului OpenAI GPT.

   

După ce finalizați pașii, puteți începe să utilizați modelul de inteligență artificială GPT-OSS prin intermediul interfeței din linia de comandă.

Dacă aveți un cont Ollama , vă puteți conecta pentru a utiliza căutarea web încorporată și a combina capacitățile modelului cu cele mai recente informații disponibile online.

În caz că vă întrebați, opțiunea Turbo este un serviciu bazat pe cloud de la Ollama care vă permite să rulați modele AI de mari dimensiuni folosind hardware de nivel de centre de date. Este concepută pentru a oferi performanță și viteză ridicate pentru modele care ar putea fi prea mari sau prea lente pentru a rula pe un computer local. Abonamentul lunar costă 20 USD.

Aplicația Ollama nu oferă o opțiune de predescărcare a modelelor de inteligență artificială disponibile. Cu toate acestea, puteți finaliza această sarcină din instrumentul din linia de comandă.

Instalați GPT-OSS pe Windows 11 cu Ollama (metoda CLI)

Pentru a instala OpenAI GPT-OSS local pe Windows 11, urmați acești pași:

1. Deschideți Start .

2. Căutați Linie de comandă (sau Terminal ), faceți clic dreapta pe rezultatul de sus și alegeți opțiunea Executare ca administrator  .

3. Tastați această comandă pentru a instala instrumentul oficial Ollama și apăsați Enter :

   winget install --id Ollama.Ollama

   

4. Faceți clic pe butonul Finish pentru a finaliza instalarea.

5. (Opțiunea 1) Tastați această comandă pentru a instala local modelul GPT-OSS AI mai mic și apăsați Enter :

   Ollama trage gpt-oss:20b

   

   Notă rapidă: Această comandă descarcă fișierul gpt-oss:20b, care include 20 de miliarde de parametri. Cu toate acestea, puteți utiliza și gpt-oss:latestopțiunea de a descărca cel mai recent model disponibil la momentul respectiv.

6. (Opțiunea 2) Tastați această comandă pentru a instala local modelul de inteligență artificială GPT-OSS mai mare și apăsați Enter :

   ollama pull gpt-oss:120b

7. (Opțional) Tastați această comandă pentru a confirma că modelul AI a fost instalat și apăsați Enter :

   lista Ollamei

8. (Opțional) Tastați această comandă pentru a afișa detalii (de exemplu) despre modelul GPT-OSS mai mic, cum ar fi configurația și parametrii, apoi apăsați Enter :

   emisiunea Ollama gpt-oss:20b

   

9. Tastați această comandă pentru a rula (de exemplu) modelul GTP-OSS și apăsați Enter :

   alergarea lui Ollama, GPT-OSS: 20b

După ce finalizați pașii, puteți începe să utilizați cel mai recent model open-source GPT AI de la OpenAI prin intermediul interfeței din linia de comandă.

Pe lângă utilizarea Managerului de pachete Windows (winget) pentru a instala acest instrument, puteți oricând obține programul de instalare Ollama de pe pagina sa oficială sau de pe această pagină GitHub . 

De asemenea, puteți utiliza ollama --helpcomanda pentru a vizualiza alte comenzi disponibile și ollama run --helpcomanda pentru a lista comenzile disponibile pentru un anumit model.

Dacă intenționați să rulați unul dintre aceste modele de inteligență artificială pe computerul dvs., ar trebui să alegeți modelul gpt-oss-20b datorită dimensiunii sale și cerințelor hardware.

Dacă doriți să utilizați modelul gpt-oss-120b , veți avea nevoie de hardware foarte performant, cum ar fi un GPU NVIDIA cu cel puțin 80 GB de memorie VRAM, un procesor de nivel server (de exemplu, AMD EPYC sau Intel Xeon), cel puțin 256 GB de memorie și un SSD NVMe de mare viteză cu cel puțin 500 GB liberi pentru ponderările modelului și fișierele temporare.