Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

  • Pentru a instala modelul GPT-OSS AI pe Windows 11, deschideți mai întâi Command Prompt (admin) și executați comanda winget install --id Ollama.Ollama.
  • În al doilea rând, trebuie să selectați gpt-oss:20bopțiunea din listă și să trimiteți o întrebare pentru a declanșa descărcarea.
  • Alternativ, puteți utiliza instrumentul din linia de comandă Ollama cu Linia de comandă (admin) și puteți folosi ollama pull gpt-oss:20b comanda pentru a descărca și instala (de exemplu) GPT-OSS local pe computer.

Pe Windows 11 , puteți instala și rula local pe computer cel mai recent model de inteligență artificială GPT-OSS (Open Source Software) de la OpenAI, iar în acest ghid, voi prezenta pașii pentru finalizarea acestei configurații.

GPT-OSS este un model bazat pe text din familia de modele lingvistice mari, cu pondere deschisă, create de OpenAI. În prezent, avem două versiuni, inclusiv gpt-oss-20b (cu aproximativ 21 de miliarde de parametri) și gpt-oss-120b (cu aproximativ 117 de miliarde de parametri), lansate sub licența Apache 2.0, permițând oricui să le descarce, să le ruleze, să le modifice și să le redistribuie liber.

  • gpt-oss-20b: Suficient de compact pentru a rula pe hardware obișnuit cu minimum 16 GB de memorie (de exemplu, laptopuri, telefoane puternice) și excelează la sarcini locale cu latență redusă.
  • gpt-oss-120b: Este modelul mai mare, conceput pentru sarcini puternice de raționament, rulează pe configurații de ultimă generație, cum ar fi un singur GPU de 80 GB și oferă performanțe aproape de O4-mini.

Aceste modele acceptă raționamentul în lanț de gândire, utilizarea instrumentelor, ferestre contextuale lungi și oferă niveluri de raționament configurabile, cum ar fi scăzut, mediu și ridicat, pentru flexibilitate.

Ce pot face cu GPT-OSS ca utilizator obișnuit?

Dacă ești un utilizator, dezvoltator sau entuziast al tehnologiei, noile modele OpenAI îți permit să rulezi chatbot-ul local pe computer, fără abonament, și având control deplin asupra datelor tale.

Dacă ești pregătit, poți experimenta, personaliza și ajusta modelul, deoarece are o licență Apache 2.0.

De obicei, ați folosi GPT-OSS pentru ajutor în programare, rezolvarea problemelor complexe, conversații și fluxuri de lucru agențice . În plus, îl puteți utiliza offline, fără conexiune la internet. 

Care este publicul țintă pentru OpenAI GPT-OSS?

Aceste modele de inteligență artificială sunt adaptate pentru dezvoltatori, cercetători, cadre universitare și persoane pasionate de tehnologie.

Dacă doriți să rulați aceste modele de inteligență artificială local (independent de cloud) pe computerul dvs., cea mai simplă metodă este să utilizați Ollama , care este un instrument open-source care vă permite să rulați modele lingvistice mari direct pe computerul local care rulează Windows 11, 10 sau o altă platformă.

Deși este recomandat să instalați și să rulați modele AI pe dispozitive cu o unitate de procesare neuronală (NPU) , cum ar fi un PC Copilot+ cu procesor Snapdragon, puteți rula aceste modele pe aproape orice hardware. Ollama colaborează, de asemenea, cu Nvidia pentru a accelera GPT-OSS pe plăcile grafice GeForce RTX și RTX Pro . 

Singura mea avertizare este că, fără o unitate de procesare nucleară (NPU) sau o unitate grafică capabilă, chatbot-ul cu inteligență artificială poate avea nevoie de foarte mult timp pentru a răspunde la o întrebare simplă.

În acest ghid , voi prezenta pașii pentru configurarea modelelor Gemma AI pe Windows 11.

Instalați GPT-OSS pe Windows 11 cu Ollama (metoda GUI)

Pentru a instala GPT-OSS sau 3n local pe Windows 11, urmați acești pași:

  1. Deschideți Start pe Windows 11.

     

     

  2. Căutați Linie de comandă (sau Terminal ), faceți clic dreapta pe rezultatul de sus și alegeți opțiunea Executare ca administrator  .

  3. Tastați această comandă pentru a instala instrumentul oficial Ollama și apăsați Enter :

    winget install --id Ollama.Ollama

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

  4. Faceți clic pe butonul Finish pentru a finaliza instalarea.

  5. Deschideți aplicația Ollama din meniul Start dacă nu s-a lansat automat.

  6. Faceți clic pe meniul modelului AI și selectați opțiunea „GPT-OSS:20b” .

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

  7. Scrieți și trimiteți o întrebare pentru a începe descărcarea modelului OpenAI GPT.

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

După ce finalizați pașii, puteți începe să utilizați modelul de inteligență artificială GPT-OSS prin intermediul interfeței din linia de comandă.

Dacă aveți un cont Ollama , vă puteți conecta pentru a utiliza căutarea web încorporată și a combina capacitățile modelului cu cele mai recente informații disponibile online.

În caz că vă întrebați, opțiunea Turbo este un serviciu bazat pe cloud de la Ollama care vă permite să rulați modele AI de mari dimensiuni folosind hardware de nivel de centre de date. Este concepută pentru a oferi performanță și viteză ridicate pentru modele care ar putea fi prea mari sau prea lente pentru a rula pe un computer local. Abonamentul lunar costă 20 USD.

Aplicația Ollama nu oferă o opțiune de predescărcare a modelelor de inteligență artificială disponibile. Cu toate acestea, puteți finaliza această sarcină din instrumentul din linia de comandă.

Instalați GPT-OSS pe Windows 11 cu Ollama (metoda CLI)

Pentru a instala OpenAI GPT-OSS local pe Windows 11, urmați acești pași:

  1. Deschideți Start .

  2. Căutați Linie de comandă (sau Terminal ), faceți clic dreapta pe rezultatul de sus și alegeți opțiunea Executare ca administrator  .

  3. Tastați această comandă pentru a instala instrumentul oficial Ollama și apăsați Enter :

    winget install --id Ollama.Ollama

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

  4. Faceți clic pe butonul Finish pentru a finaliza instalarea.

  5. (Opțiunea 1) Tastați această comandă pentru a instala local modelul GPT-OSS AI mai mic și apăsați Enter :

    Ollama trage gpt-oss:20b

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

    Notă rapidă: Această comandă descarcă fișierul gpt-oss:20b, care include 20 de miliarde de parametri. Cu toate acestea, puteți utiliza și gpt-oss:latestopțiunea de a descărca cel mai recent model disponibil la momentul respectiv.

  6. (Opțiunea 2) Tastați această comandă pentru a instala local modelul de inteligență artificială GPT-OSS mai mare și apăsați Enter :

    ollama pull gpt-oss:120b

  7. (Opțional) Tastați această comandă pentru a confirma că modelul AI a fost instalat și apăsați Enter :

    lista Ollamei

  8. (Opțional) Tastați această comandă pentru a afișa detalii (de exemplu) despre modelul GPT-OSS mai mic, cum ar fi configurația și parametrii, apoi apăsați Enter :

    emisiunea Ollama gpt-oss:20b

    Cum se instalează modelul de inteligență artificială OpenAI GPT-OSS pe Windows 11

  9. Tastați această comandă pentru a rula (de exemplu) modelul GTP-OSS și apăsați Enter :

    alergarea lui Ollama, GPT-OSS: 20b

După ce finalizați pașii, puteți începe să utilizați cel mai recent model open-source GPT AI de la OpenAI prin intermediul interfeței din linia de comandă.

Pe lângă utilizarea Managerului de pachete Windows (winget) pentru a instala acest instrument, puteți oricând obține programul de instalare Ollama de pe pagina sa oficială sau de pe această pagină GitHub . 

De asemenea, puteți utiliza ollama --helpcomanda pentru a vizualiza alte comenzi disponibile și ollama run --helpcomanda pentru a lista comenzile disponibile pentru un anumit model.

Dacă intenționați să rulați unul dintre aceste modele de inteligență artificială pe computerul dvs., ar trebui să alegeți modelul gpt-oss-20b datorită dimensiunii sale și cerințelor hardware.

Dacă doriți să utilizați modelul gpt-oss-120b , veți avea nevoie de hardware foarte performant, cum ar fi un GPU NVIDIA cu cel puțin 80 GB de memorie VRAM, un procesor de nivel server (de exemplu, AMD EPYC sau Intel Xeon), cel puțin 256 GB de memorie și un SSD NVMe de mare viteză cu cel puțin 500 GB liberi pentru ponderările modelului și fișierele temporare.

Lasă un comentariu

Găsiți cel mai mare diapozitiv din prezentarea dvs. PowerPoint

Găsiți cel mai mare diapozitiv din prezentarea dvs. PowerPoint

Exportați diapozitivele ca fișiere imagine și sortați-le după dimensiune pentru a identifica cel mai mare diapozitiv randat, cu limite clare și modalități sigure de a reduce un fișier PowerPoint.

Cum se creează, se inscripționează și se montează un fișier ISO pe Windows

Cum se creează, se inscripționează și se montează un fișier ISO pe Windows

Creați un fișier ISO dintr-un folder cu Oscdimg, inscripționați-l pe un CD sau DVD sau montați-l în File Explorer ca unitate virtuală - cu note clare despre imaginile bootabile.

Cum se adaugă ADB și Fastboot la PATH pe Windows

Cum se adaugă ADB și Fastboot la PATH pe Windows

Rulați ADB și Fastboot din orice folder din Windows adăugând Platform-Tools la calea sistemului sau a utilizatorului. Include pași de configurare și comenzi de verificare.

Cum să obții lucrări de artă noi pentru fundalul desktopului tău în fiecare zi

Cum să obții lucrări de artă noi pentru fundalul desktopului tău în fiecare zi

Rotește un folder cu lucrări de artă pe Windows sau Mac, găsește picturi cu acces liber și setează un program zilnic pentru imagini de fundal fără a te baza pe o aplicație învechită.

Cum să vizionezi videoclipuri la 360° în VLC (și să vizualizezi fotografii la 360°)

Cum să vizionezi videoclipuri la 360° în VLC (și să vizualizezi fotografii la 360°)

Deschideți și navigați prin videoclipurile 360° compatibile în VLC folosind comenzile mouse-ului sau ale tastaturii și aflați de ce VLC pentru desktop poate afișa fotografiile la 360° plate.

Cum să cauți text în imagini și documente în OneDrive

Cum să cauți text în imagini și documente în OneDrive

Găsiți fișiere OneDrive după textul documentului, subiectele fotografiilor sau cuvintele din PDF-urile scanate — cu pașii de căutare actuali și sfaturi pentru rezultatele lipsă.

Cum să accelerezi torrentele cu ușurință: 8 soluții practice

Cum să accelerezi torrentele cu ușurință: 8 soluții practice

Accelerează descărcările de torrente verificând swarm-ul, limitele de încărcare, setările de conexiune, accesul la firewall și redirecționarea porturilor routerului.

Cum să exporti toate straturile Photoshop ca imagini separate

Cum să exporti toate straturile Photoshop ca imagini separate

Salvați straturile Photoshop ca fișiere individuale PNG, JPEG sau alte fișiere acceptate. Alegeți un folder de ieșire, un prefix de denumire, vizibilitate și profil de culoare într-un singur lot.

Cum să grupezi aplicațiile în bara de activități în Windows 10

Cum să grupezi aplicațiile în bara de activități în Windows 10

Grupează diferite aplicații Windows 10 sub o singură pictogramă din bara de activități cu ajutorul Grupurilor din bara de activități și află cum diferă programul de lansare de gruparea butoanelor încorporate în bara de activități din Windows.

Cum se adaugă o alertă sonoră la ecranul de imprimare în Windows 10

Cum se adaugă o alertă sonoră la ecranul de imprimare în Windows 10

Adaugă evenimentul sonor ascuns SnapShot în Windows 10, alege un ton în panoul de control Sunet și află ce scurtături pentru capturi de ecran afectează.