Hoe installeer ik het OpenAI GPT-OSS AI-model op Windows 11?

• Om het GPT-OSS AI-model op Windows 11 te installeren, opent u eerst de opdrachtprompt (als beheerder) en voert u de winget install --id Ollama.Ollamaopdracht uit.
• Ten tweede moet u een gpt-oss:20boptie uit de lijst selecteren en een vraag indienen om de download te starten.
• Als alternatief kunt u de opdrachtregeltool Ollama gebruiken via de opdrachtprompt (als beheerder) en de ollama pull gpt-oss:20b opdracht gebruiken om (bijvoorbeeld) GPT-OSS lokaal op uw computer te downloaden en te installeren.

Op Windows 11 kunt u het nieuwste GPT-OSS (Open Source Software) AI-model van OpenAI lokaal op uw computer installeren en uitvoeren. In deze handleiding beschrijf ik de stappen om deze configuratie te voltooien.

GPT-OSS is een tekstgebaseerd model uit de OpenAI-familie van open-weight large language models. Momenteel zijn er twee versies beschikbaar: gpt-oss-20b (met ongeveer 21 miljard parameters) en gpt-oss-120b (met ongeveer 117 miljard parameters). Deze zijn uitgebracht onder de Apache 2.0-licentie, waardoor iedereen ze vrij kan downloaden, uitvoeren, aanpassen en verspreiden.

• gpt-oss-20b: Compact genoeg om te draaien op standaard hardware met minimaal 16 GB geheugen (bijvoorbeeld laptops, krachtige telefoons) en blinkt uit in lokale taken met lage latentie.
• gpt-oss-120b: Dit is het grotere model, ontworpen voor krachtige redeneertaken, en het draait op high-end systemen zoals een enkele 80GB GPU en biedt prestaties die bijna gelijk zijn aan die van de O4-mini.

Deze modellen ondersteunen redeneringen in de vorm van gedachtegangen, het gebruik van hulpmiddelen, lange contextvensters en bieden configureerbare redeneerniveaus, zoals laag, gemiddeld en hoog, voor flexibiliteit.

Wat kan ik als gewone gebruiker met GPT-OSS doen?

Als je een technisch onderlegde gebruiker, ontwikkelaar of liefhebber bent, kun je met de nieuwe OpenAI-modellen de chatbot lokaal op je computer uitvoeren zonder abonnement en met volledige controle over je gegevens.

Als je de uitdaging aandurft, kun je experimenteren, aanpassen en het model verfijnen, aangezien het een Apache 2.0-licentie heeft.

GPT-OSS wordt doorgaans gebruikt voor hulp bij programmeren, het oplossen van complexe problemen, gesprekken en agentgebaseerde workflows . Bovendien kunt u het offline gebruiken, zonder internetverbinding. 

Wie is de doelgroep voor OpenAI GPT-OSS?

Deze AI-modellen zijn op maat gemaakt voor ontwikkelaars, onderzoekers, academici en technisch onderlegde personen.

Als u deze AI-modellen lokaal (onafhankelijk van de cloud) op uw computer wilt uitvoeren, is de eenvoudigste methode het gebruik van Ollama . Dit is een open-source tool waarmee u grote taalmodellen rechtstreeks op uw lokale computer met Windows 11, 10 of een ander platform kunt uitvoeren.

Hoewel het het beste is om AI-modellen te installeren en uit te voeren op apparaten met een NPU (Neural Processing Unit) , zoals een Copilot+ pc met een Snapdragon-processor, kunt u deze modellen op vrijwel elke hardware uitvoeren. Ollama werkt ook samen met Nvidia om GPT-OSS te versnellen op GeForce RTX- en RTX Pro-GPU's . 

Mijn enige disclaimer is dat de AI-chatbot, zonder een NPU of een krachtige GPU, er erg lang over kan doen om een ​​simpele vraag te beantwoorden.

In deze handleiding beschrijf ik de stappen voor het instellen van de Gemma AI-modellen op Windows 11.

• Installeer GPT-OSS op Windows 11 met Ollama (GUI-methode)
• Installeer GPT-OSS op Windows 11 met Ollama (CLI-methode)

Installeer GPT-OSS op Windows 11 met Ollama (GUI-methode)

Om GPT-OSS of 3n lokaal op Windows 11 te installeren, volgt u deze stappen:

1. Open het Startmenu in Windows 11.

    

    

2. Zoek naar 'Opdrachtprompt' (of ' Terminal' ), klik met de rechtermuisknop op het bovenste resultaat en kies de optie 'Uitvoeren als beheerder'  .

3. Typ dit commando om de officiële Ollama-tool te installeren en druk op Enter :

   winget install --id Ollama.Ollama

   

4. Klik op de knop Voltooien om de installatie af te ronden.

5. Open de Ollama- app vanuit het Startmenu als deze niet automatisch is gestart.

6. Klik op het menu van het AI-model en selecteer de optie "GPT-OSS:20b" .

   

7. Stel een vraag op en dien deze in om de download van het OpenAI GPT-model te starten.

   

Zodra je de stappen hebt voltooid, kun je het GPT-OSS AI-model via de commandoregelinterface gaan gebruiken.

Als u een Ollama-account heeft , kunt u inloggen en de ingebouwde webzoekfunctie gebruiken om de mogelijkheden van het model te combineren met de meest recente online beschikbare informatie.

Voor wie het zich afvraagt: de Turbo-optie is een cloudservice van Ollama waarmee je grote AI-modellen kunt uitvoeren met behulp van hardware van datacenterkwaliteit. Het is ontworpen om hoge prestaties en snelheid te bieden voor modellen die te groot of te traag zijn om op een lokale computer te draaien. Het maandabonnement kost $20.

De Ollama-app biedt geen optie om de beschikbare AI-modellen vooraf te downloaden. Je kunt deze taak echter wel uitvoeren via de commandoregel.

Installeer GPT-OSS op Windows 11 met Ollama (CLI-methode)

Om OpenAI GPT-OSS lokaal op Windows 11 te installeren, volgt u deze stappen:

1. Open Start .

2. Zoek naar 'Opdrachtprompt' (of ' Terminal' ), klik met de rechtermuisknop op het bovenste resultaat en kies de optie 'Uitvoeren als beheerder'  .

3. Typ dit commando om de officiële Ollama-tool te installeren en druk op Enter :

   winget install --id Ollama.Ollama

   

4. Klik op de knop Voltooien om de installatie af te ronden.

5. (Optie 1) Typ dit commando om het kleinere GPT-OSS AI-model lokaal te installeren en druk op Enter :

   ollama pull gpt-oss:20b

   

   Korte opmerking: Met dit commando wordt gpt-oss:20b gedownload, dat 20 miljard parameters bevat. Je kunt echter ook de gpt-oss:latestoptie gebruiken om het meest recente model te downloaden dat op dat moment beschikbaar is.

6. (Optie 2) Typ dit commando om het grotere GPT-OSS AI-model lokaal te installeren en druk op Enter :

   ollama pull gpt-oss:120b

7. (Optioneel) Typ dit commando om te bevestigen dat het AI-model is geïnstalleerd en druk op Enter :

   ollama lijst

8. (Optioneel) Typ dit commando om details weer te geven van (bijvoorbeeld) het kleinere GPT-OSS-model, zoals configuratie en parameters, en druk op Enter :

   ollama show gpt-oss:20b

   

9. Typ dit commando om (bijvoorbeeld) het GTP-OSS-model uit te voeren en druk op Enter :

   ollama run gpt-oss:20b

Zodra je de stappen hebt voltooid, kun je het nieuwste open-source GPT AI-model van OpenAI via de commandoregelinterface gaan gebruiken.

Naast het gebruik van Windows Package Manager (winget) om deze tool te installeren, kunt u het Ollama-installatieprogramma ook altijd downloaden van de officiële website of deze GitHub- pagina. 

Je kunt het ollama --helpcommando ook gebruiken om andere beschikbare commando's te bekijken, en het ollama run --helpcommando om een ​​lijst te krijgen van de commando's die beschikbaar zijn voor een specifiek model.

Als u van plan bent een van deze AI-modellen op uw computer uit te voeren, kunt u het beste kiezen voor het gpt-oss-20b -model vanwege de geringe systeembelasting en de lage hardwarevereisten.

Als je het gpt-oss-120b -model wilt gebruiken , heb je zeer krachtige hardware nodig, zoals een NVIDIA GPU met minstens 80 GB VRAM, een serverprocessor (bijvoorbeeld AMD EPYC of Intel Xeon), minstens 256 GB geheugen en een snelle NVMe SSD met minstens 500 GB vrije ruimte voor modelgewichten en tijdelijke bestanden.