Windows 11e OpenAI GPT-OSS yapay zeka modelini nasıl kurarım?

• GPT-OSS yapay zeka modelini Windows 11'e kurmak için öncelikle Komut İstemi'ni (yönetici olarak) açın ve aşağıdaki winget install --id Ollama.Ollamakomutu çalıştırın.
• gpt-oss:20bİkinci olarak, listeden seçeneği belirlemeniz ve indirme işlemini başlatmak için bir soru göndermeniz gerekiyor .
• Alternatif olarak, Komut İstemi (yönetici) ile Ollama komut satırı aracını kullanabilir ve komutu kullanarak ollama pull gpt-oss:20b (örneğin) GPT-OSS'yi bilgisayarınıza yerel olarak indirip kurabilirsiniz.

Windows 11'de , OpenAI'nin en yeni GPT-OSS (Açık Kaynak Yazılım) yapay zeka modelini bilgisayarınıza yerel olarak kurup çalıştırabilirsiniz ve bu kılavuzda, bu yapılandırmayı tamamlamak için gereken adımları özetleyeceğim.

GPT-OSS, OpenAI'nin açık ağırlıklı büyük dil modelleri ailesinden metin tabanlı bir modeldir. Şu anda, yaklaşık 21 milyar parametre içeren gpt-oss-20b ve yaklaşık 117 milyar parametre içeren gpt-oss-120b olmak üzere iki sürümümüz mevcuttur ve bunlar Apache 2.0 lisansı altında yayınlanmıştır; bu da herkesin bunları özgürce indirmesine, çalıştırmasına, değiştirmesine ve yeniden dağıtmasına olanak tanır.

• gpt-oss-20b: Minimum 16 GB belleğe sahip normal donanımlarda (örneğin, dizüstü bilgisayarlar, güçlü telefonlar) çalışacak kadar kompakttır ve yerel, düşük gecikmeli görevlerde mükemmel performans gösterir.
• gpt-oss-120b: Bu, güçlü mantıksal işlemler için tasarlanmış daha büyük modeldir ve tek bir 80 GB GPU gibi üst düzey sistemlerde çalışır ve O4 mini'ye yakın performans sunar.

Bu modeller, düşünce zinciri tabanlı akıl yürütmeyi, araç kullanımını, uzun bağlam pencerelerini destekler ve esneklik sağlamak için düşük, orta ve yüksek gibi yapılandırılabilir akıl yürütme seviyeleri sunar.

Sıradan bir kullanıcı olarak GPT-OSS ile neler yapabilirim?

Teknolojiye yatkın bir kullanıcı, geliştirici veya meraklıysanız, yeni OpenAI modelleri, abonelik gerektirmeden ve verileriniz üzerinde tam kontrol sahibi olarak chatbot'u bilgisayarınızda yerel olarak çalıştırmanıza olanak tanır.

Eğer bu işe girişmeye hazırsanız, model Apache 2.0 lisansına sahip olduğu için üzerinde deneyler yapabilir, özelleştirebilir ve ince ayarlar yapabilirsiniz.

Genellikle GPT-OSS'yi kodlama yardımı, karmaşık problem çözme, diyaloglar ve ajan tabanlı iş akışları için kullanırsınız . Ayrıca, internet bağlantısı olmadan çevrimdışı olarak da kullanabilirsiniz. 

OpenAI GPT-OSS'nin hedef kitlesi kimdir?

Bu yapay zeka modelleri, geliştiriciler, araştırmacılar, akademisyenler ve teknolojiye meraklı kişiler için özel olarak tasarlanmıştır.

Bu yapay zeka modellerini yerel olarak (buluttan bağımsız olarak) bilgisayarınızda çalıştırmak istiyorsanız, en kolay yöntem, Windows 11, 10 veya başka bir platformda çalışan yerel bilgisayarınızda Büyük Dil Modellerini doğrudan çalıştırmanıza olanak tanıyan açık kaynaklı bir araç olan Ollama'yı kullanmaktır.

Yapay zeka modellerini, Snapdragon işlemcili Copilot+ PC gibi bir NPU (Sinirsel İşlem Birimi) bulunan cihazlarda kurmak ve çalıştırmak en iyisi olsa da , bu modelleri neredeyse her türlü donanımda çalıştırabilirsiniz. Ollama ayrıca, GeForce RTX ve RTX Pro GPU'larda GPT-OSS'yi hızlandırmak için Nvidia ile de iş birliği yapıyor . 

Tek uyarım şu ki, bir NPU veya güçlü bir GPU olmadan, yapay zekâ sohbet robotunun basit bir soruyu yanıtlaması çok uzun sürebilir.

Bu kılavuzda , Gemma AI modellerini Windows 11'de kurmanın adımlarını özetleyeceğim.

• Ollama kullanarak Windows 11'e GPT-OSS Kurulumu (GUI Yöntemi)
• Ollama kullanarak Windows 11'e GPT-OSS kurulumu (CLI yöntemi)

Ollama kullanarak Windows 11'e GPT-OSS Kurulumu (GUI Yöntemi)

GPT-OSS veya 3n'yi Windows 11'e yerel olarak yüklemek için şu adımları izleyin:

1. Windows 11'de Başlat'ı açın .

    

    

2. Arama çubuğuna "Komut İstemi" (veya "Terminal ") yazın , en üstteki sonuca sağ tıklayın ve " Yönetici olarak çalıştır"  seçeneğini seçin.

3. Ollama'nın resmi aracını yüklemek için bu komutu yazın ve Enter tuşuna basın :

   kanat kurulumu --id Ollama.Ollama

   

4. Kurulumu tamamlamak için Bitir düğmesine tıklayın .

5. Ollama uygulaması otomatik olarak açılmadıysa, Başlat menüsünden açın .

6. Yapay zeka modelinin menüsüne tıklayın ve “GPT-OSS:20b” seçeneğini seçin.

   

7. OpenAI GPT modelinin indirilmesini başlatmak için bir soru oluşturun ve gönderin.

   

Adımları tamamladıktan sonra, GPT-OSS yapay zeka modelini komut satırı arayüzü üzerinden kullanmaya başlayabilirsiniz.

Ollama hesabınız varsa , modelin yeteneklerini çevrimiçi olarak उपलब्ध olan en son bilgilerle birleştirmek için yerleşik web arama özelliğini kullanmak üzere giriş yapabilirsiniz.

Merak edenler için söyleyelim, Turbo seçeneği, Ollama'nın veri merkezi kalitesinde donanım kullanarak büyük yapay zeka modellerini çalıştırmanıza olanak tanıyan bulut tabanlı bir hizmetidir. Yerel bir bilgisayarda çalıştırılamayacak kadar büyük veya yavaş olabilecek modeller için yüksek performans ve hız sağlamak üzere tasarlanmıştır. Aylık abonelik ücreti 20 dolardır.

Ollama uygulaması, mevcut yapay zeka modellerini önceden indirme seçeneği sunmuyor. Ancak, bu işlemi komut satırı aracı üzerinden gerçekleştirebilirsiniz.

Ollama kullanarak Windows 11'e GPT-OSS kurulumu (CLI yöntemi)

OpenAI GPT-OSS'yi Windows 11'e yerel olarak kurmak için şu adımları izleyin:

1. Başlat'ı açın .

2. Arama çubuğuna "Komut İstemi" (veya "Terminal ") yazın , en üstteki sonuca sağ tıklayın ve " Yönetici olarak çalıştır"  seçeneğini seçin.

3. Ollama'nın resmi aracını yüklemek için bu komutu yazın ve Enter tuşuna basın :

   kanat kurulumu --id Ollama.Ollama

   

4. Kurulumu tamamlamak için Bitir düğmesine tıklayın .

5. (Seçenek 1) Daha küçük GPT-OSS AI modelini yerel olarak kurmak için bu komutu yazın ve Enter tuşuna basın :

   ollama pull gpt-oss:20b

   

   Kısa bir not:gpt-oss:latest Bu komut, 20 milyar parametre içeren gpt-oss:20b dosyasını indirir. Ancak, o an mevcut olan en son modeli indirmek için de bu seçeneği kullanabilirsiniz .

6. (Seçenek 2) Daha büyük GPT-OSS AI modelini yerel olarak kurmak için bu komutu yazın ve Enter tuşuna basın :

   ollama pull gpt-oss:120b

7. (İsteğe bağlı) Yapay zeka modelinin yüklendiğini onaylamak için bu komutu yazın ve Enter tuşuna basın :

   ollama listesi

8. (İsteğe bağlı) Bu komutu yazarak (örneğin) daha küçük GPT-OSS modelinin yapılandırma ve parametreleri gibi ayrıntılarını görüntüleyebilir ve Enter tuşuna basabilirsiniz :

   ollama show gpt-oss:20b

   

9. (Örneğin) GTP-OSS modelini çalıştırmak için bu komutu yazın ve Enter tuşuna basın :

   ollama run gpt-oss:20b

Bu adımları tamamladıktan sonra, OpenAI'nin en yeni açık kaynaklı GPT yapay zeka modelini komut satırı arayüzü üzerinden kullanmaya başlayabilirsiniz.

Bu aracı yüklemek için Windows Paket Yöneticisi'ni (winget) kullanmanın yanı sıra , Ollama yükleyicisini her zaman resmi sayfasından veya bu GitHub sayfasından da edinebilirsiniz . 

ollama --helpAyrıca , diğer kullanılabilir komutları görüntülemek için bu komutu, ollama run --helpbelirli bir model için kullanılabilir komutları listelemek için ise bu komutu kullanabilirsiniz .

Bilgisayarınızda bu yapay zeka modellerinden birini çalıştırmayı planlıyorsanız, kapladığı alan ve donanım gereksinimleri nedeniyle gpt-oss-20b modelini tercih etmelisiniz.

Eğer gpt-oss-120b modelini kullanmak istiyorsanız , en az 80 GB VRAM'e sahip bir NVIDIA GPU, sunucu sınıfı bir işlemci (örneğin, AMD EPYC veya Intel Xeon), en az 256 GB bellek ve model ağırlıkları ve geçici dosyalar için en az 500 GB boş alana sahip yüksek hızlı bir NVMe SSD gibi çok güçlü donanımlara ihtiyacınız olacaktır.