Cara memasang model OpenAI GPT-OSS AI pada Windows 11

• Untuk memasang model GPT-OSS AI pada Windows 11, pertama sekali, buka Command Prompt (admin) dan jalankan winget install --id Ollama.Ollamaarahan tersebut.
• Kedua, anda perlu memilih gpt-oss:20bpilihan daripada senarai dan mengemukakan soalan untuk mencetuskan muat turun.
• Sebagai alternatif, anda boleh menggunakan alat baris arahan Ollama dengan Command Prompt (admin) dan menggunakan ollama pull gpt-oss:20b arahan tersebut untuk memuat turun dan memasang (contohnya) GPT-OSS secara setempat pada komputer anda.

Pada Windows 11 , anda boleh memasang dan menjalankan model AI GPT-OSS (Perisian Sumber Terbuka) terkini daripada OpenAI secara setempat pada komputer anda, dan dalam panduan ini, saya akan menggariskan langkah-langkah untuk melengkapkan konfigurasi ini.

GPT-OSS ialah model berasaskan teks daripada keluarga model bahasa besar berwajaran terbuka OpenAI. Pada masa ini, kami mempunyai dua versi, termasuk gpt-oss-20b (dengan parameter sekitar 21B) dan gpt-oss-120b (dengan parameter sekitar 117B), dan ia telah dikeluarkan di bawah lesen Apache 2.0, yang membolehkan sesiapa sahaja memuat turun, menjalankan, mengubah suai dan mengedarkannya semula secara bebas.

• gpt-oss-20b: Cukup padat untuk dijalankan pada perkakasan biasa dengan memori minimum 16GB (contohnya, komputer riba, telefon berkuasa) dan cemerlang dalam tugasan tempatan yang berlatensi rendah.
• gpt-oss-120b: Ia merupakan model yang lebih besar, direka untuk tugasan penaakulan yang berkuasa dan ia berjalan pada persediaan mewah seperti GPU 80GB tunggal dan menawarkan prestasi hampir O4-mini.

Model-model ini menyokong penaakulan rantaian pemikiran, penggunaan alat, tetingkap konteks yang panjang dan menawarkan tahap penaakulan yang boleh dikonfigurasikan, seperti rendah, sederhana dan tinggi, untuk fleksibiliti.

Apa yang boleh saya lakukan dengan GPT-OSS sebagai pengguna biasa?

Jika anda seorang pengguna, pembangun atau peminat yang celik teknologi, model OpenAI baharu membolehkan anda menjalankan chatbot secara setempat pada komputer anda tanpa langganan dan kawalan penuh ke atas data anda.

Jika anda bersedia untuk tugas itu, anda boleh mencuba, menyesuaikan dan memperhalusi model tersebut kerana ia mempunyai lesen Apache 2.0.

Biasanya, anda akan menggunakan GPT-OSS untuk bantuan pengekodan, penyelesaian masalah yang kompleks, perbualan dan aliran kerja ejen . Di samping itu, anda boleh menggunakannya di luar talian tanpa sambungan internet. 

Siapakah khalayak sasaran untuk OpenAI GPT-OSS?

Model AI ini disesuaikan untuk pembangun, penyelidik, ahli akademik dan individu yang celik teknologi.

Jika anda ingin menjalankan model AI ini secara setempat (secara bebas daripada awan) pada komputer anda, kaedah paling mudah adalah dengan menggunakan Ollama , iaitu alat sumber terbuka yang membolehkan anda menjalankan Model Bahasa Besar secara langsung pada komputer setempat anda yang menjalankan Windows 11, 10 atau platform lain.

Walaupun lebih baik memasang dan menjalankan model AI pada peranti dengan NPU (Unit Pemprosesan Neural) , seperti PC Copilot+ dengan pemproses Snapdragon, anda boleh menjalankan model ini pada hampir semua perkakasan. Ollama juga bekerjasama dengan Nvidia untuk mempercepatkan GPT-OSS pada GPU GeForce RTX dan RTX Pro . 

Satu-satunya penafian saya ialah tanpa NPU atau GPU yang berkemampuan, chatbot AI boleh mengambil masa yang sangat lama untuk menjawab soalan mudah.

Dalam panduan ini , saya akan menggariskan langkah-langkah untuk menyediakan model Gemma AI pada Windows 11.

• Pasang GPT-OSS pada Windows 11 dengan Ollama (kaedah GUI)
• Pasang GPT-OSS pada Windows 11 dengan Ollama (kaedah CLI)

Pasang GPT-OSS pada Windows 11 dengan Ollama (kaedah GUI)

Untuk memasang GPT-OSS atau 3n secara setempat pada Windows 11, ikuti langkah berikut:

1. Buka Mula pada Windows 11.

    

    

2. Cari Prompt Perintah (atau Terminal ), klik kanan pada hasil teratas dan pilih pilihan Jalankan sebagai pentadbir  .

3. Taip arahan ini untuk memasang alat Ollama rasmi dan tekan Enter :

   pemasangan winget --id Ollama.Ollama

   

4. Klik butang Selesai untuk menyelesaikan pemasangan.

5. Buka aplikasi Ollama daripada menu Mula jika ia tidak dilancarkan secara automatik.

6. Klik menu model AI dan pilih pilihan “GPT-OSS:20b” .

   

7. Tulis dan serahkan soalan untuk memulakan muat turun model OpenAI GPT.

   

Sebaik sahaja anda menyelesaikan langkah-langkah tersebut, anda boleh mula menggunakan model GPT-OSS AI melalui antara muka baris arahan.

Jika anda mempunyai akaun Ollama , anda boleh log masuk untuk menggunakan carian web terbina dalam bagi menggabungkan keupayaan model dengan maklumat terkini yang tersedia dalam talian.

Sekiranya anda tertanya-tanya, pilihan Turbo ialah perkhidmatan berasaskan awan daripada Ollama yang membolehkan anda menjalankan model AI yang besar menggunakan perkakasan gred pusat data. Ia direka bentuk untuk menyediakan prestasi dan kelajuan tinggi untuk model yang mungkin terlalu besar atau terlalu perlahan untuk dijalankan pada komputer tempatan. Langganan bulanan berharga $20.

Aplikasi Ollama tidak menawarkan pilihan untuk memuat turun model AI yang tersedia terlebih dahulu. Walau bagaimanapun, anda boleh menyelesaikan tugasan ini daripada alat baris arahan.

Pasang GPT-OSS pada Windows 11 dengan Ollama (kaedah CLI)

Untuk memasang OpenAI GPT-OSS secara setempat pada Windows 11, ikuti langkah berikut:

1. Buka Mula .

2. Cari Prompt Perintah (atau Terminal ), klik kanan pada hasil teratas dan pilih pilihan Jalankan sebagai pentadbir  .

3. Taip arahan ini untuk memasang alat Ollama rasmi dan tekan Enter :

   pemasangan winget --id Ollama.Ollama

   

4. Klik butang Selesai untuk menyelesaikan pemasangan.

5. (Pilihan 1) Taip arahan ini untuk memasang model AI GPT-OSS yang lebih kecil secara setempat dan tekan Enter :

   ollama tarik gpt-oss:20b

   

   Nota ringkas: Arahan ini memuat turun gpt-oss:20b, yang merangkumi 20 bilion parameter. Walau bagaimanapun, anda juga boleh menggunakan gpt-oss:latestpilihan untuk memuat turun model terkini yang tersedia pada masa itu.

6. (Pilihan 2) Taip arahan ini untuk memasang model AI GPT-OSS yang lebih besar secara setempat dan tekan Enter :

   ollama tarik gpt-oss:120b

7. (Pilihan) Taip arahan ini untuk mengesahkan bahawa model AI telah dipasang dan tekan Enter :

   senarai ollama

8. (Pilihan) Taip arahan ini untuk menunjukkan butiran (contohnya) model GPT-OSS yang lebih kecil, seperti konfigurasi dan parameter, dan tekan Enter :

   ollama tunjukkan gpt-oss:20b

   

9. Taip arahan ini untuk menjalankan (contohnya) model GTP-OSS dan tekan Enter :

   ollama run gpt-oss:20b

Sebaik sahaja anda menyelesaikan langkah-langkah tersebut, anda boleh mula menggunakan model GPT AI sumber terbuka terkini daripada OpenAI melalui antara muka baris arahan.

Selain menggunakan Pengurus Pakej Windows (winget) untuk memasang alat ini, anda sentiasa boleh mendapatkan pemasang Ollama daripada halaman rasminya atau halaman GitHub ini . 

Anda juga boleh menggunakan ollama --helparahan ini untuk melihat arahan lain yang tersedia, dan ollama run --helparahan ini untuk menyenaraikan arahan yang tersedia untuk model tertentu.

Jika anda merancang untuk menjalankan salah satu model AI ini pada komputer anda, anda harus memilih model gpt-oss-20b kerana keperluan jejak dan perkakasannya.

Jika anda ingin menggunakan model gpt-oss-120b , anda memerlukan perkakasan yang sangat berkemampuan, seperti GPU NVIDIA dengan sekurang-kurangnya 80 GB VRAM, pemproses gred pelayan (contohnya, AMD EPYC atau Intel Xeon), memori sekurang-kurangnya 256GB dan SSD NVMe berkelajuan tinggi dengan sekurang-kurangnya 500 GB ruang kosong untuk pemberat model dan fail sementara.