Как установить модель искусственного интеллекта OpenAI GPT-OSS на Windows 11

• Для установки модели GPT-OSS AI на Windows 11 сначала откройте командную строку (от имени администратора) и выполните команду winget install --id Ollama.Ollama.
• Во-вторых, вам нужно выбрать нужный gpt-oss:20bвариант из списка и задать вопрос, чтобы запустить загрузку.
• В качестве альтернативы вы можете использовать инструмент командной строки Ollama с командной строкой (от имени администратора) и использовать команду ollama pull gpt-oss:20b для загрузки и установки (например) GPT-OSS локально на вашем компьютере.

В Windows 11 вы можете установить и запустить последнюю модель искусственного интеллекта GPT-OSS (Open Source Software) от OpenAI локально на своем компьютере, и в этом руководстве я опишу шаги для завершения этой настройки.

GPT-OSS — это текстовая модель из семейства открытых моделей больших языков OpenAI. В настоящее время у нас есть две версии, включая gpt-oss-20b (с примерно 21 миллиардом параметров) и gpt-oss-120b (с примерно 117 миллиардами параметров), и они выпущены под лицензией Apache 2.0, что позволяет любому желающему свободно загружать, запускать, модифицировать и распространять их.

• gpt-oss-20b: Достаточно компактный для работы на стандартном оборудовании с минимальным объемом памяти 16 ГБ (например, ноутбуках, мощных телефонах) и отлично подходит для локальных задач с низкой задержкой.
• gpt-oss-120b: Это более крупная модель, разработанная для выполнения сложных вычислительных задач, и она работает на высокопроизводительных системах, таких как одна видеокарта с 80 ГБ памяти, и обеспечивает производительность, близкую к O4-mini.

Эти модели поддерживают логическое мышление, использование инструментов, длительные контекстные окна и предлагают настраиваемые уровни логического мышления, такие как низкий, средний и высокий, для обеспечения гибкости.

Что я могу делать с GPT-OSS как обычный пользователь?

Если вы технически подкованный пользователь, разработчик или энтузиаст, новые модели OpenAI позволяют запускать чат-бота локально на вашем компьютере без подписки и с полным контролем над вашими данными.

Если вы готовы к этому, вы можете экспериментировать, настраивать и дорабатывать модель, поскольку она распространяется под лицензией Apache 2.0.

Обычно GPT-OSS используется для помощи в программировании, решения сложных задач, ведения диалогов и управления рабочими процессами агентов . Кроме того, его можно использовать в автономном режиме без подключения к интернету. 

Кто является целевой аудиторией OpenAI GPT-OSS?

Эти модели искусственного интеллекта разработаны для разработчиков, исследователей, ученых и технически подкованных пользователей.

Если вы хотите запускать эти модели ИИ локально (независимо от облака) на своем компьютере, самый простой способ — использовать Ollama , инструмент с открытым исходным кодом , который позволяет запускать большие языковые модели непосредственно на вашем локальном компьютере под управлением Windows 11, 10 или другой платформы.

Хотя лучше всего устанавливать и запускать модели ИИ на устройствах с нейронным процессором (NPU) , например, на ПК Copilot+ с процессором Snapdragon, эти модели можно запускать практически на любом оборудовании. Ollama также сотрудничает с Nvidia для ускорения GPT-OSS на графических процессорах GeForce RTX и RTX Pro . 

Единственное замечание: без нейронного процессора или мощного графического процессора чат-бот с искусственным интеллектом может очень долго отвечать на простой вопрос.

В этом руководстве я опишу шаги по настройке моделей Gemma AI в Windows 11.

• Установите GPT-OSS на Windows 11 с помощью Ollama (графический интерфейс).
• Установите GPT-OSS на Windows 11 с помощью Ollama (метод командной строки).

Установите GPT-OSS на Windows 11 с помощью Ollama (графический интерфейс).

Для локальной установки GPT-OSS или 3n на Windows 11 выполните следующие действия:

1. Откройте меню «Пуск» в Windows 11.

    

    

2. Найдите «Командная строка» (или «Терминал» ), щелкните правой кнопкой мыши по верхнему результату и выберите пункт « Запустить от имени администратора»  .

3. Введите эту команду для установки официального инструмента Ollama и нажмите Enter :

   winget install --id Ollama.Ollama

   

4. Нажмите кнопку «Готово» , чтобы завершить установку.

5. Если приложение Ollama не запустилось автоматически, откройте его из меню «Пуск».

6. Щелкните меню модели ИИ и выберите опцию «GPT-OSS:20b» .

   

7. Сформулируйте и отправьте вопрос, чтобы начать загрузку модели OpenAI GPT.

   

После выполнения этих шагов вы сможете начать использовать модель искусственного интеллекта GPT-OSS через интерфейс командной строки.

Если у вас есть учетная запись Ollama , вы можете войти в систему и использовать встроенный веб-поиск, чтобы совместить возможности модели с самой актуальной информацией, доступной в Интернете.

Если вам интересно, опция Turbo — это облачный сервис от Ollama, позволяющий запускать большие модели ИИ на оборудовании уровня дата-центра. Он разработан для обеспечения высокой производительности и скорости для моделей, которые могут быть слишком большими или слишком медленными для запуска на локальном компьютере. Стоимость ежемесячной подписки составляет 20 долларов.

В приложении Ollama нет возможности предварительной загрузки доступных моделей ИИ. Однако вы можете выполнить эту задачу с помощью инструмента командной строки.

Установите GPT-OSS на Windows 11 с помощью Ollama (метод командной строки).

Для локальной установки OpenAI GPT-OSS на Windows 11 выполните следующие действия:

1. Откройте меню «Пуск» .

2. Найдите «Командная строка» (или «Терминал» ), щелкните правой кнопкой мыши по верхнему результату и выберите пункт « Запустить от имени администратора»  .

3. Введите эту команду для установки официального инструмента Ollama и нажмите Enter :

   winget install --id Ollama.Ollama

   

4. Нажмите кнопку «Готово» , чтобы завершить установку.

5. (Вариант 1) Введите эту команду для локальной установки меньшей по размеру модели GPT-OSS AI и нажмите Enter :

   ollama pull gpt-oss:20b

   

   Краткое замечание: эта команда загружает gpt-oss:20b, который содержит 20 миллиардов параметров. Однако вы также можете использовать опцию gpt-oss:latestдля загрузки последней доступной на данный момент модели.

6. (Вариант 2) Введите эту команду для локальной установки более крупной модели GPT-OSS AI и нажмите Enter :

   ollama pull gpt-oss:120b

7. (Необязательно) Введите эту команду, чтобы подтвердить установку модели ИИ, и нажмите Enter :

   список олламы

8. (Необязательно) Введите эту команду, чтобы отобразить подробную информацию (например) о меньшей модели GPT-OSS, такую ​​как конфигурация и параметры, и нажмите Enter :

   ollama show gpt-oss:20b

   

9. Введите эту команду, чтобы запустить (например) модель GTP-OSS, и нажмите Enter :

   ollama run gpt-oss:20b

После выполнения этих шагов вы сможете начать использовать новейшую модель искусственного интеллекта GPT с открытым исходным кодом от OpenAI через интерфейс командной строки.

Помимо использования диспетчера пакетов Windows (winget) для установки этого инструмента, вы всегда можете получить установщик Ollama с его официальной страницы или с этой страницы на GitHub . 

Вы также можете использовать ollama --helpкоманду для просмотра других доступных команд, а ollama run --helpкоманду — для вывода списка команд, доступных для конкретной модели.

Если вы планируете запускать одну из этих моделей ИИ на своем компьютере, вам следует выбрать модель gpt-oss-20b из-за ее размеров и требований к оборудованию.

Для использования модели gpt-oss-120b вам потребуется очень мощное оборудование, например, графический процессор NVIDIA с объемом видеопамяти не менее 80 ГБ, процессор серверного класса (например, AMD EPYC или Intel Xeon), не менее 256 ГБ оперативной памяти и высокоскоростной NVMe SSD-накопитель с объемом свободного места не менее 500 ГБ для весов модели и временных файлов.