Windows 11에 OpenAI GPT-OSS AI 모델을 설치하는 방법

• Windows 11에 GPT-OSS AI 모델을 설치하려면 먼저 관리자 권한으로 명령 프롬프트를 열고 다음 winget install --id Ollama.Ollama명령을 실행하세요.
• gpt-oss:20b둘째, 목록에서 옵션을 선택하고 질문을 제출하여 다운로드를 시작해야 합니다 .
• 또는 명령 프롬프트(관리자 권한)에서 Ollama 명령줄 도구를 사용하여 ollama pull gpt-oss:20b (예를 들어) GPT-OSS를 컴퓨터에 로컬로 다운로드 및 설치하는 명령을 실행할 수도 있습니다.

Windows 11 에서는 OpenAI에서 제공하는 최신 GPT-OSS(오픈 소스 소프트웨어) AI 모델을 컴퓨터에 로컬로 설치하고 실행할 수 있습니다. 이 가이드에서는 이러한 설정을 완료하는 단계를 설명합니다.

GPT-OSS는 OpenAI의 개방형 가중치 대규모 언어 모델 제품군에 속하는 텍스트 기반 모델입니다. 현재 gpt-oss-20b (약 210억 개의 파라미터)와 gpt-oss-120b (약 1억 1700만 개의 파라미터) 두 가지 버전이 있으며, 아파치 2.0 라이선스 하에 배포되어 누구나 자유롭게 다운로드, 실행, 수정 및 재배포할 수 있습니다.

• gpt-oss-20b: 최소 16GB 메모리를 갖춘 일반 하드웨어 (예: 노트북, 고성능 스마트폰)에서 실행될 만큼 충분히 작으며, 로컬에서 지연 시간이 짧은 작업에 탁월합니다.
• gpt-oss-120b: 더 큰 모델로, 강력한 추론 작업을 위해 설계되었으며, 80GB GPU 하나와 같은 고급 시스템에서 실행되고 O4-mini에 가까운 성능을 제공합니다.

이러한 모델은 사고 연쇄 추론, 도구 사용, 긴 컨텍스트 창을 지원하며 유연성을 위해 낮음, 중간, 높음과 같은 구성 가능한 추론 수준을 제공합니다.

일반 사용자는 GPT-OSS로 무엇을 할 수 있나요?

기술에 정통한 사용자, 개발자 또는 애호가라면 새로운 OpenAI 모델을 통해 구독 없이도 컴퓨터에서 챗봇을 로컬로 실행하고 데이터를 완벽하게 제어할 수 있습니다.

만약 여러분이 이 모델을 활용할 수 있다면, 아파치 2.0 라이선스가 적용되어 있으므로 자유롭게 실험하고, 맞춤 설정하고, 미세 조정할 수 있습니다.

일반적으로 GPT-OSS는 코딩 지원, 복잡한 문제 해결, 대화형 작업 및 에이전트 기반 워크플로 에 사용됩니다 . 또한 인터넷 연결 없이 오프라인에서도 사용할 수 있습니다. 

OpenAI GPT-OSS의 목표 고객은 누구인가요?

이러한 AI 모델은 개발자, 연구원, 학계 인사 및 기술에 정통한 사람들을 위해 맞춤 제작되었습니다.

클라우드와 독립적으로 컴퓨터에서 이러한 AI 모델을 실행하려면 가장 쉬운 방법은 Ollama를 사용하는 것입니다. Ollama는 Windows 11, 10 또는 기타 플랫폼에서 실행되는 로컬 컴퓨터에서 대규모 언어 모델을 직접 실행할 수 있도록 해주는 오픈 소스 도구 입니다 .

스냅드래곤 프로세서가 탑재된 코파일럿+ PC와 같은 NPU(신경 처리 장치) 가 있는 기기에 AI 모델을 설치하고 실행하는 것이 가장 좋지만 , 사실상 모든 하드웨어에서 이러한 모델을 실행할 수 있습니다. 올라마는 또한 엔비디아와 협력하여 지포스 RTX 및 RTX Pro GPU에서 GPT-OSS를 가속화하고 있습니다 . 

다만 한 가지 주의할 점은 NPU나 성능 좋은 GPU가 없으면 AI 챗봇이 간단한 질문에 답하는 데 매우 오랜 시간이 걸릴 수 있다는 것입니다.

이 가이드 에서는 Windows 11에 Gemma AI 모델을 설정하는 단계를 설명합니다.

• Ollama를 사용하여 Windows 11에 GPT-OSS 설치하기 (GUI 방식)
• Ollama를 사용하여 Windows 11에 GPT-OSS 설치하기 (CLI 방식)

Ollama를 사용하여 Windows 11에 GPT-OSS 설치하기 (GUI 방식)

Windows 11에 GPT-OSS 또는 3n을 로컬로 설치하려면 다음 단계를 따르세요.

1. Windows 11에서 시작 메뉴를 엽니다 .

    

    

2. 명령 프롬프트 (또는 터미널 ) 를 검색하고 , 검색 결과 맨 위에 있는 항목을 마우스 오른쪽 버튼으로 클릭한 다음, 관리자  권한으로 실행을 선택하세요.

3. 공식 Ollama 도구를 설치하려면 다음 명령어를 입력하고 Enter 키를 누르세요 .

   Winget install --id Ollama.Ollama

   

4. 설치를 완료하려면 마침 버튼을 클릭하십시오 .

5. Ollama 앱이 자동으로 실행되지 않으면 시작 메뉴에서 실행하세요 .

6. AI 모델 메뉴를 클릭하고 "GPT-OSS:20b" 옵션을 선택하세요.

   

7. 질문을 작성하여 제출하면 OpenAI GPT 모델 다운로드가 시작됩니다.

   

위 단계를 모두 완료하면 명령줄 인터페이스를 통해 GPT-OSS AI 모델을 사용할 수 있습니다.

Ollama 계정이 있는 경우 로그인하여 내장된 웹 검색 기능을 활용해 모델의 기능과 온라인에서 이용 가능한 최신 정보를 결합할 수 있습니다.

혹시 궁금해하실까 봐 말씀드리자면, Turbo 옵션은 Ollama에서 제공하는 클라우드 기반 서비스로, 데이터센터급 하드웨어를 사용하여 대규모 AI 모델을 실행할 수 있도록 해줍니다. 로컬 컴퓨터에서 실행하기에는 너무 크거나 속도가 너무 느린 모델에 고성능과 빠른 속도를 제공하도록 설계되었습니다. 월 구독료는 20달러입니다.

Ollama 앱은 사용 가능한 AI 모델을 미리 다운로드하는 옵션을 제공하지 않습니다. 하지만 명령줄 도구를 사용하면 이 작업을 완료할 수 있습니다.

Ollama를 사용하여 Windows 11에 GPT-OSS 설치하기 (CLI 방식)

Windows 11에 OpenAI GPT-OSS를 로컬로 설치하려면 다음 단계를 따르세요.

1. 시작 버튼을 여세요 .

2. 명령 프롬프트 (또는 터미널 ) 를 검색하고 , 검색 결과 맨 위에 있는 항목을 마우스 오른쪽 버튼으로 클릭한 다음, 관리자  권한으로 실행을 선택하세요.

3. 공식 Ollama 도구를 설치하려면 다음 명령어를 입력하고 Enter 키를 누르세요 .

   Winget install --id Ollama.Ollama

   

4. 설치를 완료하려면 마침 버튼을 클릭하십시오 .

5. (옵션 1) 다음 명령어를 입력하여 더 작은 GPT-OSS AI 모델을 로컬에 설치하고 Enter 키를 누르십시오 .

   올라마 풀 gpt-oss:20b

   

   참고: 이 명령은 200억 개의 파라미터를 포함하는 gpt-oss:20b 버전을 다운로드합니다. 하지만, gpt-oss:latest해당 시점에 사용 가능한 최신 버전을 다운로드하는 옵션도 사용할 수 있습니다.

6. (옵션 2) 더 큰 GPT-OSS AI 모델을 로컬에 설치하려면 다음 명령어를 입력하고 Enter 키를 누르십시오 .

   올라마 풀 gpt-oss:120b

7. (선택 사항) AI 모델이 설치되었는지 확인하려면 다음 명령어를 입력하고 Enter 키를 누르십시오 .

   올라마 리스트

8. (선택 사항) 구성 및 매개변수와 같은 더 작은 GPT-OSS 모델의 세부 정보를 표시하려면 이 명령을 입력하고 Enter 키를 누르십시오 .

   올라마 쇼 gpt-oss:20b

   

9. (예를 들어) GTP-OSS 모델을 실행하려면 다음 명령어를 입력하고 Enter 키를 누르십시오 .

   올라마 런 gpt-oss:20b

위 단계를 모두 완료하면 명령줄 인터페이스를 통해 OpenAI의 최신 오픈 소스 GPT AI 모델을 사용할 수 있습니다.

Windows 패키지 관리자(winget)를 사용하여 이 도구를 설치하는 것 외에도 , Ollama 설치 프로그램은 공식 웹사이트 또는 이 GitHub 페이지 에서 다운로드할 수 있습니다 . 

ollama --help또한 해당 명령어를 사용하여 다른 사용 가능한 명령어를 볼 수 있으며, ollama run --help특정 모델에서 사용 가능한 명령어 목록을 보려면 해당 명령어를 사용할 수 있습니다 .

컴퓨터에서 이러한 AI 모델 중 하나를 실행할 계획이라면, 용량과 하드웨어 요구 사항을 고려하여 gpt-oss-20b 모델을 선택하는 것이 좋습니다.

gpt-oss-120b 모델을 사용하려면 최소 80GB VRAM을 갖춘 NVIDIA GPU, 서버급 프로세서(예: AMD EPYC 또는 Intel Xeon), 최소 256GB 메모리, 그리고 모델 가중치 및 임시 파일을 저장할 수 있는 최소 500GB의 여유 공간이 있는 고속 NVMe SSD와 같은 고성능 하드웨어가 필요합니다.