openai/gpt-oss

어떤 프로젝트인가요?

핵심 기능

• 01오픈 웨이트 모델 2종: 80GB GPU 한 대용 120B 모델과 메모리 16GB용 20B 모델.
• 02추론 강도 조절(낮음, 중간, 높음).
• 03함수 호출, 브라우징 및 Python 도구 사용, Structured Outputs.
• 04MXFP4 양자화 MoE 가중치와 기타 텐서용 BF16.
• 05Transformers, vLLM, Ollama, LM Studio와 호환.

활용 사례

• 고용량 GPU 한 대에서 성능이 뛰어난 추론 모델 실행.
• Ollama 또는 LM Studio를 사용해 소비자용 하드웨어에서 소형 모델을 로컬로 실행.
• 함수 호출이나 브라우징 및 Python 도구를 사용하는 에이전트 구축.
• 특정 도메인에 맞게 오픈 모델 파인튜닝.

빠른 시작

1. 1

   PyPI에서 gpt-oss 도구를 설치합니다

   pip install gpt-oss
2. 2

   다운로드 페이지에서 Ollama를 설치합니다

3. 3

   Ollama로 gpt-oss-20b 모델을 pull하고 실행합니다

   ollama pull gpt-oss:20b

사용 전 알아둘 점

• !참조 PyTorch 구현은 비효율적이며 H100 GPU가 최소 4개 필요합니다.
• !참조 Triton 구현을 사용하려면 Triton을 소스에서 빌드해야 하며 CUDA GPU가 필요합니다.
• !참조 구현은 프로덕션 환경에서 실행하도록 만들어지지 않았습니다.
• !참조 구현은 Windows에서 테스트되지 않았습니다.

토픽

자주 묻는 질문

gpt-oss은(는) 무엇인가요?

OpenAI의 오픈 웨이트 gpt-oss-120b 및 gpt-oss-20b 언어 모델과 참조 추론·도구·클라이언트 코드 gpt-oss는 OpenAI의 오픈 웨이트 모델 시리즈로, 두 가지 모델로 제공됩니다. gpt-oss-120b는 80GB GPU 한 대에서 고도 추론 작업에 적합하고, gpt-oss-20b는 지연 시간이 짧으며 메모리 16GB 이내에서 로컬로 사용할 수 있습니다. 두 모델 모두 harmony 응답 형식을 사용하며, 이 형식으로만 사용해야 합니다. 가중치는 Apache 2.0 라이선스로 Hugging Face에서 제공됩니다.

gpt-oss은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

gpt-oss은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

gpt-oss은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. gpt-oss의 마지막 커밋은 2026년 10월 12일입니다.

gpt-oss은(는) 어디에 사용할 수 있나요?

고용량 GPU 한 대에서 성능이 뛰어난 추론 모델 실행. Ollama 또는 LM Studio를 사용해 소비자용 하드웨어에서 소형 모델을 로컬로 실행. 함수 호출이나 브라우징 및 Python 도구를 사용하는 에이전트 구축. 특정 도메인에 맞게 오픈 모델 파인튜닝.

gpt-oss는 어떻게 설치하나요?

PyPI에서 gpt-oss 도구를 설치합니다: pip install gpt-oss 다운로드 페이지에서 Ollama를 설치합니다 Ollama로 gpt-oss-20b 모델을 pull하고 실행합니다: ollama pull gpt-oss:20b

gpt-oss은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/openai/gpt-oss