Repolode
OpenBMB

OpenBMB/ForgeKernel

승인된 커널을 다음 기준 커널로 승격하며 CUDA 및 CuTe DSL 커널을 최적화하는 자가 진화형 GPU 커널 에이전트입니다.

스타
282
포크
39
열린 이슈
1
마지막 커밋
3일 전

어떤 프로젝트인가요?

ForgeKernel은 기존 기준 GPU 커널에서 시작해 대상 하드웨어에서 실행 시간과 프로파일을 측정하고, 코딩 에이전트가 구현할 아키텍처 중심 마일스톤 계획을 작성합니다. 승인된 커널은 각각 다음 세대의 기준 커널이 되므로, 최적화는 현재까지 알려진 최선의 구현을 넘어 계속됩니다. GPU 프로브로 인증된 하드웨어 메커니즘은 GPU 아키텍처별로 정리된 지식 베이스에 저장되어 여러 연산자에서 재사용됩니다.

이 도구는 NVIDIA Hopper(sm90) 및 Blackwell(sm100) GPU를 대상으로 하며, CuTe DSL 및 CUDA C++ 작업을 지원합니다. 작업은 연산자 설명, 여러 형상, task.toml 파일로 정의되며, forge CLI를 사용하면 로컬이나 SSH를 통해 반복 작업을 실행할 수 있습니다. 실행 결과로 보고서와 최적의 커널 소스가 생성되며, 자가 진화 스크립트는 성능 향상이 측정 노이즈 수준 아래로 떨어질 때까지 세대를 이어갑니다.

저장소에는 프로젝트에서 생성한 attention, sparse attention, linear attention, GEMM 및 convolution 연산자용 커널도 공개되어 있으며, 측정된 성능 향상과 실행 환경도 함께 제공됩니다.

핵심 기능

  • 01기준 커널을 코딩 에이전트가 사용할 아키텍처 중심 마일스톤 계획으로 변환합니다.
  • 02승인된 커널을 다음 기준 커널로 승격해 세대별 최적화를 자동으로 이어갑니다.
  • 03정확성을 검증하고 기준 커널과 비교해 후보 커널의 실행 시간을 측정하며 Nsight Compute로 프로파일링합니다.
  • 04GPU 프로브로 인증된 하드웨어 메커니즘을 아키텍처별 지식 베이스에 저장합니다.
  • 05CuTe DSL 및 CUDA C++ 작업의 로컬 및 SSH 기반 GPU 실행을 지원합니다.

활용 사례

  • Hopper 또는 Blackwell GPU에서 PyTorch 연산자나 사용자 정의 커널을 최적화합니다.
  • 사람이 지켜보지 않아도 장시간 커널 튜닝을 실행하고 생성된 보고서를 검토합니다.
  • 프로젝트에서 공개한 attention, GEMM 또는 convolution 커널을 살펴봅니다.

빠른 시작

  1. 1

    저장소를 클론합니다

  2. 2

    가상 환경을 만들고 ForgeKernel을 설치합니다

    python3 -m venv .venv && source .venv/bin/activate && pip install -e .
  3. 3

    권장 CuTe DSL 패키지를 설치합니다

    pip install nvidia-cutlass-dsl
  4. 4

    설치된 버전을 확인합니다

    forge --version

사용 전 알아둘 점

  • NVIDIA Hopper(sm90) 또는 Blackwell(sm100) GPU가 필요합니다.
  • 로그인된 Claude Code CLI 또는 ANTHROPIC_API_KEY가 필요합니다.
  • 한 번 실행하는 데 몇 시간이 걸립니다. B200에서 실행한 예시는 약 1.5시간 후 5.2배에 도달했습니다.
  • 아직 초기 단계의 프로젝트로, 스타는 8개이며 버전은 0.1.0입니다.

포함된 컬렉션

토픽

#gpu#cuda#cute-dsl#kernel-optimization#ai-agent#llm#hpc

자주 묻는 질문

ForgeKernel은(는) 무엇인가요?
승인된 커널을 다음 기준 커널로 승격하며 CUDA 및 CuTe DSL 커널을 최적화하는 자가 진화형 GPU 커널 에이전트입니다. ForgeKernel은 기존 기준 GPU 커널에서 시작해 대상 하드웨어에서 실행 시간과 프로파일을 측정하고, 코딩 에이전트가 구현할 아키텍처 중심 마일스톤 계획을 작성합니다. 승인된 커널은 각각 다음 세대의 기준 커널이 되므로, 최적화는 현재까지 알려진 최선의 구현을 넘어 계속됩니다. GPU 프로브로 인증된 하드웨어 메커니즘은 GPU 아키텍처별로 정리된 지식 베이스에 저장되어 여러 연산자에서 재사용됩니다.
ForgeKernel은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
ForgeKernel은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ForgeKernel은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. ForgeKernel의 마지막 커밋은 2026년 11월 4일입니다.
ForgeKernel은(는) 어디에 사용할 수 있나요?
Hopper 또는 Blackwell GPU에서 PyTorch 연산자나 사용자 정의 커널을 최적화합니다. 사람이 지켜보지 않아도 장시간 커널 튜닝을 실행하고 생성된 보고서를 검토합니다. 프로젝트에서 공개한 attention, GEMM 또는 convolution 커널을 살펴봅니다.
ForgeKernel는 어떻게 설치하나요?
저장소를 클론합니다 가상 환경을 만들고 ForgeKernel을 설치합니다: python3 -m venv .venv && source .venv/bin/activate && pip install -e . 권장 CuTe DSL 패키지를 설치합니다: pip install nvidia-cutlass-dsl 설치된 버전을 확인합니다: forge --version
ForgeKernel은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/OpenBMB/ForgeKernel

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트

HGEMM, FP8/FP4 GEMM, Flash-Attention을 다루는 200개 이상의 커널이 포함된 최신 CUDA 학습 노트 오픈소스 책 및 코드 모음입니다.

학습 자료#cuda#gpu#tensor-cores
1.2만+17 이번 주1.3천CudaGPL-3.0업데이트 그저께

CPU, GPU 및 하드웨어 가속기에서 allreduce, broadcast 같은 연산을 구현해 HPC와 AI 워크로드를 지원하는 통합 collective communication 라이브러리 및 API입니다.

백엔드·API#collectives#hpc#mpi
322+1 이번 주132CBSD-3-Clause활발히 관리됨업데이트 그저께