Repolode
google-pytorch

google-pytorch/torch_tpu

PyTorch 모델과 연산을 Google Tensor Processing Unit(TPU)에서 실행할 수 있게 하는 PyTorch 백엔드입니다.

스타
590
포크
33
열린 이슈
282
마지막 커밋
2시간 전

어떤 프로젝트인가요?

TorchTPU는 Google TPU용 PyTorch 백엔드로, 기존 PyTorch 코드를 TPU 기기에서 실행할 수 있습니다. 다양한 PyTorch 연산을 위한 사용자 정의 ATen 커널과 컴파일된 XLA 계산을 재사용해 반복 실행 속도를 높이는 컴파일 캐시를 제공합니다.

이 프로젝트는 데이터 병렬화와 텐서 병렬화를 통한 분산 학습, 그래프 모드 실행을 위한 torch.compile() 통합, 디버깅 및 벤치마킹 유틸리티를 지원합니다. Llama, Qwen, ResNet, DLRM, minGPT, UNet 등의 모델 예제와 대화형 Marimo 노트북으로 구성된 사용자 가이드도 제공합니다. 노트북은 TPU VM에서 실행하도록 만들어졌습니다.

PyPI의 torch_tpu 패키지를 pip로 설치하거나, Bazel로 소스에서 wheel을 빌드해 설치할 수 있습니다. Python 3.11 이상을 지원합니다.

핵심 기능

  • 01TPU용 사용자 정의 ATen 커널 구현.
  • 02컴파일된 XLA 계산을 재사용하는 컴파일 캐시.
  • 03분산 학습을 위한 데이터 병렬화와 텐서 병렬화.
  • 04그래프 모드 실행을 위한 torch.compile() 통합.
  • 05Llama, Qwen, ResNet, UNet 등을 포함한 모델 예제 코드.
  • 06디버깅 및 벤치마킹 유틸리티.

활용 사례

  • 기존 PyTorch 학습 코드를 Google Cloud TPU에서 실행.
  • TPU 기기 여러 대에 걸쳐 대규모 모델 분산 학습.
  • TPU 하드웨어에서 PyTorch 모델 추론 서빙.
  • TPU에서 일반적인 모델의 구현 예제 살펴보기.

빠른 시작

  1. 1

    Python 가상 환경을 만듭니다

    python -m venv .venv
  2. 2

    CPU PyTorch 인덱스를 사용해 PyPI에서 최신 공개 릴리스를 설치합니다

    pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu

사용 전 알아둘 점

  • Google TPU 하드웨어를 대상으로 하므로 TPU VM과 같은 TPU를 사용할 수 있는 경우에만 유용합니다.
  • Python 3.11 이상이 필요합니다.
  • 소스에서 빌드하려면 Bazel이 필요하며, 전체 wheel을 빌드하려면 Remote Build Execution 자격 증명 또는 no_rbe 플래그가 필요합니다.
  • 메타데이터의 라이선스는 NOASSERTION으로 표시되어 있지만 README에는 Apache 2.0으로 명시되어 있습니다.

토픽

자주 묻는 질문

torch_tpu은(는) 무엇인가요?
PyTorch 모델과 연산을 Google Tensor Processing Unit(TPU)에서 실행할 수 있게 하는 PyTorch 백엔드입니다. TorchTPU는 Google TPU용 PyTorch 백엔드로, 기존 PyTorch 코드를 TPU 기기에서 실행할 수 있습니다. 다양한 PyTorch 연산을 위한 사용자 정의 ATen 커널과 컴파일된 XLA 계산을 재사용해 반복 실행 속도를 높이는 컴파일 캐시를 제공합니다.
torch_tpu은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
torch_tpu은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
torch_tpu은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. torch_tpu의 마지막 커밋은 2026년 10월 22일입니다.
torch_tpu은(는) 어디에 사용할 수 있나요?
기존 PyTorch 학습 코드를 Google Cloud TPU에서 실행. TPU 기기 여러 대에 걸쳐 대규모 모델 분산 학습. TPU 하드웨어에서 PyTorch 모델 추론 서빙. TPU에서 일반적인 모델의 구현 예제 살펴보기.
torch_tpu는 어떻게 설치하나요?
Python 가상 환경을 만듭니다: python -m venv .venv CPU PyTorch 인덱스를 사용해 PyPI에서 최신 공개 릴리스를 설치합니다: pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu
torch_tpu은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/google-pytorch/torch_tpu

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트