XLA 가속 학습, 순수 Go 백엔드, HuggingFace 모델 로딩을 지원하는 Go용 머신러닝 및 수학 프레임워크입니다.
google-pytorch/torch_tpu
PyTorch 모델과 연산을 Google Tensor Processing Unit(TPU)에서 실행할 수 있게 하는 PyTorch 백엔드입니다.
- 스타
- 590
- 포크
- 33
- 열린 이슈
- 282
- 마지막 커밋
- 2시간 전
어떤 프로젝트인가요?
TorchTPU는 Google TPU용 PyTorch 백엔드로, 기존 PyTorch 코드를 TPU 기기에서 실행할 수 있습니다. 다양한 PyTorch 연산을 위한 사용자 정의 ATen 커널과 컴파일된 XLA 계산을 재사용해 반복 실행 속도를 높이는 컴파일 캐시를 제공합니다.
이 프로젝트는 데이터 병렬화와 텐서 병렬화를 통한 분산 학습, 그래프 모드 실행을 위한 torch.compile() 통합, 디버깅 및 벤치마킹 유틸리티를 지원합니다. Llama, Qwen, ResNet, DLRM, minGPT, UNet 등의 모델 예제와 대화형 Marimo 노트북으로 구성된 사용자 가이드도 제공합니다. 노트북은 TPU VM에서 실행하도록 만들어졌습니다.
PyPI의 torch_tpu 패키지를 pip로 설치하거나, Bazel로 소스에서 wheel을 빌드해 설치할 수 있습니다. Python 3.11 이상을 지원합니다.
핵심 기능
- 01TPU용 사용자 정의 ATen 커널 구현.
- 02컴파일된 XLA 계산을 재사용하는 컴파일 캐시.
- 03분산 학습을 위한 데이터 병렬화와 텐서 병렬화.
- 04그래프 모드 실행을 위한 torch.compile() 통합.
- 05Llama, Qwen, ResNet, UNet 등을 포함한 모델 예제 코드.
- 06디버깅 및 벤치마킹 유틸리티.
활용 사례
- 기존 PyTorch 학습 코드를 Google Cloud TPU에서 실행.
- TPU 기기 여러 대에 걸쳐 대규모 모델 분산 학습.
- TPU 하드웨어에서 PyTorch 모델 추론 서빙.
- TPU에서 일반적인 모델의 구현 예제 살펴보기.
빠른 시작
- 1
Python 가상 환경을 만듭니다
python -m venv .venv - 2
CPU PyTorch 인덱스를 사용해 PyPI에서 최신 공개 릴리스를 설치합니다
pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu
사용 전 알아둘 점
- Google TPU 하드웨어를 대상으로 하므로 TPU VM과 같은 TPU를 사용할 수 있는 경우에만 유용합니다.
- Python 3.11 이상이 필요합니다.
- 소스에서 빌드하려면 Bazel이 필요하며, 전체 wheel을 빌드하려면 Remote Build Execution 자격 증명 또는 no_rbe 플래그가 필요합니다.
- 메타데이터의 라이선스는 NOASSERTION으로 표시되어 있지만 README에는 Apache 2.0으로 명시되어 있습니다.
토픽
자주 묻는 질문
- torch_tpu은(는) 무엇인가요?
- PyTorch 모델과 연산을 Google Tensor Processing Unit(TPU)에서 실행할 수 있게 하는 PyTorch 백엔드입니다. TorchTPU는 Google TPU용 PyTorch 백엔드로, 기존 PyTorch 코드를 TPU 기기에서 실행할 수 있습니다. 다양한 PyTorch 연산을 위한 사용자 정의 ATen 커널과 컴파일된 XLA 계산을 재사용해 반복 실행 속도를 높이는 컴파일 캐시를 제공합니다.
- torch_tpu은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- torch_tpu은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- torch_tpu은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. torch_tpu의 마지막 커밋은 2026년 10월 22일입니다.
- torch_tpu은(는) 어디에 사용할 수 있나요?
- 기존 PyTorch 학습 코드를 Google Cloud TPU에서 실행. TPU 기기 여러 대에 걸쳐 대규모 모델 분산 학습. TPU 하드웨어에서 PyTorch 모델 추론 서빙. TPU에서 일반적인 모델의 구현 예제 살펴보기.
- torch_tpu는 어떻게 설치하나요?
- Python 가상 환경을 만듭니다: python -m venv .venv CPU PyTorch 인덱스를 사용해 PyPI에서 최신 공개 릴리스를 설치합니다: pip install torch_tpu==0.2.0 --extra-index-url https://download.pytorch.org/whl/cpu
- torch_tpu은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/google-pytorch/torch_tpu
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Google Cloud TPU와 GPU에서 대규모 모델을 사전 학습하고 후속 학습하는 JAX 기반 오픈소스 LLM 라이브러리이자 참조 구현입니다.
Ray는 분산 런타임과 AI 라이브러리를 제공해 노트북부터 클러스터까지 Python 및 AI 애플리케이션을 확장하는 통합 프레임워크입니다.
대규모 모델의 분산 학습과 추론을 더 쉽고 효율적으로 지원하는 딥러닝 최적화 라이브러리입니다.
대규모 AI 모델의 학습과 추론을 위한 PyTorch 기반 분산 시스템으로, 병렬화, 메모리 최적화, 이기종 학습을 지원합니다.
컴퓨터 비전 작업을 위한 이미지 모델 아키텍처, 사전 학습 가중치, 학습·검증·내보내기 스크립트를 제공하는 PyTorch 라이브러리입니다.