一款 GPU over IP 桥接工具,让无 GPU 的机器通过网络使用远程服务器上的 GPU。
- Star
- 12,374
- Fork
- 1,156
- 未关闭 Issue
- 669
- 最近提交
- 3天前
这是什么?
CuPy 是一个面向 Python 的 GPU 加速数组库。它的 API 与 NumPy 和 SciPy 高度一致,已有的数组代码通常只需修改导入方式,即可把数据保存在 GPU 显存中并在 GPU 上执行计算。
除高层 API 外,CuPy 还提供底层 CUDA 功能。用户可以通过 RawKernel 将数组传给已有的 CUDA C/C++ 程序,使用 CUDA Stream,也可以直接调用 CUDA Runtime API。项目支持 NVIDIA CUDA,并以实验性方式支持 AMD ROCm。
安装方式包括通过 pip 安装预编译的 CUDA 12.x、13.x 版本,通过 Conda-Forge 安装,或使用基于 NVIDIA Container Toolkit 的 Docker 镜像。
核心功能
- 01与 NumPy 和 SciPy API 高度兼容,GPU 数组可直接替换使用。
- 02支持通过 RawKernel 将数组交给已有的 CUDA C/C++ 代码。
- 03可直接使用 CUDA Stream 和 CUDA Runtime API。
- 04在 Linux 和 Windows 上提供 CUDA 12.x、13.x 的预编译包。
- 05支持通过 pip、Conda-Forge 或 Docker 安装。
适用场景
- 在 NVIDIA GPU 上加速已有的 NumPy 或 SciPy 科学计算代码。
- 在 Python 中结合已有的 CUDA C/C++ 内核进行 GPU 数组运算。
- 在可访问 GPU 的 Docker 容器中运行数组密集型数值计算。
快速上手
- 1
从 PyPI 安装 CUDA 12.x 版本的 wheel 包
pip install cupy-cuda12x - 2
或从 PyPI 安装 CUDA 13.x 版本的 wheel 包
pip install cupy-cuda13x - 3
或从 conda-forge 安装
conda install -c conda-forge cupy - 4
或使用支持 GPU 的官方 Docker 镜像运行
docker run --gpus all -it cupy/cupy
使用前须知
- 需要 NVIDIA CUDA 或 AMD ROCm GPU 才能运行。
- AMD ROCm 支持处于实验阶段,且仅提供 x86_64 架构版本。
收录于专题
标签
常见问题
- cupy 是什么?
- 与 NumPy/SciPy 兼容的数组库,可在 NVIDIA CUDA 或 AMD ROCm GPU 上运行现有 Python 数值代码。 CuPy 是一个面向 Python 的 GPU 加速数组库。它的 API 与 NumPy 和 SciPy 高度一致,已有的数组代码通常只需修改导入方式,即可把数据保存在 GPU 显存中并在 GPU 上执行计算。
- cupy 可以免费使用吗?用的什么许可证?
- cupy 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- cupy 还在维护吗?
- 活跃维护中。cupy 最近一次提交是在 2026年10月22日。
- cupy 适合用来做什么?
- 在 NVIDIA GPU 上加速已有的 NumPy 或 SciPy 科学计算代码。 在 Python 中结合已有的 CUDA C/C++ 内核进行 GPU 数组运算。 在可访问 GPU 的 Docker 容器中运行数组密集型数值计算。
- cupy 怎么安装和运行?
- 从 PyPI 安装 CUDA 12.x 版本的 wheel 包: pip install cupy-cuda12x 或从 PyPI 安装 CUDA 13.x 版本的 wheel 包: pip install cupy-cuda13x 或从 conda-forge 安装: conda install -c conda-forge cupy 或使用支持 GPU 的官方 Docker 镜像运行: docker run --gpus all -it cupy/cupy
- 在哪里获取 cupy?
- 源代码和安装说明在 GitHub 上:https://github.com/cupy/cupy
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
用 Nim 编写的高性能 N 维张量库,支持 CPU、CUDA 和 OpenCL,面向数值计算与深度学习。
FlashAttention 官方实现,一种节省显存的精确注意力计算内核,用于 GPU 上 Transformer 模型的训练与推理。
面向消费级 GPU 与异构机器的 C++ 大模型推理服务,结合投机解码、投机预填充与定制内核。
面向 NVIDIA GPU 的 CUDA C++ 模板库与 Python DSL,用于编写高性能矩阵乘法等线性代数内核。
面向 NumPy 的快速数组表达式求值库,分块并行计算,减少内存占用。