基于 vLLM 扩展的推理服务框架,支持文本、图像、音频、视频等全模态模型部署。
72551934PythonApache-2.0更新于 4小时前
#transformer
与 transformer 相关的精选 GitHub 开源仓库,附 AI 中文概要与关键数据。
基于 vLLM 扩展的推理服务框架,支持文本、图像、音频、视频等全模态模型部署。
用 PyTorch 从零实现的 Transformer 大模型训练教程与代码库,涵盖预训练、SFT、奖励模型、DPO/PPO/GRPO 与文本生成。