Mamba 是基于选择性状态空间模型(SSM)的 PyTorch 序列建模架构,可作为 Transformer 的线性时间替代方案。
1.9万1831PythonApache-2.0更新于 3个月前
#transformer-alternative
与 transformer-alternative 相关的精选 GitHub 开源仓库,附 AI 中文概要与关键数据。
Mamba 是基于选择性状态空间模型(SSM)的 PyTorch 序列建模架构,可作为 Transformer 的线性时间替代方案。
RWKV 官方训练与参考代码,一种可像 GPT 一样并行训练的 RNN 式大语言模型架构。