lyogavin / airllmGitHubPython 库,逐层加载大语言模型,让 70B 级模型可在单张 4GB 显卡上推理,无需量化。AI 与机器学习#llm#inference#gpu#low-vram#pytorch3.9万4026Jupyter NotebookApache-2.0更新于 15小时前