Repolode
提交项目
KalyanKS-NLP

KalyanKS-NLP/llm-engineer-toolkit

按类别整理的 120 多个 LLM 开源库清单，涵盖训练、推理、RAG、智能体、评估与监控等环节。

在 GitHub 查看官网
Star
10,886
Fork
1,709
未关闭 Issue
23
最近提交
10天前

这是什么？

LLM Engineer Toolkit 是一份整理好的目录，收录了 120 多个用于大语言模型开发的开源库。内容按类别划分，包括训练与微调、应用开发、RAG、推理、服务部署、数据抽取、数据生成、智能体、评估、监控、提示词、结构化输出、安全与向量嵌入模型等。

每个类别下列出项目名称、简短说明和链接，方便开发者在 LLM 流程的某个环节快速找到候选工具。目录末尾还附带作者的一些相关资料，例如面试题集和提示工程资源。

本仓库本身是一份 Markdown 文档，不是可安装运行的软件包。

核心功能

  • 01将 120 多个 LLM 库划分为约 15 个类别。
  • 02每个条目附有一句话说明和项目链接。
  • 03覆盖从微调、RAG 到部署、智能体和评估的完整流程。
  • 04除核心框架外，还包含监控、安全和结构化输出相关工具。

适用场景

  • 为新的 LLM 项目选择微调或推理库。
  • 在确定方案前，查找 RAG 或智能体框架进行对比。
  • 为生产环境的 LLM 应用筛选评估或可观测性工具。

标签

#llm#awesome-list#generative-ai#rag#ai-agents#fine-tuning#llm-evaluation#ai-engineer#large-language-models#llm-engineer

常见问题

llm-engineer-toolkit 是什么？
按类别整理的 120 多个 LLM 开源库清单，涵盖训练、推理、RAG、智能体、评估与监控等环节。 LLM Engineer Toolkit 是一份整理好的目录，收录了 120 多个用于大语言模型开发的开源库。内容按类别划分，包括训练与微调、应用开发、RAG、推理、服务部署、数据抽取、数据生成、智能体、评估、监控、提示词、结构化输出、安全与向量嵌入模型等。
llm-engineer-toolkit 可以免费使用吗？用的什么许可证？
llm-engineer-toolkit 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
llm-engineer-toolkit 还在维护吗？
活跃维护中。llm-engineer-toolkit 最近一次提交是在 2026年10月11日。
llm-engineer-toolkit 适合用来做什么？
为新的 LLM 项目选择微调或推理库。 在确定方案前，查找 RAG 或智能体框架进行对比。 为生产环境的 LLM 应用筛选评估或可观测性工具。
在哪里获取 llm-engineer-toolkit？
源代码和安装说明在 GitHub 上：https://github.com/KalyanKS-NLP/llm-engineer-toolkit

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目