Repolode
Предложить
KRLabsOrg

KRLabsOrg/LettuceDetect

Открытый детектор галлюцинаций на уровне фрагментов: находит в ответах RAG, кодовых агентов и ИИ на основе инструментов части без подтверждения в источниках.

Открыть на GitHubСайт
Звёзды
620
Форки
64
Открытые issues
28
Последний коммит
вчера

Что это?

LettuceDetect сверяет ответы, сгенерированные ИИ, с данными, на которых они должны основываться. На вход подаются контекст, вопрос и ответ, а на выходе отмечаются точные фрагменты текста, которые не подтверждаются источниками, противоречат им или выдуманы. Вместо единого вердикта о том, верен ли ответ целиком, инструмент анализирует его по частям. Он подходит для текстов RAG, многоязычных вопросов и ответов, ответов кодовых агентов и результатов работы инструментов для разработчиков.

В проекте есть два типа моделей. Быстрые модели-энкодеры (ModernBERT для английского, EuroBERT для нескольких языков и модели v2 на основе mmBERT) запускаются локально и классифицируют токены. Генеративные модели, например детектор v2 на основе Qwen с 2 млрд параметров, за один проход выдают фрагменты с указанием категории и подкатегории. Для разметки фрагментов к энкодеру также можно добавить таксономическую голову. Для сравнения в проект включена базовая модель на основе LLM, использующая OpenAI API.

Python-пакет устанавливается из PyPI, а модели загружаются с Hugging Face всего в несколько строк кода. Кроме того, в проект входят веб-сервер на FastAPI с Python-клиентом, демо на Streamlit, а также скрипты обучения и оценки для набора данных RAGTruth.

Ключевые возможности

  • 01Находит точные фрагменты текста с неподтверждённой или выдуманной информацией в ответе.
  • 02Предлагает локальные модели-энкодеры для быстрого инференса и генеративные модели, которые определяют тип каждого фрагмента.
  • 03Поддерживает ответы RAG на английском и других языках, а также результаты работы кодовых агентов и инструментов.
  • 04Предоставляет устанавливаемый через pip Python API и сервер на FastAPI с Python-клиентом.
  • 05Включает скрипты обучения и оценки для набора данных RAGTruth.

Сценарии использования

  • Проверка того, подтверждаются ли ответы RAG-чатбота извлечёнными документами.
  • Поиск выдуманных API и неверных значений в ответах кодовых агентов с помощью сверки с исходным кодом репозитория.
  • Проверка результатов работы инструментов перед показом пользователям.
  • Сравнение детекторов галлюцинаций на данных в формате RAGTruth.

Быстрый старт

  1. 1

    Установите пакет из PyPI

    pip install lettucedetect -U
  2. 2

    Запустите детектор, передав ему контекст, вопрос и ответ (см. пример на Python в README)

Что важно знать

  • Для моделей EuroBERT требуется transformers версии ниже 5.x, поскольку они пока несовместимы с transformers 5.
  • Для базовых моделей на основе LLM требуется ключ API OpenAI.

В подборках

Фреймворки тестирования и инструменты автоматизации тестовИнструменты и библиотеки обработки естественного языка

Темы

#hallucination-detection#rag#nlp#token-classification#pytorch#bert#llm-evaluation#hallucination-evaluation#information-extraction#python

Частые вопросы

Что такое LettuceDetect?
Открытый детектор галлюцинаций на уровне фрагментов: находит в ответах RAG, кодовых агентов и ИИ на основе инструментов части без подтверждения в источниках. LettuceDetect сверяет ответы, сгенерированные ИИ, с данными, на которых они должны основываться. На вход подаются контекст, вопрос и ответ, а на выходе отмечаются точные фрагменты текста, которые не подтверждаются источниками, противоречат им или выдуманы. Вместо единого вердикта о том, верен ли ответ целиком, инструмент анализирует его по частям. Он подходит для текстов RAG, многоязычных вопросов и ответов, ответов кодовых агентов и результатов работы инструментов для разработчиков.
LettuceDetect можно использовать бесплатно? Какая у него лицензия?
LettuceDetect распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
LettuceDetect всё ещё поддерживается?
Активно поддерживается. Последний коммит в LettuceDetect — 6 нояб. 2026 г..
Для чего можно использовать LettuceDetect?
Проверка того, подтверждаются ли ответы RAG-чатбота извлечёнными документами. Поиск выдуманных API и неверных значений в ответах кодовых агентов с помощью сверки с исходным кодом репозитория. Проверка результатов работы инструментов перед показом пользователям. Сравнение детекторов галлюцинаций на данных в формате RAGTruth.
Как установить LettuceDetect?
Установите пакет из PyPI: pip install lettucedetect -U Запустите детектор, передав ему контекст, вопрос и ответ (см. пример на Python в README)
Где скачать LettuceDetect?
Исходный код и инструкции по установке — на GitHub: https://github.com/KRLabsOrg/LettuceDetect

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

cvs-health / uqlm

Python-библиотека для оценки вероятности галлюцинаций в ответах LLM с помощью количественной оценки неопределённости и black-box, white-box, judge- и ensemble-оценщиков.

ИИ и машинное обучение#hallucination-detection#uncertainty-quantification#llm-evaluation
1,2 тыс.+2 за неделю140PythonApache-2.0Активно поддерживаетсяОбновлён 25 дней назад

google / langextract

Библиотека Python, которая использует LLM для извлечения структурированных данных из неструктурированного текста и связывает каждое извлечённое значение с исходным фрагментом.

ИИ и машинное обучение#llm#nlp#information-extraction
39,3 тыс.+59 за неделю2,8 тыс.PythonApache-2.0Обновлён позавчера

robert-mcdermott / ai-knowledge-graph

Преобразует неструктурированный текст в интерактивный граф знаний: LLM извлекает триплеты «субъект — предикат — объект».

ИИ и машинное обучение#knowledge-graph#llm#information-extraction
3,1 тыс.+1 за неделю420PythonApache-2.0Активно поддерживаетсяОбновлён 2 месяца назад