Открытая платформа для разработки LLM-приложений: трассировка, оценка, управление промптами и отладка; можно развернуть самостоятельно.
comet-ml/opik
Open-source платформа для наблюдаемости и оценки LLM: трассировка AI-агентов, оценка ответов, управление промптами и мониторинг в production.
Open source альтернатива:LangSmith
Braintrust
Weights & Biases
- Звёзды
- 22,764
- Форки
- 1,880
- Открытые issues
- 186
- Последний коммит
- 5 часов назад
Что это?
Opik — платформа для отладки, оценки и мониторинга LLM-приложений, RAG-систем и многошаговых AI-агентов. Она записывает трассы вызовов LLM, выполнения инструментов и вложенных вызовов функций, чтобы разработчики могли увидеть, что происходило во время работы агента. Python SDK предоставляет декоратор track для логирования любых функций, а интеграции поддерживают множество фреймворков и провайдеров моделей, включая LangChain, LlamaIndex, OpenAI, Anthropic и OpenTelemetry.
Помимо трассировки, Opik предлагает датасеты и эксперименты для систематической оценки, метрики LLM-as-a-judge, например выявление галлюцинаций и релевантности ответов, а также интеграцию с PyTest для запуска оценок в CI/CD. В платформу также входят prompt playground, правила онлайн-оценки и дашборды с оценками обратной связи, числом трасс и расходом токенов в production.
Вся платформа, включая серверную часть и веб-приложение, распространяется по лицензии Apache-2.0 и может быть развёрнута на собственных ресурсах с помощью Docker Compose или Kubernetes/Helm. Команды также могут воспользоваться облачным сервисом Comet.com.
Ключевые возможности
- 01Отслеживайте вызовы LLM, использование инструментов и вложенные вызовы функций в многошаговых агентах.
- 02Запускайте датасеты и эксперименты с метриками LLM-as-a-judge и эвристическими метриками.
- 03Встраивайте оценку в CI/CD с помощью интеграции с PyTest.
- 04Управляйте промптами и дорабатывайте их во встроенном playground.
- 05Отслеживайте оценки обратной связи, объём трасс и расход токенов с помощью правил онлайн-оценки.
- 06Разворачивайте всю платформу на собственных ресурсах с помощью Docker Compose или Kubernetes.
Сценарии использования
- Разбор причин неверного ответа многошагового AI-агента с помощью дерева трассировки.
- Запуск регрессионной оценки RAG-пайплайна перед каждым релизом.
- Мониторинг оценок галлюцинаций или модерации в production-чатботе.
- Хранение данных наблюдаемости LLM в собственной инфраструктуре компании.
Быстрый старт
- 1
Установите Python SDK
pip install opik - 2
Настройте SDK
opik configure - 3
Оберните функцию декоратором @track, чтобы начать записывать трассировки
Что важно знать
- Для самостоятельного размещения всей платформы необходимо самостоятельно запускать серверную инфраструктуру.
- В README Opik Cloud указан как самый простой способ настройки, а некоторые ссылки MCP и ссылки на значки ведут на Opik Cloud.
Темы
Частые вопросы
- Что такое opik?
- Open-source платформа для наблюдаемости и оценки LLM: трассировка AI-агентов, оценка ответов, управление промптами и мониторинг в production. Opik — платформа для отладки, оценки и мониторинга LLM-приложений, RAG-систем и многошаговых AI-агентов. Она записывает трассы вызовов LLM, выполнения инструментов и вложенных вызовов функций, чтобы разработчики могли увидеть, что происходило во время работы агента. Python SDK предоставляет декоратор track для логирования любых функций, а интеграции поддерживают множество фреймворков и провайдеров моделей, включая LangChain, LlamaIndex, OpenAI, Anthropic и OpenTelemetry.
- opik можно использовать бесплатно? Какая у него лицензия?
- opik распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- opik всё ещё поддерживается?
- Активно поддерживается. Последний коммит в opik — 20 окт. 2026 г..
- Для чего можно использовать opik?
- Разбор причин неверного ответа многошагового AI-агента с помощью дерева трассировки. Запуск регрессионной оценки RAG-пайплайна перед каждым релизом. Мониторинг оценок галлюцинаций или модерации в production-чатботе. Хранение данных наблюдаемости LLM в собственной инфраструктуре компании.
- Как установить opik?
- Установите Python SDK: pip install opik Настройте SDK: opik configure Оберните функцию декоратором @track, чтобы начать записывать трассировки
- Где скачать opik?
- Исходный код и инструкции по установке — на GitHub: https://github.com/comet-ml/opik
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Самостоятельно размещаемое AI-пространство для обучения с персональным репетитором, вопросами и ответами, тестами, исследованиями и визуализациями, созданное на Python и Next.js.
Открытый Python-фреймворк для модульного тестирования приложений на базе LLM: метрики для RAG, агентов, чат-ботов, голосовых агентов и многого другого — в духе Pytest.
Курс Microsoft из 21 урока, который знакомит разработчиков с основами создания приложений на базе генеративного ИИ с помощью Python и TypeScript.
Open source-платформа для разработки ИИ: отладки, оценки, мониторинга и оптимизации агентов, LLM-приложений и ML-моделей.
Фреймворк с открытым исходным кодом на Python, в котором LLM-агенты управляют устройствами Android и iOS с помощью естественного языка, CLI или Python API.