Открытый Python-фреймворк для создания готовых к продакшену LLM-приложений с модульными конвейерами и агентными процессами для RAG, поиска и работы агентов.
crmne/ruby_llm
Ruby-фреймворк для создания функций на базе LLM: чаты, инструменты, агенты, эмбеддинги и интеграция с Rails через единый API.
- Звёзды
- 4,497
- Форки
- 534
- Открытые issues
- 27
- Последний коммит
- 7 часов назад
Что это?
RubyLLM — Ruby-фреймворк для создания AI-функций в приложениях. Он предоставляет единый API для 23 провайдеров моделей, включая OpenAI, Anthropic, Gemini, Ollama и OpenRouter, а также для любых совместимых с OpenAI конечных точек. Поэтому переход между облачными и локальными моделями не требует переписывать код приложения.
Помимо базового чата, фреймворк поддерживает вызов инструментов, при котором Ruby-методы становятся доступны модели, повторно используемых агентов, структурированный вывод по Ruby-схемам, потоковую передачу данных, генерацию изображений и видео, транскрибацию, синтез речи и OCR. В него также входит система оценки, запускающая наборы данных через RSpec, Minitest или Rake, а также подключения к MCP-серверам, кэширование промптов, резервные варианты и отслеживание стоимости каждой попытки.
Для Rails-приложений RubyLLM предлагает сохранение диалогов через Active Record, вложения через Active Storage, потоковую передачу через Hotwire и генераторы, создающие готовый к работе интерфейс чата.
Ключевые возможности
- 01Единый API для 23 провайдеров, в том числе локальных моделей через Ollama и совместимых с OpenAI конечных точек.
- 02Вызов инструментов, предоставляющий модели доступ к Ruby-методам, с возможностью запрашивать подтверждение пользователя.
- 03Повторно используемые агенты и агентный цикл с пошаговым управлением.
- 04Структурированный вывод по Ruby-схемам с разбором ответов в объекты Ruby.
- 05Запуск оценки из Ruby, RSpec, Minitest или Rake.
- 06Интеграция с Rails: сохранение данных через Active Record, потоковая передача через Hotwire и генераторы.
Сценарии использования
- Добавление в Rails-приложение чат-ассистента с сохранением истории диалогов.
- Создание агента, который вызывает внутренние Ruby-методы, чтобы отвечать на вопросы или выполнять действия.
- Генерация эмбеддингов и повторное ранжирование результатов поиска в конвейере поиска с дополнением контекста.
- Тестирование ответов LLM на наборе данных в рамках существующего набора тестов RSpec или Minitest.
Быстрый старт
- 1
Установите gem с помощью Bundler
bundle add ruby_llm --version 2.1.1 - 2
Настройте API-ключ провайдера в скрипте
- 3
Задайте вопрос одной строкой кода
RubyLLM.chat.ask "What's the best way to learn Ruby?"
Что важно знать
- Требуется API-ключ как минимум одного провайдера моделей.
- Оценивание и некоторые функции, например выполнение кода, доступны только в ветке main, а не в стабильном релизе.
В подборках
Темы
Частые вопросы
- Что такое ruby_llm?
- Ruby-фреймворк для создания функций на базе LLM: чаты, инструменты, агенты, эмбеддинги и интеграция с Rails через единый API. RubyLLM — Ruby-фреймворк для создания AI-функций в приложениях. Он предоставляет единый API для 23 провайдеров моделей, включая OpenAI, Anthropic, Gemini, Ollama и OpenRouter, а также для любых совместимых с OpenAI конечных точек. Поэтому переход между облачными и локальными моделями не требует переписывать код приложения.
- ruby_llm можно использовать бесплатно? Какая у него лицензия?
- ruby_llm распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- ruby_llm всё ещё поддерживается?
- Активно поддерживается. Последний коммит в ruby_llm — 6 нояб. 2026 г..
- Для чего можно использовать ruby_llm?
- Добавление в Rails-приложение чат-ассистента с сохранением истории диалогов. Создание агента, который вызывает внутренние Ruby-методы, чтобы отвечать на вопросы или выполнять действия. Генерация эмбеддингов и повторное ранжирование результатов поиска в конвейере поиска с дополнением контекста. Тестирование ответов LLM на наборе данных в рамках существующего набора тестов RSpec или Minitest.
- Как установить ruby_llm?
- Установите gem с помощью Bundler: bundle add ruby_llm --version 2.1.1 Настройте API-ключ провайдера в скрипте Задайте вопрос одной строкой кода: RubyLLM.chat.ask "What's the best way to learn Ruby?"
- Где скачать ruby_llm?
- Исходный код и инструкции по установке — на GitHub: https://github.com/crmne/ruby_llm
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Фреймворк для Ruby on Rails, который позволяет создавать приложения с ИИ, оформляя агентов как контроллеры с действиями и представлениями.
Ruby-фреймворк для создания приложений на базе LLM из компонуемых инструментов, агентов и движков для разных провайдеров.
Python-фреймворк для создания AI-агентов на базе LLM и инструментов, а также координации агентов в мультиагентных сценариях.
Лёгкий Python-фреймворк для создания совместимых с OpenAI агентов с инструментами, памятью, защитными правилами, трассировкой, хуками, маршрутизацией между агентами и workflow.
Java-библиотека, которая предоставляет приложениям на JVM единый API для LLM-провайдеров и векторных хранилищ, а также поддерживает вызов инструментов, агентов и RAG.