Repolode
crmne

crmne/ruby_llm

Ruby-фреймворк для создания функций на базе LLM: чаты, инструменты, агенты, эмбеддинги и интеграция с Rails через единый API.

Звёзды
4,497
Форки
534
Открытые issues
27
Последний коммит
7 часов назад

Что это?

RubyLLM — Ruby-фреймворк для создания AI-функций в приложениях. Он предоставляет единый API для 23 провайдеров моделей, включая OpenAI, Anthropic, Gemini, Ollama и OpenRouter, а также для любых совместимых с OpenAI конечных точек. Поэтому переход между облачными и локальными моделями не требует переписывать код приложения.

Помимо базового чата, фреймворк поддерживает вызов инструментов, при котором Ruby-методы становятся доступны модели, повторно используемых агентов, структурированный вывод по Ruby-схемам, потоковую передачу данных, генерацию изображений и видео, транскрибацию, синтез речи и OCR. В него также входит система оценки, запускающая наборы данных через RSpec, Minitest или Rake, а также подключения к MCP-серверам, кэширование промптов, резервные варианты и отслеживание стоимости каждой попытки.

Для Rails-приложений RubyLLM предлагает сохранение диалогов через Active Record, вложения через Active Storage, потоковую передачу через Hotwire и генераторы, создающие готовый к работе интерфейс чата.

Ключевые возможности

  • 01Единый API для 23 провайдеров, в том числе локальных моделей через Ollama и совместимых с OpenAI конечных точек.
  • 02Вызов инструментов, предоставляющий модели доступ к Ruby-методам, с возможностью запрашивать подтверждение пользователя.
  • 03Повторно используемые агенты и агентный цикл с пошаговым управлением.
  • 04Структурированный вывод по Ruby-схемам с разбором ответов в объекты Ruby.
  • 05Запуск оценки из Ruby, RSpec, Minitest или Rake.
  • 06Интеграция с Rails: сохранение данных через Active Record, потоковая передача через Hotwire и генераторы.

Сценарии использования

  • Добавление в Rails-приложение чат-ассистента с сохранением истории диалогов.
  • Создание агента, который вызывает внутренние Ruby-методы, чтобы отвечать на вопросы или выполнять действия.
  • Генерация эмбеддингов и повторное ранжирование результатов поиска в конвейере поиска с дополнением контекста.
  • Тестирование ответов LLM на наборе данных в рамках существующего набора тестов RSpec или Minitest.

Быстрый старт

  1. 1

    Установите gem с помощью Bundler

    bundle add ruby_llm --version 2.1.1
  2. 2

    Настройте API-ключ провайдера в скрипте

  3. 3

    Задайте вопрос одной строкой кода

    RubyLLM.chat.ask "What's the best way to learn Ruby?"

Что важно знать

  • Требуется API-ключ как минимум одного провайдера моделей.
  • Оценивание и некоторые функции, например выполнение кода, доступны только в ветке main, а не в стабильном релизе.

В подборках

Темы

Частые вопросы

Что такое ruby_llm?
Ruby-фреймворк для создания функций на базе LLM: чаты, инструменты, агенты, эмбеддинги и интеграция с Rails через единый API. RubyLLM — Ruby-фреймворк для создания AI-функций в приложениях. Он предоставляет единый API для 23 провайдеров моделей, включая OpenAI, Anthropic, Gemini, Ollama и OpenRouter, а также для любых совместимых с OpenAI конечных точек. Поэтому переход между облачными и локальными моделями не требует переписывать код приложения.
ruby_llm можно использовать бесплатно? Какая у него лицензия?
ruby_llm распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ruby_llm всё ещё поддерживается?
Активно поддерживается. Последний коммит в ruby_llm — 6 нояб. 2026 г..
Для чего можно использовать ruby_llm?
Добавление в Rails-приложение чат-ассистента с сохранением истории диалогов. Создание агента, который вызывает внутренние Ruby-методы, чтобы отвечать на вопросы или выполнять действия. Генерация эмбеддингов и повторное ранжирование результатов поиска в конвейере поиска с дополнением контекста. Тестирование ответов LLM на наборе данных в рамках существующего набора тестов RSpec или Minitest.
Как установить ruby_llm?
Установите gem с помощью Bundler: bundle add ruby_llm --version 2.1.1 Настройте API-ключ провайдера в скрипте Задайте вопрос одной строкой кода: RubyLLM.chat.ask "What's the best way to learn Ruby?"
Где скачать ruby_llm?
Исходный код и инструкции по установке — на GitHub: https://github.com/crmne/ruby_llm

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Лёгкий Python-фреймворк для создания совместимых с OpenAI агентов с инструментами, памятью, защитными правилами, трассировкой, хуками, маршрутизацией между агентами и workflow.

1,2 тыс.180PythonApache-2.0Активно поддерживаетсяОбновлён 10 дней назад

Java-библиотека, которая предоставляет приложениям на JVM единый API для LLM-провайдеров и векторных хранилищ, а также поддерживает вызов инструментов, агентов и RAG.

13,4 тыс.+36 за неделю2,7 тыс.JavaApache-2.0Обновлён 7 часов назад