Repolode
beam-cloud

beam-cloud/beta9

Открытый runtime на Go и Python для бессерверных AI-нагрузок: GPU-инференс, изолированные песочницы и фоновые задачи.

Open source альтернатива:AWS LambdaModal

Звёзды
1,827
Форки
171
Открытые issues
32
Последний коммит
вчера

Что это?

Beta9 — открытый runtime для развёртывания и масштабирования AI-приложений без управления серверами. Разработчики оборачивают Python-функции декораторами, например @endpoint или @task_queue, а платформа запускает их в контейнерах, которые стартуют за считаные секунды, масштабируются до нуля в простое и при необходимости распределяют нагрузку между множеством контейнеров.

Проект поддерживает несколько типов нагрузок: автоматически масштабируемые endpoints для инференса пользовательских моделей, изолированные песочницы для запуска кода, сгенерированного LLM, и отказоустойчивые фоновые задачи, способные заменить очередь Celery. Также доступны задачи по расписанию, вебхуки, горячая перезагрузка при разработке и подключаемые тома распределённого хранилища.

GPU-нагрузки можно запускать в облаке Beam или на собственных GPU, а движок — развернуть самостоятельно. Beam также предлагает управляемое облако на базе того же открытого движка.

Ключевые возможности

  • 01Контейнеры запускаются менее чем за секунду благодаря собственной среде выполнения и планировщику.
  • 02Распределяет нагрузку между сотнями контейнеров параллельно.
  • 03При простое масштабируется до нуля; автоматическое масштабирование учитывает длину очереди.
  • 04Предоставляет изолированные песочницы для выполнения кода.
  • 05Поддерживает фоновые задачи с повторными попытками, задачи по расписанию и вебхуки.
  • 06Работает на GPU в облаке Beam или на собственных GPU.

Сценарии использования

  • Обслуживание пользовательской модели машинного обучения через автоматически масштабируемый API endpoint.
  • Запуск кода, сгенерированного LLM, в изолированных песочницах.
  • Замена очереди Celery отказоустойчивой обработкой фоновых задач.
  • Запуск пакетных GPU-задач по запросу, например тонкой настройки моделей или обработки изображений.

Быстрый старт

  1. 1

    Установите клиент Beam

    pip install beam-client
  2. 2

    Создайте аккаунт Beam

  3. 3

    Следуйте руководству Getting Started Guide, чтобы начать работу

Что важно знать

  • Распространяется по лицензии AGPL-3.0 — лицензии с авторским левом, требующей раскрывать исходный код при использовании по сети.
  • Для самостоятельного хостинга потребуется собственная инфраструктура; для удобства в README предлагается управляемое облако Beam.
  • Для быстрого старта необходимо создать аккаунт на платформе Beam.

Темы

Частые вопросы

Что такое beta9?
Открытый runtime на Go и Python для бессерверных AI-нагрузок: GPU-инференс, изолированные песочницы и фоновые задачи. Beta9 — открытый runtime для развёртывания и масштабирования AI-приложений без управления серверами. Разработчики оборачивают Python-функции декораторами, например @endpoint или @task_queue, а платформа запускает их в контейнерах, которые стартуют за считаные секунды, масштабируются до нуля в простое и при необходимости распределяют нагрузку между множеством контейнеров.
beta9 можно использовать бесплатно? Какая у него лицензия?
beta9 распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
beta9 всё ещё поддерживается?
Активно поддерживается. Последний коммит в beta9 — 19 окт. 2026 г..
Для чего можно использовать beta9?
Обслуживание пользовательской модели машинного обучения через автоматически масштабируемый API endpoint. Запуск кода, сгенерированного LLM, в изолированных песочницах. Замена очереди Celery отказоустойчивой обработкой фоновых задач. Запуск пакетных GPU-задач по запросу, например тонкой настройки моделей или обработки изображений.
Как установить beta9?
Установите клиент Beam: pip install beam-client Создайте аккаунт Beam Следуйте руководству Getting Started Guide, чтобы начать работу
Где скачать beta9?
Исходный код и инструкции по установке — на GitHub: https://github.com/beam-cloud/beta9

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты