Платформа на базе Kubernetes для масштабируемого развертывания и обслуживания предиктивных и генеративных ИИ-моделей на разных ML-фреймворках.
beam-cloud/beta9
Открытый runtime на Go и Python для бессерверных AI-нагрузок: GPU-инференс, изолированные песочницы и фоновые задачи.
Open source альтернатива:AWS Lambda
Modal
- Звёзды
- 1,827
- Форки
- 171
- Открытые issues
- 32
- Последний коммит
- вчера
Что это?
Beta9 — открытый runtime для развёртывания и масштабирования AI-приложений без управления серверами. Разработчики оборачивают Python-функции декораторами, например @endpoint или @task_queue, а платформа запускает их в контейнерах, которые стартуют за считаные секунды, масштабируются до нуля в простое и при необходимости распределяют нагрузку между множеством контейнеров.
Проект поддерживает несколько типов нагрузок: автоматически масштабируемые endpoints для инференса пользовательских моделей, изолированные песочницы для запуска кода, сгенерированного LLM, и отказоустойчивые фоновые задачи, способные заменить очередь Celery. Также доступны задачи по расписанию, вебхуки, горячая перезагрузка при разработке и подключаемые тома распределённого хранилища.
GPU-нагрузки можно запускать в облаке Beam или на собственных GPU, а движок — развернуть самостоятельно. Beam также предлагает управляемое облако на базе того же открытого движка.
Ключевые возможности
- 01Контейнеры запускаются менее чем за секунду благодаря собственной среде выполнения и планировщику.
- 02Распределяет нагрузку между сотнями контейнеров параллельно.
- 03При простое масштабируется до нуля; автоматическое масштабирование учитывает длину очереди.
- 04Предоставляет изолированные песочницы для выполнения кода.
- 05Поддерживает фоновые задачи с повторными попытками, задачи по расписанию и вебхуки.
- 06Работает на GPU в облаке Beam или на собственных GPU.
Сценарии использования
- Обслуживание пользовательской модели машинного обучения через автоматически масштабируемый API endpoint.
- Запуск кода, сгенерированного LLM, в изолированных песочницах.
- Замена очереди Celery отказоустойчивой обработкой фоновых задач.
- Запуск пакетных GPU-задач по запросу, например тонкой настройки моделей или обработки изображений.
Быстрый старт
- 1
Установите клиент Beam
pip install beam-client - 2
Создайте аккаунт Beam
- 3
Следуйте руководству Getting Started Guide, чтобы начать работу
Что важно знать
- Распространяется по лицензии AGPL-3.0 — лицензии с авторским левом, требующей раскрывать исходный код при использовании по сети.
- Для самостоятельного хостинга потребуется собственная инфраструктура; для удобства в README предлагается управляемое облако Beam.
- Для быстрого старта необходимо создать аккаунт на платформе Beam.
Темы
Частые вопросы
- Что такое beta9?
- Открытый runtime на Go и Python для бессерверных AI-нагрузок: GPU-инференс, изолированные песочницы и фоновые задачи. Beta9 — открытый runtime для развёртывания и масштабирования AI-приложений без управления серверами. Разработчики оборачивают Python-функции декораторами, например @endpoint или @task_queue, а платформа запускает их в контейнерах, которые стартуют за считаные секунды, масштабируются до нуля в простое и при необходимости распределяют нагрузку между множеством контейнеров.
- beta9 можно использовать бесплатно? Какая у него лицензия?
- beta9 распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- beta9 всё ещё поддерживается?
- Активно поддерживается. Последний коммит в beta9 — 19 окт. 2026 г..
- Для чего можно использовать beta9?
- Обслуживание пользовательской модели машинного обучения через автоматически масштабируемый API endpoint. Запуск кода, сгенерированного LLM, в изолированных песочницах. Замена очереди Celery отказоустойчивой обработкой фоновых задач. Запуск пакетных GPU-задач по запросу, например тонкой настройки моделей или обработки изображений.
- Как установить beta9?
- Установите клиент Beam: pip install beam-client Создайте аккаунт Beam Следуйте руководству Getting Started Guide, чтобы начать работу
- Где скачать beta9?
- Исходный код и инструкции по установке — на GitHub: https://github.com/beam-cloud/beta9
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Open source-платформа для полного цикла разработки и развёртывания моделей машинного обучения с API для Python и C++.
Ray — единый фреймворк для масштабирования приложений на Python и ИИ: от ноутбука до кластера, с распределённой средой выполнения и библиотеками для ИИ.
Минималистичный фреймворк для глубокого обучения с API тензоров в стиле PyTorch, autograd, компилятором и поддержкой множества ускорителей.
Библиотека для обмена данными между GPU при dispatch и combine в MoE с expert parallelism: поддерживает FP8, NVLink и RDMA для обучения и инференса.
Офлайн-фреймворк инференса с открытым исходным кодом от DeepSeek для запуска DeepSeek-V4.1-Flash на NVIDIA SM100 и Huawei Ascend 950.