Repolode
Предложить
aws-solutions

aws-solutions/generative-ai-application-builder-on-aws

Решение от AWS для развертывания веб-панели, в которой можно создавать, сравнивать и готовить к эксплуатации сценарии генеративного ИИ с чатами и агентами на Amazon Bedrock и SageMaker AI.

Открыть на GitHubСайт
Звёзды
358
Форки
139
Открытые issues
13
Последний коммит
16 дней назад

Что это?

Generative AI Application Builder on AWS — готовое к развертыванию решение с веб-панелью для администраторов, в которой можно создавать, настраивать и сравнивать сценарии использования генеративного ИИ. Каждый сценарий развертывается в отдельном стеке CloudFormation. Команды могут параллельно проверять разные сочетания LLM и настроек, прежде чем запускать выбранный вариант в production.

Текущая версия поддерживает сценарии чатов, в том числе интерфейс чат-бота, который может искать ответы в корпоративных данных через базу знаний. Среди поддерживаемых источников знаний — Amazon Kendra и Knowledge Bases for Amazon Bedrock. LLM можно размещать на Amazon Bedrock или Amazon SageMaker AI. В сценариях с агентами запросы отправляются настроенному Amazon Bedrock Agent. Для собственных пользовательских решений доступен API.

Проект написан на TypeScript с использованием AWS CDK и включает веб-панели и чат-интерфейсы на React, собранные с помощью Vite. Развертывание выполняется командой `cdk deploy` или с помощью собственной сборки, которая загружает подготовленные ресурсы в S3.

Ключевые возможности

  • 01Веб-панель для развертывания и сравнения нескольких сценариев использования LLM
  • 02Чат-интерфейс с базами знаний на основе Amazon Kendra или Knowledge Bases for Amazon Bedrock
  • 03Интеграция с Amazon Bedrock и Amazon SageMaker AI в качестве провайдеров LLM
  • 04Поддержка сценариев использования Amazon Bedrock Agent
  • 05Панели CloudWatch для отслеживания метрик нескольких LLM
  • 06Модульные вложенные стеки CloudFormation с возможностью развертывания в VPC

Сценарии использования

  • Пилотный запуск внутреннего чат-бота, который отвечает на вопросы по корпоративным документам в AWS
  • Сравнение нескольких базовых моделей на одном сценарии, прежде чем выбрать модель для production
  • Предоставление нетехническим командам управляемого интерфейса для запуска и настройки ИИ-ассистентов
  • Создание собственного интерфейса или интеграции поверх предоставленного Chat API

Быстрый старт

  1. 1

    Установите необходимые компоненты (Docker, Node.js 20.x, CDK v2.118.0, Python 3.13.x, AWS CLI, jq)

  2. 2

    Настройте учетные данные AWS CLI, затем при необходимости выполните начальную настройку CDK для своей учетной записи и региона

    cdk bootstrap
  3. 3

    Разверните решение с помощью CDK

    cdk deploy

Что важно знать

  • Требуется учетная запись AWS. После развертывания взимается плата за использование сервисов AWS.
  • Развернутые сценарии использования зависят от доступности сервисов AWS. Доступ к моделям Amazon Bedrock необходимо запросить заранее.
  • Для настройки требуются несколько предварительных компонентов и знание AWS CDK и CloudFormation.

В подборках

AI-чатботы и клиенты для чата

Темы

#generative-ai#aws#bedrock#chatbot#rag#llm#cloudformation#cdk#llms#retrieval-augmented-generation

Частые вопросы

Что такое generative-ai-application-builder-on-aws?
Решение от AWS для развертывания веб-панели, в которой можно создавать, сравнивать и готовить к эксплуатации сценарии генеративного ИИ с чатами и агентами на Amazon Bedrock и SageMaker AI. Generative AI Application Builder on AWS — готовое к развертыванию решение с веб-панелью для администраторов, в которой можно создавать, настраивать и сравнивать сценарии использования генеративного ИИ. Каждый сценарий развертывается в отдельном стеке CloudFormation. Команды могут параллельно проверять разные сочетания LLM и настроек, прежде чем запускать выбранный вариант в production.
generative-ai-application-builder-on-aws можно использовать бесплатно? Какая у него лицензия?
generative-ai-application-builder-on-aws распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
generative-ai-application-builder-on-aws всё ещё поддерживается?
Активно поддерживается. Последний коммит в generative-ai-application-builder-on-aws — 6 окт. 2026 г..
Для чего можно использовать generative-ai-application-builder-on-aws?
Пилотный запуск внутреннего чат-бота, который отвечает на вопросы по корпоративным документам в AWS Сравнение нескольких базовых моделей на одном сценарии, прежде чем выбрать модель для production Предоставление нетехническим командам управляемого интерфейса для запуска и настройки ИИ-ассистентов Создание собственного интерфейса или интеграции поверх предоставленного Chat API
Как установить generative-ai-application-builder-on-aws?
Установите необходимые компоненты (Docker, Node.js 20.x, CDK v2.118.0, Python 3.13.x, AWS CLI, jq) Настройте учетные данные AWS CLI, затем при необходимости выполните начальную настройку CDK для своей учетной записи и региона: cdk bootstrap Разверните решение с помощью CDK: cdk deploy
Где скачать generative-ai-application-builder-on-aws?
Исходный код и инструкции по установке — на GitHub: https://github.com/aws-solutions/generative-ai-application-builder-on-aws

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты