Repolode
Kocoro-lab

Kocoro-lab/Shannon

Temporal 워크플로와 토큰 예산을 활용해 프로덕션에서 LLM 에이전트를 실행하는 Go, Rust, Python 기반 멀티 에이전트 오케스트레이션 프레임워크입니다.

스타
2,316
포크
361
열린 이슈
8
마지막 커밋
2개월 전

어떤 프로젝트인가요?

Shannon은 프로덕션에서 AI 에이전트를 안정적으로 실행하기 위한 멀티 에이전트 오케스트레이션 프레임워크입니다. 작업은 REST API, OpenAI 호환 엔드포인트, Python SDK 또는 데스크톱 앱을 통해 제출되며, 작업의 복잡도에 따라 단일 에이전트의 간단한 응답, DAG fan-out/fan-in, ReAct 루프, 리서치, tree-of-thoughts 탐색, 스웜 팀 등 여러 실행 전략 중 하나로 라우팅됩니다.

이 시스템은 내결함성을 위해 Temporal에서 워크플로를 실행하며, 디버깅을 위해 이전 실행을 재생할 수 있습니다. 작업별 토큰 예산을 설정할 수 있으며, 한도에 가까워지면 더 저렴한 모델로 자동 전환됩니다. 코드는 WASI 샌드박스에서 실행되며, 선택적으로 사람의 승인이 필요한 게이트를 설정해 결정을 제출할 때까지 워크플로를 일시 중지할 수 있습니다. 메트릭과 트레이싱에는 Prometheus와 OpenTelemetry를 사용합니다.

Shannon은 Anthropic, OpenAI, Google, DeepSeek, xAI, Groq와 Ollama, LM Studio 또는 vLLM을 통한 로컬 모델을 지원합니다. Docker Compose로 배포하며, 예약 작업, 세션 연속성, YAML과 Markdown으로 정의할 수 있는 스킬도 포함합니다.

핵심 기능

  • 01작업 복잡도에 따라 여러 실행 전략을 자동으로 선택
  • 02디버깅을 위해 이전 실행을 재생할 수 있는 Temporal 워크플로
  • 03작업별 토큰 예산과 자동 모델 전환
  • 04코드 실행용 WASI 샌드박스와 선택적 사람 승인 게이트
  • 05OpenAI 호환 API 엔드포인트, Python SDK, 데스크톱 앱
  • 06Ollama와 vLLM을 통한 로컬 모델을 포함한 다양한 LLM 제공자 지원

활용 사례

  • 비용 한도를 두고 여러 단계로 진행되는 리서치나 분석 작업 실행
  • 에이전트가 민감한 작업을 수행하기 전에 승인 단계 추가
  • 기존 OpenAI SDK 코드가 자체 호스팅 에이전트 백엔드를 사용하도록 설정
  • 일일 시장 분석과 같은 반복 에이전트 작업 예약

빠른 시작

  1. 1

    README의 원클릭 설치 스크립트를 실행합니다(bash로 파이프되므로 먼저 내용을 확인하세요).

  2. 2

    Python SDK를 설치합니다.

    pip install shannon-sdk
  3. 3

    REST API를 통해 첫 번째 작업을 제출합니다.

    curl -X POST http://localhost:8080/api/v1/tasks -H "Content-Type: application/json" -d '{"query": "What is the capital of France?", "session_id": "demo"}'

사용 전 알아둘 점

  • Docker와 Docker Compose, 그리고 하나 이상의 LLM 제공업체 API 키가 필요합니다.
  • 원클릭 설치는 원격 스크립트를 bash로 파이프해 실행합니다.
  • 선택 사항인 Playwright 브라우저 서비스를 추가하면 약 3.4GB의 이미지가 추가됩니다.

포함된 컬렉션

토픽

자주 묻는 질문

Shannon은(는) 무엇인가요?
Temporal 워크플로와 토큰 예산을 활용해 프로덕션에서 LLM 에이전트를 실행하는 Go, Rust, Python 기반 멀티 에이전트 오케스트레이션 프레임워크입니다. Shannon은 프로덕션에서 AI 에이전트를 안정적으로 실행하기 위한 멀티 에이전트 오케스트레이션 프레임워크입니다. 작업은 REST API, OpenAI 호환 엔드포인트, Python SDK 또는 데스크톱 앱을 통해 제출되며, 작업의 복잡도에 따라 단일 에이전트의 간단한 응답, DAG fan-out/fan-in, ReAct 루프, 리서치, tree-of-thoughts 탐색, 스웜 팀 등 여러 실행 전략 중 하나로 라우팅됩니다.
Shannon은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
Shannon은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
Shannon은(는) 아직 유지보수되고 있나요?
6개월 이내 업데이트. Shannon의 마지막 커밋은 2026년 9월 5일입니다.
Shannon은(는) 어디에 사용할 수 있나요?
비용 한도를 두고 여러 단계로 진행되는 리서치나 분석 작업 실행 에이전트가 민감한 작업을 수행하기 전에 승인 단계 추가 기존 OpenAI SDK 코드가 자체 호스팅 에이전트 백엔드를 사용하도록 설정 일일 시장 분석과 같은 반복 에이전트 작업 예약
Shannon는 어떻게 설치하나요?
README의 원클릭 설치 스크립트를 실행합니다(bash로 파이프되므로 먼저 내용을 확인하세요). Python SDK를 설치합니다.: pip install shannon-sdk REST API를 통해 첫 번째 작업을 제출합니다.: curl -X POST http://localhost:8080/api/v1/tasks -H "Content-Type: application/json" -d '{"query": "What is the capital of France?", "session_id": "demo"}'
Shannon은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Kocoro-lab/Shannon

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트