Repolode
제출하기
TokenRhythm

TokenRhythm/opensquilla

CLI, Web UI, 채팅 채널을 지원하며 각 요청을 처리할 수 있는 모델 중 가장 저렴한 모델로 라우팅하는 토큰 효율적인 마이크로커널 AI 에이전트입니다.

대체할 수 있는 제품:ChatGPT

GitHub에서 보기웹사이트
스타
7,081
포크
583
열린 이슈
271
마지막 커밋
2시간 전

어떤 프로젝트인가요?

OpenSquilla는 로컬에서 실행되며 다양한 LLM 제공업체와 통신하는 AI 에이전트입니다. SquillaRouter라는 로컬 모델 라우터가 각 요청의 길이, 언어, 코드, 키워드, 임베딩을 분류한 뒤 처리 가능한 모델 중 가장 저렴한 모델로 요청을 보냅니다. 분류는 기기에서 수행되므로 이 판단을 위해 프롬프트가 컴퓨터 밖으로 전송되지 않습니다.

Web UI, CLI와 Telegram, Slack, Discord, Feishu, DingTalk, WeCom, Matrix, QQ 같은 채팅 채널은 모두 동일한 요청 처리 루프를 사용하므로 도구 호출, 재시도, 로깅이 어디서나 동일하게 동작합니다. 영구 메모리는 선별된 MEMORY.md와 SQLite 전문 검색 및 sqlite-vec 의미 검색을 사용하며, 도구는 Linux의 Bubblewrap, macOS의 Seatbelt 또는 Windows 네이티브 백엔드로 격리됩니다.

프로젝트에는 필요할 때 불러오는 스킬, MCP 클라이언트 및 서버 지원, SQLite 기반 세션, cron 스타일 스케줄러, OpenClaw 또는 Hermes Agent에서 상태를 가져오는 마이그레이션 명령도 포함됩니다. Python 패키지로 배포되며 macOS와 Windows용 데스크톱 설치 프로그램도 제공됩니다.

핵심 기능

  • 01로컬 LightGBM 및 ONNX 분류기를 사용해 각 요청을 처리 가능한 모델 중 가장 저렴한 모델로 라우팅합니다.
  • 02OpenAI, Anthropic, Ollama, OpenRouter, DeepSeek를 포함해 20개 이상의 LLM 제공업체를 지원합니다.
  • 03하나의 요청 처리 루프를 공유하는 Web UI, CLI, 채팅 채널을 제공합니다.
  • 04키워드와 의미 임베딩으로 검색할 수 있는 영구 로컬 메모리를 유지합니다.
  • 05Standard, Strict, Locked 정책 단계로 구성된 다층 샌드박스에서 도구를 실행합니다.
  • 06웹 검색, 파일 및 셸 도구, MCP 클라이언트 및 서버 지원 기능을 기본 제공합니다.

활용 사례

  • 간단한 요청을 더 저렴한 모델로 보내 LLM API 비용을 줄이는 경우.
  • Telegram이나 Slack 같은 채팅 앱에서 응답하는 자체 호스팅 개인 비서를 운영하는 경우.
  • 자동화 워크플로를 위해 다른 MCP 클라이언트에 에이전트 세션을 제공하는 경우.
  • 기존 OpenClaw 또는 Hermes Agent 환경을 새로운 로컬 에이전트로 마이그레이션하는 경우.

빠른 시작

  1. 1

    uv 설치하기(Linux/macOS: README의 공식 설치 스크립트 실행)

  2. 2

    릴리스 wheel에서 uv를 사용해 OpenSquilla 설치하기

    uv tool install --python 3.12 "opensquilla[recommended] @ https://github.com/TokenRhythm/opensquilla/releases/download/v0.5.6/opensquilla-0.5.6-py3-none-any.whl"
  3. 3

    OpenSquilla 구성하기

    opensquilla onboard
  4. 4

    게이트웨이 시작하기

    opensquilla gateway run

사용 전 알아둘 점

  • 기본 설치에는 ONNX Runtime 및 LightGBM과 같은 용량이 큰 라우터 종속 항목이 포함되므로, 처음 설치할 때 상당한 다운로드가 필요합니다.
  • Windows와 macOS에서는 라우터에 Visual C++ Redistributable 또는 libomp 같은 네이티브 시스템 라이브러리가 필요할 수 있으며, 간편한 터미널 설치에는 이러한 라이브러리가 포함되지 않습니다.
  • 소스에서 빌드하려면 Git LFS와 npm이 포함된 Node.js 22.12 이상이 필요합니다.

토픽

#agent#llm#ai-agents#mcp#llm-routing#memory#sandbox#chatbot#ai#deep-learning

자주 묻는 질문

opensquilla은(는) 무엇인가요?
CLI, Web UI, 채팅 채널을 지원하며 각 요청을 처리할 수 있는 모델 중 가장 저렴한 모델로 라우팅하는 토큰 효율적인 마이크로커널 AI 에이전트입니다. OpenSquilla는 로컬에서 실행되며 다양한 LLM 제공업체와 통신하는 AI 에이전트입니다. SquillaRouter라는 로컬 모델 라우터가 각 요청의 길이, 언어, 코드, 키워드, 임베딩을 분류한 뒤 처리 가능한 모델 중 가장 저렴한 모델로 요청을 보냅니다. 분류는 기기에서 수행되므로 이 판단을 위해 프롬프트가 컴퓨터 밖으로 전송되지 않습니다.
opensquilla은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
opensquilla은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
opensquilla은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. opensquilla의 마지막 커밋은 2026년 10월 22일입니다.
opensquilla은(는) 어디에 사용할 수 있나요?
간단한 요청을 더 저렴한 모델로 보내 LLM API 비용을 줄이는 경우. Telegram이나 Slack 같은 채팅 앱에서 응답하는 자체 호스팅 개인 비서를 운영하는 경우. 자동화 워크플로를 위해 다른 MCP 클라이언트에 에이전트 세션을 제공하는 경우. 기존 OpenClaw 또는 Hermes Agent 환경을 새로운 로컬 에이전트로 마이그레이션하는 경우.
opensquilla는 어떻게 설치하나요?
uv 설치하기(Linux/macOS: README의 공식 설치 스크립트 실행) 릴리스 wheel에서 uv를 사용해 OpenSquilla 설치하기: uv tool install --python 3.12 "opensquilla[recommended] @ https://github.com/TokenRhythm/opensquilla/releases/download/v0.5.6/opensquilla-0.5.6-py3-none-any.whl" OpenSquilla 구성하기: opensquilla onboard 게이트웨이 시작하기: opensquilla gateway run
opensquilla은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/TokenRhythm/opensquilla

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트