Generated-Computers/Locals

어떤 프로젝트인가요?

핵심 기능

• 01여러 에이전트 요청을 GPU의 한 번의 처리에 함께 묶는 배치 디코딩.
• 02도구 스키마에 따라 도구 호출을 제한해 인수가 해당 타입과 일치하도록 합니다.
• 03대화 턴과 재시작 후에도 유지되는 프롬프트 및 대화 캐싱.
• 04OpenAI, Anthropic, Ollama API와 호환됩니다.
• 05OpenCode, Aider, Cline, OpenHands, Claude Code 등을 한 번의 명령으로 실행합니다.
• 06프로젝트를 격리된 복사본으로 나누어 각 작업을 테스트하는 멀티 에이전트 `locals run` 모드.

활용 사례

• 코드를 클라우드 API로 보내지 않고 Mac에서 여러 코딩 에이전트를 병렬로 실행.
• 노트북에서 실행되는 모델을 사용해 OpenCode 또는 Aider로 로컬 프로젝트 작업.
• Cline이나 Roo Code 같은 편집기 확장에 로컬 OpenAI 호환 엔드포인트 제공.
• 길고 캐시된 컨텍스트를 활용해 대규모 코드베이스나 문서에 대해 질문.

빠른 시작

1. 1

   README에 있는 공식 설치 스크립트를 실행하세요

2. 2

   또는 uv를 사용해 PyPI에서 설치하세요

   uv tool install --python 3.12 locals
3. 3

   새 Terminal 창을 열고 프로젝트에서 OpenCode를 실행하세요

   locals code ~/my-project

사용 전 알아둘 점

• !Apple silicon이 탑재된 macOS에서만 실행됩니다.
• !Flint를 실행하려면 메모리가 24 GB 이상 필요하며, Flint의 최신 릴리스는 아직 PyPI에 올라오지 않았습니다.
• !일부 칩(M1, M3, M4)은 아직 벤치마크되지 않았습니다.

포함된 컬렉션

토픽

자주 묻는 질문

Locals은(는) 무엇인가요?

macOS Apple silicon용 로컬 추론 서버로, 배치 디코딩과 문법 제약 도구 호출을 통해 여러 AI 코딩 에이전트를 동시에 지원합니다. Locals는 일반적인 채팅보다 에이전트에 맞게 설계된 Mac용 로컬 모델 서버입니다. 에이전트는 도구 호출, 긴 대화, 다수의 병렬 요청을 보내며, Locals는 배치 GPU 커널, 각 도구의 스키마로 제한되는 도구 호출 출력, 여러 대화 턴과 재시작을 거쳐 유지되는 프롬프트 캐시로 이를 처리합니다. README에 따르면 M2 Pro 16 GB에서 Qwen3.5-4B를 사용해 요청 8개를 동시에 실행할 때 mlx-lm보다 최대 3배 높은 처리량을 보입니다.

Locals은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

Locals은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

Locals은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. Locals의 마지막 커밋은 2026년 11월 7일입니다.

Locals은(는) 어디에 사용할 수 있나요?

코드를 클라우드 API로 보내지 않고 Mac에서 여러 코딩 에이전트를 병렬로 실행. 노트북에서 실행되는 모델을 사용해 OpenCode 또는 Aider로 로컬 프로젝트 작업. Cline이나 Roo Code 같은 편집기 확장에 로컬 OpenAI 호환 엔드포인트 제공. 길고 캐시된 컨텍스트를 활용해 대규모 코드베이스나 문서에 대해 질문.

Locals는 어떻게 설치하나요?

README에 있는 공식 설치 스크립트를 실행하세요 또는 uv를 사용해 PyPI에서 설치하세요: uv tool install --python 3.12 locals 새 Terminal 창을 열고 프로젝트에서 OpenCode를 실행하세요: locals code ~/my-project

Locals은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Generated-Computers/Locals