RunanywhereAI/runanywhere-sdks

어떤 프로젝트인가요?

핵심 기능

• 01LLM, VLM, 음성, TTS, 임베딩 및 diffusion 모델을 기기에서 로컬로 실행합니다.
• 02하드웨어에 따라 QHexRT, MLX, llama.cpp, sherpa/ONNX, Core ML 등의 엔진으로 추론을 라우팅합니다.
• 03Swift, Kotlin, Flutter, React Native, Web, Electron, Python에서 동일한 API를 제공합니다.
• 04구조화된 JSON 출력, 도구 호출, 로컬 문서 기반 RAG를 지원합니다.
• 05Python SDK의 OpenAI 호환 로컬 서버와 wally CLI를 제공합니다.

활용 사례

• 휴대폰에서 음성 인식, 로컬 LLM, 음성 합성을 실행하는 오프라인 음성 비서 구축
• 파일을 클라우드 API로 전송하지 않고 데스크톱 앱에 비공개 문서 질의응답 기능 추가
• 기존 클라이언트 코드에서 사용할 수 있도록 OpenAI 호환 엔드포인트 뒤에서 로컬 모델 제공
• 모바일 앱에서 카메라 기반 설명을 위해 온디바이스 비전-언어 모델 실행

빠른 시작

1. 1

   PyPI에서 Python 패키지를 설치합니다

   pip install runanywhere
2. 2

   SDK를 초기화하고 README의 Python 예제를 사용해 텍스트를 생성합니다(모델은 처음 사용할 때 다운로드됩니다)

사용 전 알아둘 점

• !라이선스는 표준 오픈소스 라이선스가 아니며 NOASSERTION으로 표시되어 있습니다. 상업적으로 사용하기 전에 LICENSE 파일을 확인하세요.
• !일부 기능은 플랫폼이나 백엔드에 따라 달라지며, CUDA는 선택적으로 활성화하는 소스 빌드입니다.
• !Electron 데스크톱 바인딩은 Windows를 우선 지원하며, 사전 빌드된 애드온은 win32-x64용으로만 제공됩니다.

포함된 컬렉션

토픽

자주 묻는 질문

runanywhere-sdks은(는) 무엇인가요?

iOS, Android, 웹, 데스크톱 및 서버에서 LLM, 음성, 비전, 이미지 모델을 완전히 온디바이스로 실행하는 크로스 플랫폼 SDK입니다. RunAnywhere는 Swift, Kotlin, Flutter, React Native, Web, Electron, Python 바인딩을 제공하는 C++ 코어입니다. 앱에서 서버로 데이터를 전송하지 않고 기기 자체에서 언어 모델, 비전-언어 모델, 음성-텍스트 변환, 텍스트-음성 변환, 음성 활동 감지, 임베딩, RAG, diffusion 기반 이미지 생성을 실행할 수 있습니다.

runanywhere-sdks은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

runanywhere-sdks은(는) Other 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

runanywhere-sdks은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. runanywhere-sdks의 마지막 커밋은 2026년 11월 5일입니다.

runanywhere-sdks은(는) 어디에 사용할 수 있나요?

휴대폰에서 음성 인식, 로컬 LLM, 음성 합성을 실행하는 오프라인 음성 비서 구축 파일을 클라우드 API로 전송하지 않고 데스크톱 앱에 비공개 문서 질의응답 기능 추가 기존 클라이언트 코드에서 사용할 수 있도록 OpenAI 호환 엔드포인트 뒤에서 로컬 모델 제공 모바일 앱에서 카메라 기반 설명을 위해 온디바이스 비전-언어 모델 실행

runanywhere-sdks는 어떻게 설치하나요?

PyPI에서 Python 패키지를 설치합니다: pip install runanywhere SDK를 초기화하고 README의 Python 예제를 사용해 텍스트를 생성합니다(모델은 처음 사용할 때 다운로드됩니다)

runanywhere-sdks은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/RunanywhereAI/runanywhere-sdks