StanfordSpezi/SpeziLLM

어떤 프로젝트인가요?

핵심 기능

• 01Swift API를 통해 Apple 기기에서 오픈소스 LLM을 로컬로 실행합니다.
• 02함수 호출용 선언형 DSL로 OpenAI GPT 모델을 호출합니다.
• 03Bonjour를 통해 로컬 네트워크의 Fog 노드를 검색하고 추론 작업을 전달합니다.
• 04Hugging Face에서 로컬 모델을 가져오는 다운로드 관리자와 온보딩 뷰를 제공합니다.
• 05LLM 대화에 바로 사용할 수 있는 SwiftUI 채팅 뷰를 포함합니다.

활용 사례

• Spezi 기반 iOS 또는 macOS 앱에 온디바이스 챗봇을 추가합니다.
• 도구 방식의 함수 호출로 OpenAI 모델을 사용하는 SwiftUI 앱을 만듭니다.
• 모바일 앱에서 로컬 네트워크 내 연구실 또는 진료소 하드웨어로 추론을 실행합니다.

빠른 시작

1. 1

   Xcode에서 또는 Swift package dependency로 SpeziLLM Swift package를 앱에 추가하세요

2. 2

   필요한 개별 타깃(예: SpeziLLMLocal 또는 SpeziLLMOpenAI)의 설정 단계를 따르세요

사용 전 알아둘 점

• !Spezi LLM Local은 최신 Metal GPU가 필요하므로 시뮬레이터에서 실행되지 않습니다.
• !일부 로컬 모델에는 Increase Memory Limit entitlement가 필요합니다.
• !OpenAI 타깃은 OpenAI의 API 서비스에 의존하며 인증 토큰이 필요합니다.

포함된 컬렉션

토픽

자주 묻는 질문

SpeziLLM은(는) 무엇인가요?

Spezi 생태계용 LLM 모듈을 제공하는 Swift 패키지로, 온디바이스 모델, OpenAI, Fog 노드 추론을 지원합니다. SpeziLLM은 Spezi 프레임워크로 만든 Apple 플랫폼 앱에 대규모 언어 모델 기능을 추가하는 Swift 패키지입니다. 여러 타깃으로 구성되어 있습니다. 기본 SpeziLLM runner, Llama·Phi·Gemma·DeepSeek-R1 같은 오픈소스 모델을 기기에서 직접 실행하는 SpeziLLMLocal, 온보딩 뷰와 함께 Hugging Face에서 모델을 가져오는 SpeziLLMLocalDownload, OpenAI GPT 모델을 호출하는 SpeziLLMOpenAI, 로컬 네트워크의 fog 노드에 추론 작업을 전달하는 SpeziLLMFog가 있습니다.

SpeziLLM은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

SpeziLLM은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

SpeziLLM은(는) 아직 유지보수되고 있나요?

6개월 이내 업데이트. SpeziLLM의 마지막 커밋은 2026년 9월 27일입니다.

SpeziLLM은(는) 어디에 사용할 수 있나요?

Spezi 기반 iOS 또는 macOS 앱에 온디바이스 챗봇을 추가합니다. 도구 방식의 함수 호출로 OpenAI 모델을 사용하는 SwiftUI 앱을 만듭니다. 모바일 앱에서 로컬 네트워크 내 연구실 또는 진료소 하드웨어로 추론을 실행합니다.

SpeziLLM는 어떻게 설치하나요?

Xcode에서 또는 Swift package dependency로 SpeziLLM Swift package를 앱에 추가하세요 필요한 개별 타깃(예: SpeziLLMLocal 또는 SpeziLLMOpenAI)의 설정 단계를 따르세요

SpeziLLM은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/StanfordSpezi/SpeziLLM