StanfordSpezi/SpeziLLM

これは何？

主な機能

• 01Swift APIを通じて、Appleデバイス上でオープンソースLLMをローカル実行します。
• 02function calling向けの宣言的DSLを使って、OpenAI GPTモデルを呼び出せます。
• 03Bonjour経由でローカルネットワーク上のFogノードを検出し、推論を振り分けます。
• 04Hugging Faceから取得したローカルモデル向けに、ダウンロードマネージャーとオンボーディング画面を提供します。
• 05LLMとの会話に使える、すぐに利用可能なSwiftUIチャット画面が含まれています。

ユースケース

• Speziで構築したiOSまたはmacOSアプリに、オンデバイスのチャットボットを追加する。
• tool形式のfunction callingでOpenAIモデルを呼び出すSwiftUIアプリを構築する。
• モバイルアプリから、ローカルネットワーク内の研究室や診療所のハードウェアで推論を実行する。

クイックスタート

1. 1

   Xcodeで、またはSwift package dependencyとして、SpeziLLM Swift packageをアプリに追加します

2. 2

   必要な個別のターゲット（例: SpeziLLMLocal、SpeziLLMOpenAI）のセットアップ手順に従います

使う前に知っておきたいこと

• !Spezi LLM Localは最新のMetal GPUを必要とするため、シミュレータでは実行できません。
• !一部のローカルモデルでは、Increase Memory Limit entitlementが必要です。
• !OpenAIターゲットはOpenAIのAPIサービスに依存しており、認証トークンが必要です。

収録されている特集

トピック

よくある質問

SpeziLLM とは？

Speziエコシステム向けのLLM用Swiftパッケージ。オンデバイスモデル、OpenAI、Fogノードでの推論に対応。 SpeziLLMは、Speziフレームワークで構築されたAppleプラットフォーム向けアプリに、大規模言語モデルの機能を追加するSwift Packageです。複数のターゲットで構成されており、基本となるSpeziLLM runner、Llama、Phi、Gemma、DeepSeek-R1などのオープンソースモデルをデバイス上で直接実行するSpeziLLMLocal、オンボーディング画面とともにHugging Faceからモデルを取得するSpeziLLMLocalDownload、OpenAI GPTモデルを呼び出すSpeziLLMOpenAI、ローカルネットワーク上のFogノードに推論ジョブを振り分けるSpeziLLMFogがあります。

SpeziLLM は無料で使えますか？ライセンスは？

SpeziLLM は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

SpeziLLM は今もメンテナンスされていますか？

半年以内に更新あり。SpeziLLM の最終コミットは 2026年9月27日 です。

SpeziLLM は何に使えますか？

Speziで構築したiOSまたはmacOSアプリに、オンデバイスのチャットボットを追加する。 tool形式のfunction callingでOpenAIモデルを呼び出すSwiftUIアプリを構築する。 モバイルアプリから、ローカルネットワーク内の研究室や診療所のハードウェアで推論を実行する。

SpeziLLM のインストール方法は？

Xcodeで、またはSwift package dependencyとして、SpeziLLM Swift packageをアプリに追加します 必要な個別のターゲット（例: SpeziLLMLocal、SpeziLLMOpenAI）のセットアップ手順に従います

SpeziLLM はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/StanfordSpezi/SpeziLLM