「mobile-inference」に関するオープンソースプロジェクト

スマートフォン、ウェアラブル、スマートホーム機器、ロボットでLLM・音声・画像モデルを実行するためのC++推論エンジン兼ランタイム。

MetaのExecuTorchランタイムを基盤とする、ネットワーク通信なしでスマートフォン上で機械学習モデルを実行できるReact Nativeライブラリ。