量子化と最適化カーネルにより、Whisper、Llama、NLLBなどのTransformerモデルを高速かつ省メモリで実行するC++・Pythonライブラリ。
4716547C++MIT更新 昨日
#avx
「avx」に関するオープンソースプロジェクト
avx に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#avx
avx に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
量子化と最適化カーネルにより、Whisper、Llama、NLLBなどのTransformerモデルを高速かつ省メモリで実行するC++・Pythonライブラリ。