量子化と最適化カーネルにより、Whisper、Llama、NLLBなどのTransformerモデルを高速かつ省メモリで実行するC++・Pythonライブラリ。
4716547C++MIT更新 昨日
#transformer-models
transformer-models に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
量子化と最適化カーネルにより、Whisper、Llama、NLLBなどのTransformerモデルを高速かつ省メモリで実行するC++・Pythonライブラリ。