量子化なしで、レイヤー単位に大規模言語モデルを実行し、70Bクラスのモデルを4GB GPU 1枚で推論できるPythonライブラリ。
3.9万4026Jupyter NotebookApache-2.0更新 昨日
#chinese-llm
「chinese-llm」に関するオープンソースプロジェクト
chinese-llm に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
#chinese-llm
chinese-llm に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。