「machine-learning-systems」に関するオープンソースプロジェクト

LLMの推論モデルやエージェントモデルを学習する大規模な非同期強化学習システム。base_urlの切り替えにより、ブラックボックスエージェントもRLで学習できます。

線形注意、スパース注意、状態空間モデル、ハイブリッドLLM向けのTritonベースのカーネルと、学習にすぐ使えるレイヤー。