Лаунчер и сборка llama.cpp с патчами для запуска 1,58-битной модели Ternary Bonsai 2 27B с контекстом 262k на NVIDIA GPU с 12 и 8 ГБ памяти.
826PythonOtherОбновлён 19 часов назад
#ternary
Отобранные репозитории GitHub по теме ternary с описаниями от ИИ и ключевыми метриками.
Лаунчер и сборка llama.cpp с патчами для запуска 1,58-битной модели Ternary Bonsai 2 27B с контекстом 262k на NVIDIA GPU с 12 и 8 ГБ памяти.