Um guard em Python apenas com numpy que detecta, durante o streaming, corrupção na decodificação de LLMs, como loops de repetição e deriva de idioma, e aborta antes que o usuário veja tokens ruins.
10115PythonApache-2.0Atualizado há 28 dias
#online-learning
Repositórios do GitHub selecionados relacionados a online-learning, com resumos de IA e métricas principais.
Um guard em Python apenas com numpy que detecta, durante o streaming, corrupção na decodificação de LLMs, como loops de repetição e deriva de idioma, e aborta antes que o usuário veja tokens ruins.