Code Needle: el test que destapa les al·lucinacions dels LLM locals en codi
Alex Ziskind crea un benchmark de recuperació literal sobre codi real. La dada reveladora no és només quantes línies encerta cada model, sinó quantes se n’inventa.
Tema
Resums de vídeos per entendre millor aquest tema.
Alex Ziskind crea un benchmark de recuperació literal sobre codi real. La dada reveladora no és només quantes línies encerta cada model, sinó quantes se n’inventa.
Una prova amb problemes de doctorat revela límits de quota, respostes incompletes i un test de Python que confirma una fórmula de manera circular.