Fable 5 accelera llama.cpp un 64,5%? Com funciona la prova
Una prova amb Fable 5 passa de 1.143 a 1.880 tokens/s en llama.cpp. Expliquem les dues millores útils, els dos fracassos i els límits.
Tema
Resums de vídeos per entendre millor aquest tema.
Una prova amb Fable 5 passa de 1.143 a 1.880 tokens/s en llama.cpp. Expliquem les dues millores útils, els dos fracassos i els límits.