11°

Reels · 2 de 16

46 s

Reel · 46 s

Más bits donde duele: cuanticé un Qwen3.8-27B a la medida de mi 4070 Ti

En 45 segundos: por qué el modelo que cabe es más tonto, cómo el dial reparte los bits capa por capa, y el 94 % de fidelidad que entra en 16 GB donde el Q4 no.

Duración
46 s
Publicado

Cuantizaciónllama.cppGGUFGPUModelos de lenguaje

Este reel resume Más bits donde duele: cuanticé un Qwen3.8-27B a la medida de mi 4070 Ti, donde están el método, las tablas y lo que no funcionó.

Leer el artículoAbrir en el visualizador