Primer afinado en un portátil, y por qué no mejoró nada

Hemos afinado Salamandra 2B, el modelo abierto en español del Barcelona Supercomputing Center, con 52.000 instrucciones en español, usando QLoRA en una GPU portátil de 8 GB. 300 pasos, 93 minutos.

Resultado honesto

La pérdida de validación bajó de 0,665 a 0,568 y la precisión por token subió al 86,6 %, pero en nuestra batería de 20 preguntas en español el modelo afinado no es mejor que el original: en la pregunta sobre lenguas cooficiales de España se inventa más lenguas que la base.

Era lo esperable: pocos pasos, datos genéricos y un modelo pequeño. Lo importante hoy no era el resultado, sino que el pipeline completo funciona de punta a punta en una máquina modesta: datos, tokenizador, entrenamiento, evaluación y publicación. Ahora corre un afinado de 1.000 pasos; publicaremos la comparación.