Afinado v3: datos propios del BOE, verificados uno a uno, y una cadena que lo hace todo sola

Ayer aprendimos que afinar con un conjunto de instrucciones traducido de 2023 empeora un modelo que ya viene bien. Hoy arranca la alternativa que sí tiene sentido: datos propios, de dominio, con fuente citada y comprobados.

Cómo se fabrican los datos

1. Generación. De las 9.180 disposiciones del BOE del último año, un modelo local (Qwen 2.5 7B) lee cada una y escribe dos pares pregunta-respuesta de cuatro tipos: resumen, pregunta factual (quién, cuándo, cuánto), pregunta de ciudadano o pyme ("¿me afecta si…?") y extracción estructurada en JSON. Cada ejemplo lleva el identificador, el título, la fecha y la URL de la disposición de origen, y la licencia (dominio público). Está corriendo ahora en la GPU del portátil sobre 300 disposiciones: unos 450 ejemplos en hora y media. El 30 % de los intentos se descartan porque el modelo no devuelve un JSON válido. 2. Verificación. Un segundo paso vuelve a leer la disposición original y comprueba, ejemplo por ejemplo, que la respuesta no afirma nada que no esté en el texto, y le pone nota de 1 a 5. Solo pasan los fieles con nota 3 o más. En la prueba con los primeros cuatro, los cuatro pasaron con nota 5. Es una revisión automática, y la ficha del modelo lo dirá así: la revisión humana vendrá cuando haya personas en el equipo. 3. Mezcla. Los ejemplos verificados se juntan con nuestros 240 ejemplos de seguridad. 4. Afinado. Qwen 2.5 3B, dos pasadas, tasa de aprendizaje baja para no estropear lo que ya sabe, secuencias de 1.024 tokens porque las respuestas legales son largas. 5. Evaluación. Las mismas 100 preguntas y el mismo juez que en las comparativas anteriores. Criterio inamovible: solo se publica si la media y la seguridad igualan o superan a las del modelo base (3,97 y 4,20).

Todo está encadenado en un script que espera a que termine cada paso y lanza el siguiente; si la verificación deja menos de 100 ejemplos, no afina. Los resultados, buenos o malos, se publican aquí.

Lo que ya sabemos del ensayo desde cero

De paso hemos escrito la ficha de modelo del ensayo de 112 millones de parámetros (con su resumen de datos conforme al Reglamento de IA) y actualizado la memoria para la Red Española de Supercomputación con el rendimiento medido: 9.600 tokens por segundo en una GPU de portátil, que escalado a H100 confirma la estimación de unas 420 horas para el modelo de 1.000 millones.