Modelo base y uso
Qwen/Qwen3-0.6B (Apache-2.0). Se usa con el chat template del modelo y enable_thinking=False, con este mensaje de sistema:
«Eres un asistente de soporte. Clasifica la incidencia del cliente y responde SOLO con un JSON, sin texto adicional, con esta forma: {"categoria": "...", "prioridad": "...", "respuesta": "..."} …» (texto exacto en common.py del repositorio de código).
Datos
100 % sintéticos y generados por plantillas (gen_data.py, semilla 7): 240 entrenamiento / 30 validación / 30 prueba, sin textos repetidos entre grupos. 5 categorías (facturacion, acceso_cuenta, error_tecnico, envio_pedido, consulta_producto) y 3 prioridades (alta, media, baja). Sin datos personales.
Entrenamiento
LoRA r=16, alpha=32, dropout=0,05, módulos all-linear; 3 épocas, batch 8, lr 2e-4 coseno, warmup 5 pasos, semilla 0, bf16; solo se calcula la pérdida sobre el completion. TRL SFTTrainer, PEFT, Transformers (versiones en entrenamiento.json). Una GPU RTX 5070 (12 GB), ≈1 minuto. Sin búsqueda de hiperparámetros.
Resultados (30 casos de prueba, salida original, validador estricto sin reparación)
Table with columns: Condición, JSON válido, Acierto categoría, Acierto prioridad| Condición | JSON válido | Acierto categoría | Acierto prioridad |
|---|
| Base + instrucciones | 30 % | 3 % | 17 % |
| Base + few-shot (6 ejemplos) | 100 % | 63 % | 67 % |
| Base + LoRA (este adaptador) | 100 % | 100 % | 100 % |
Limitaciones
- Los datos salen de plantillas con frases repetidas combinadas: el 100 % mide el patrón sintético, no generalización a incidencias reales. Con solo 30 casos de prueba la muestra es pequeña.
- La prioridad se deriva de frases de urgencia explícitas; no se ha probado con redacciones ambiguas.
- No usar para decisiones reales sobre clientes.