Dominio
Asistente educativo de preguntas frecuentes de clientes de una corredora de bolsa en Chile (caso: Renta 4 Wealth):
fondos mutuos y money market, perfil de inversionista, apertura de cuenta y KYC, acciones, renta fija y depósitos a plazo,
APV y tributación. Explica conceptos y procesos; no entrega recomendaciones de inversión.
Datos de entrenamiento
- 240 pares pregunta-respuesta en español generados por un LLM profesor (
gpt-6-luna, API de OpenAI)
con un prompt de cumplimiento (versión v3 de tres probadas), revisados por muestreo.
- Examen fijo de 30 preguntas (5 por tema) que nunca se usó para entrenar.
- Los datos no se publican en este repositorio.
Entrenamiento
SFT con LoRA (r = 16, alpha = 32, módulos down_proj, gate_proj, k_proj, o_proj, q_proj, up_proj, v_proj),
3 épocas, tasa de aprendizaje 0.0005, lote 4, en CPU (MacBook Air M5).
Resultados en el examen fijo (juez: LLM con rúbrica 1–10, 7 = aceptable)
Table with columns: Antes (modelo base), Después (este adaptador) | Antes (modelo base) | Después (este adaptador) |
|---|
| Nota media | 2.77 | 3.87 |
| Aprobación (≥ 7) | 7% | 10% |
Table with columns: Tema, Antes, Después| Tema | Antes | Después |
|---|
| APV y tributación de inversiones | 1.20 | 2.80 |
| Acciones y bolsa chilena | 3.80 | 3.40 |
| Apertura de cuenta y conozca a su cliente | 3.20 | 3.80 |
| Fondos mutuos y money market | 3.20 | 4.80 |
| Perfil de inversionista y riesgo | 3.00 | 4.60 |
| Renta fija y depósitos a plazo | 2.20 | 3.80 |
Auditoría manual de 10 ítems: el juez coincide con la calificación humana dentro de ±1 punto en 9 de 10, con un sesgo
leve hacia arriba. Detalle en el informe del taller.
Uso
from transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModel base = "Qwen/Qwen2.5-0.5B-Instruct"tok = AutoTokenizer.from_pretrained(base)model = PeftModel.from_pretrained(AutoModelForCausalLM.from_pretrained(base), "gdelacasa/r4w-faq-qwen05b-lora")msgs = [{"role": "system", "content": "Eres el asistente de preguntas frecuentes de Renta 4 Wealth Chile. Responde en español, de forma clara, breve y educativa."}, {"role": "user", "content": "¿Qué diferencia hay entre un fondo money market y un depósito a plazo?"}]enc = tok.apply_chat_template(msgs, add_generation_prompt=True, return_dict=True, return_tensors="pt")out = model.generate(**enc, max_new_tokens=150, do_sample=False, repetition_penalty=1.15)print(tok.decode(out[0][enc["input_ids"].shape[1]:], skip_special_tokens=True))
Limitaciones y uso responsable
- Modelo académico de 0,5 B parámetros: aprende el tono del profesor mejor que el contenido. Inventa siglas y cifras
(p. ej. un «recargo de 300 UF» que no existe) y confunde conceptos cercanos. Solo alrededor del 10% de sus respuestas
alcanza el umbral de 7.
- Fuera del dominio responde como si fuera una corredora y pierde conocimiento general del modelo base.
- No usar para asesoría financiera ni para decisiones reales. Las cifras normativas (topes del APV, plazos) cambian.
- No representa a Renta 4 ni ha sido revisado por ella; el nombre se usa solo como caso de estudio.
- Licencia del adaptador: Apache 2.0 (la del modelo base). Los datos los generó un LLM comercial: revise los términos del
proveedor antes de cualquier uso no educativo.