GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
Claudioxis
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
Claudioxis
Model Tree
Qwen/Qwen2.5-0.5B-Instruct
Input Modalities
Output Modalities
Supported Functionality
bash
pip install torch transformers==5.18.0python
import torchfrom transformers import AutoTokenizer, AutoModelForCausalLM repo = "Claudioxis/slm-qwen-0.5b-ia-generativa-chile"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.float32)model.eval()messages = [ {"role": "system", "content": "Eres un asistente experto en IA generativa. Responde en espa?ol, de forma clara y breve."}, {"role": "user", "content": "Explica qu? es un LLM con un ejemplo de una empresa chilena."},]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt")with torch.inference_mode(): outputs = model.generate(**inputs, max_new_tokens=120, do_sample=False, pad_token_id=tokenizer.eos_token_id)print(tokenizer.decode(outputs[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True))El repositorio incluye pesos completos, configuraci?n, tokenizer y plantilla de chat. Publicarlo no activa autom?ticamente un proveedor de inferencia alojado.
El adaptador LoRA original se conserva por separado. Se carg? sobre la base en FP32 y se fusion? con merge_and_unload(safe_merge=True) de PEFT. La fusi?n se comprob? comparando logits antes y despu?s en una entrada fija; los resultados de evaluaci?n siguientes pertenecen al experimento original y no son una reevaluaci?n del modelo fusionado.
No se redistribuyen los datos del profesor, ex?menes completos, documentos docentes ni credenciales. El dominio se conserva del kit del curso y no se presenta como un caso empresarial original.
60 ejemplos de entrenamiento y 12 preguntas de examen separados, en español. El profesor y juez constan en los registros originales como gpt-6-luna. Temas: fundamentos de LLM, ingeniería de prompts, RAG, agentes, ajuste fino y evaluación/LLMOps. No se utilizaron documentos privados de una empresa real según el informe de origen. Los datos y la auditoría fueron producidos/revisados con IA; no equivalen a revisión humana.
| Parámetro | Valor |
|---|---|
| Épocas / lote | 3 / 2 |
| Tasa de aprendizaje | 0,0001 |
| LoRA r / alpha / dropout | 16 / 32 / 0,05 |
| Módulos | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
| Semilla | 42 |
| Tokens máximos ejemplo / respuesta | 320 / 120 |
| Entorno registrado | Python 3.12, RTX 3070 Ti, CUDA, bfloat16 |
La configuración íntegra está en configuracion_entrenamiento.json. Las corridas anteriores con SmolLM2 son experimentos distintos y no forman parte de este adaptador.
Promedios recalculados desde los 12 registros de cada examen. Escala del juez LLM: 1–10, umbral aceptable del kit: 7. No son porcentajes de accuracy ni calificaciones académicas.
| Tema | n | Base | Con LoRA |
|---|---|---|---|
| Agentes de IA | 3 | 3,67 | 4,00 |
| Ajuste fino | 2 | 4,00 | 3,50 |
| Fundamentos de LLM | 2 | 3,00 | 4,00 |
| Ingeniería de prompts | 3 | 5,33 | 4,00 |
| RAG | 2 | 1,50 | 4,00 |
| Total | 12 | 3,67 | 3,92 |
Mejora media: +0,25 puntos. Ítems con nota ≥7: 1/12 antes y 0/12 después. No todos los temas mejoran. evaluacion_resumen.json conserva promedios sin redondear.
Limitaciones: muestra pequeña, juez estocástico que también produjo las referencias, examen reutilizado en selección de configuraciones y ausencia de preguntas de Evaluación/LLMOps. No hay demostración estadística de mejora ni evaluación humana independiente. El rendimiento fuera del examen puede ser peor.
En pruebas nuevas del informe original se observaron definiciones incorrectas de RAG y LoRA, y el producto 17×23 fue respondido como 401 por el modelo ajustado (correcto: 391). Puede alucinar, truncar respuestas, repetir y dar instrucciones inadecuadas. Verificar las respuestas con fuentes fiables. No usarlo como única base para decisiones legales, financieras, de contratación, seguridad o salud.
El entrenamiento y la evaluación originales fueron asistidos por IA. La auditoría incluida en la entrega es de IA y la validación personal del estudiante permanece separada. No se han medido aquí SLA, costo por consulta bajo carga ni ahorro total frente a una API comercial.
Apache-2.0. Se incluyen LICENSE y NOTICE con atribuci?n a Qwen Team / Alibaba Cloud y al trabajo acad?mico. Los pesos base se modificaron al integrar el adaptador LoRA de la corrida 06. La licencia del modelo no sustituye los t?rminos aplicables a los datos sint?ticos del profesor.
Publicaci?n y documentaci?n preparadas con asistencia de Codex. La auditor?a del trabajo original fue realizada por IA; no se atribuye una validaci?n humana que no se haya realizado.
import torchfrom transformers import AutoTokenizer, AutoModelForCausalLM repo = "Claudioxis/slm-qwen-0.5b-ia-generativa-chile"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.float32)model.eval()messages = [ {"role": "system", "content": "Eres un asistente experto en IA generativa. Responde en espa?ol, de forma clara y breve."}, {"role": "user", "content": "Explica qu? es un LLM con un ejemplo de una empresa chilena."},]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt")with torch.inference_mode(): outputs = model.generate(**inputs, max_new_tokens=120, do_sample=False, pad_token_id=tokenizer.eos_token_id)print(tokenizer.decode(outputs[0, inputs["input_ids"].shape[1]:], skip_special_tokens=True))