GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
Claudioxis
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
Claudioxis
Model Tree
Qwen/Qwen2.5-0.5B-Instruct
Input Modalities
Output Modalities
Supported Functionality
06_espanol_qwen05_3ep: 35.237.104 bytes; 336 tensores, aproximadamente 8,80 millones de parámetros LoRA.adapter_model.safetensors: 95301a924da56a3efcb68a3b4ef1aa1c22075cca82a9f7fb83ebeb4adff79086.60 ejemplos de entrenamiento y 12 preguntas de examen separados, en español. El profesor y juez constan en los registros originales como gpt-6-luna. Temas: fundamentos de LLM, ingeniería de prompts, RAG, agentes, ajuste fino y evaluación/LLMOps. No se utilizaron documentos privados de una empresa real según el informe de origen. Los datos y la auditoría fueron producidos/revisados con IA; no equivalen a revisión humana.
| Parámetro | Valor |
|---|---|
| Épocas / lote | 3 / 2 |
| Tasa de aprendizaje | 0,0001 |
| LoRA r / alpha / dropout | 16 / 32 / 0,05 |
| Módulos | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
| Semilla | 42 |
| Tokens máximos ejemplo / respuesta | 320 / 120 |
| Entorno registrado | Python 3.12, RTX 3070 Ti, CUDA, bfloat16 |
La configuración íntegra está en configuracion_entrenamiento.json. Las corridas anteriores con SmolLM2 son experimentos distintos y no forman parte de este adaptador.
Promedios recalculados desde los 12 registros de cada examen. Escala del juez LLM: 1–10, umbral aceptable del kit: 7. No son porcentajes de accuracy ni calificaciones académicas.
| Tema | n | Base | Con LoRA |
|---|---|---|---|
| Agentes de IA | 3 | 3,67 | 4,00 |
| Ajuste fino | 2 | 4,00 | 3,50 |
| Fundamentos de LLM | 2 | 3,00 | 4,00 |
| Ingeniería de prompts | 3 | 5,33 | 4,00 |
| RAG | 2 | 1,50 | 4,00 |
| Total | 12 | 3,67 | 3,92 |
Mejora media: +0,25 puntos. Ítems con nota ≥7: 1/12 antes y 0/12 después. No todos los temas mejoran. evaluacion_resumen.json conserva promedios sin redondear.
Limitaciones: muestra pequeña, juez estocástico que también produjo las referencias, examen reutilizado en selección de configuraciones y ausencia de preguntas de Evaluación/LLMOps. No hay demostración estadística de mejora ni evaluación humana independiente. El rendimiento fuera del examen puede ser peor.
Instalar dependencias de requirements.txt. Descargar este repositorio y ejecutar:
bash
python probar_modelo.py --adaptador .También se puede pasar un identificador del Hub con --adaptador usuario/repositorio. El script descarga Qwen y carga LoRA mediante PEFT, usa el prompt de entrenamiento y genera dos respuestas sin llamadas a una API de profesor o juez. CPU es compatible; necesita memoria para el modelo base completo. La primera ejecución necesita conexión para descargarlo.
Ejemplo de carga:
python
from transformers import AutoTokenizer, AutoModelForCausalLMfrom peft import PeftModel base_id = "Qwen/Qwen2.5-0.5B-Instruct"tokenizer = AutoTokenizer.from_pretrained(base_id)base = AutoModelForCausalLM.from_pretrained(base_id)model = PeftModel.from_pretrained(base, ".") # carpeta descargada del adaptadorPublicar este repositorio no crea automáticamente un chat alojado ni un endpoint de inferencia.
En pruebas nuevas del informe original se observaron definiciones incorrectas de RAG y LoRA, y el producto 17×23 fue respondido como 401 por el modelo ajustado (correcto: 391). Puede alucinar, truncar respuestas, repetir y dar instrucciones inadecuadas. Verificar las respuestas con fuentes fiables. No usarlo como única base para decisiones legales, financieras, de contratación, seguridad o salud.
El entrenamiento y la evaluación originales fueron asistidos por IA. La auditoría incluida en la entrega es de IA y la validación personal del estudiante permanece separada. No se han medido aquí SLA, costo por consulta bajo carga ni ahorro total frente a una API comercial.
Adaptador publicado bajo Apache-2.0; base Qwen2.5-0.5B-Instruct bajo Apache-2.0 según su ficha oficial. Se incluye LICENSE y atribución de los archivos derivados de la base. Esta licencia no concede derechos sobre datasets externos ni sustituye los términos del proveedor que generó los datos sintéticos. El uso productivo requiere revisar por separado esos términos y validar calidad.
from transformers import AutoTokenizer, AutoModelForCausalLMfrom peft import PeftModel base_id = "Qwen/Qwen2.5-0.5B-Instruct"tokenizer = AutoTokenizer.from_pretrained(base_id)base = AutoModelForCausalLM.from_pretrained(base_id)model = PeftModel.from_pretrained(base, ".") # carpeta descargada del adaptador