O que é (e o que ainda não é)
Este repositório traz o modelo gerador do pipeline de tutoria da MSC Academy:
um Qwen2.5-0.5B ajustado por LoRA/SFT para o papel de professor/tutor em
português.
Na arquitetura pretendida, ele opera como o G de um sistema RAG: a
recuperação traz trechos da base de conhecimento da Academy e o modelo gera a
resposta ancorada nesse contexto. Ser honesto importa aqui: o adapter publicado
é o gerador (SFT) — a base de recuperação (msc-academy-rag-v1 dataset, PT+EN)
está em curadoria e ainda não está completa.
Para que serve
- Geração de respostas didáticas em PT para tutoria, dentro de um pipeline RAG.
- Base para experimentação de RAG de baixo custo em educação.
Fora de escopo: uso como modelo factual stand-alone (sem recuperação ele
não tem a base de conhecimento), assistente geral, produção crítica.
Como foi treinado
- Base:
Qwen/Qwen2.5-0.5B
- Método: LoRA / SFT com TRL.
- Infra: Hugging Face Jobs.
- Dados: dataset
msc-academy-rag-v1 (PT + EN), em curadoria com gates de
qualidade — validação de schema, varredura de segredos (sanitizado), varredura
de PII (baixo risco), deduplicação (0 duplicatas) e revisão humana em andamento.
Status honesto
Table with columns: Componente, Estado| Componente | Estado |
|---|
| Gerador (este adapter) | ✅ Treinado (preview v1) |
| Base de recuperação (RAG) | 🔄 Em construção (~42% da meta v1) |
| Avaliação formal vs baseline | ⏳ Pendente |
Seguimos a regra de só publicar número medido — por isso não há tabela de
benchmark aqui. Entra quando o eval fechar.
Como usar
from transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModel base = "Qwen/Qwen2.5-0.5B"adapter = "Finish-him/msc-academy-rag-v1" tok = AutoTokenizer.from_pretrained(base)model = AutoModelForCausalLM.from_pretrained(base)model = PeftModel.from_pretrained(model, adapter)# Em produção, injete o contexto recuperado antes do prompt do usuário.
Limitações
- 0.5B + preview: capacidade limitada, sem eval formal.
- Depende de recuperação: sozinho, não tem a base de conhecimento da Academy.
- Pode alucinar — em RAG, ancore sempre na fonte recuperada e cite o trecho.
Sobre a MSC / MSC Labs
A MSC constrói modelos pequenos especializados + pipelines RAG privados e
baratos de operar. Quer um assistente ancorado nos seus dados, sem mandá-los
para uma API de fronteira? A MSC Labs entrega
fine-tuning e RAG done-for-you, com avaliação contra o seu baseline.
📩 labs@msccompany.com.br · 🔗 https://labs.msccompany.com.br