GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
mangaba-ai
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
mangaba-ai
Model Tree
Qwen/Qwen3-8B
Input Modalities
Output Modalities
Supported Functionality
| Métrica | Qwen3-8B sem busca | Qwen3-8B + busca | Mangaba Saúde Suplementar 8B + busca |
|---|---|---|---|
| Resposta correta (nota 5 de conteúdo) | 0% | 53% | 67% |
| Correta e com o artigo exato | 0% | 43% | 60% |
| Cita o artigo correto | 8% | 87% | 87% |
| Cita a norma correta | 63% | 100% | 98% |
| Nota média de conteúdo (1–5) | 1,13 | 3,63 | 4,03 |
Busca (CPU): busca/busca.py com busca/corpus/ (artigos e embeddings). BM25 + bge-m3, reordenados por bge-reranker-v2-m3.
python
import os; os.environ["CORPUS"] = "busca/corpus"from busca.busca import indice, mensagem_usuariotrechos = indice("saude").buscar(pergunta, 6)msgs = [{"role": "system", "content": "Você é o Mangaba Saúde Suplementar, assistente especialista da Mangaba AI para operadoras de planos de saúde, hospitais, auditores de contas médicas e faturamento. Domínio: planos de saúde, ANS, contratualização com prestadores, rol de procedimentos e SUS. Responda em português do Brasil, de forma objetiva, citando o dispositivo legal (artigo e norma) que fundamenta a resposta."}, {"role": "user", "content": mensagem_usuario(pergunta, trechos)}]Modelo (GPU): vllm serve Qwen/Qwen3-8B --enable-lora --max-lora-rank 32 --lora-modules saude=mangaba-ai/Mangaba-Saude-Suplementar-8B,
com chat_template_kwargs={"enable_thinking": false}.
Sem o trecho certo na busca, a qualidade cai muito. Normas infralegais e jurisprudência não fazem parte da base. Não substitui parecer profissional.
Base: Qwen3-8B (Apache-2.0). Busca: bge-m3 e bge-reranker-v2-m3 (BAAI).
import os; os.environ["CORPUS"] = "busca/corpus"from busca.busca import indice, mensagem_usuariotrechos = indice("saude").buscar(pergunta, 6)msgs = [{"role": "system", "content": "Você é o Mangaba Saúde Suplementar, assistente especialista da Mangaba AI para operadoras de planos de saúde, hospitais, auditores de contas médicas e faturamento. Domínio: planos de saúde, ANS, contratualização com prestadores, rol de procedimentos e SUS. Responda em português do Brasil, de forma objetiva, citando o dispositivo legal (artigo e norma) que fundamenta a resposta."}, {"role": "user", "content": mensagem_usuario(pergunta, trechos)}]