GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
benzeng
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
benzeng
Model Tree
openbmb/MiniCPM5-2B
Input Modalities
Output Modalities
Supported Functionality
本模型的安全对齐已被部分移除（拒绝方向从残差流写入矩阵中正交化消除）：
下载或使用即表示你已知晓并接受上述条款。
| 条件 | 基座 | 本模型 |
|---|---|---|
| 英文有害指令拒绝率 | 0.50 | 0.12 |
| 中文有害指令拒绝率 | 1.00 | 0.72（顽固残留，见局限） |
| 英文无害指令拒绝率（过度拒绝） | 0.00 | 0.03 |
完整研究（含与 Spark-X2.5-1.7B 的跨模型机制对比、顽固残留消融实验、子空间权衡曲线）见仓库内 REPORT.md。
标准 Llama 架构，无需 remote code；支持 vLLM（需 compute capability ≥ 7.5）：
python
from transformers import AutoModelForCausalLM, AutoTokenizertok = AutoTokenizer.from_pretrained("benzeng/MiniCPM5-2B-orth-r23")model = AutoModelForCausalLM.from_pretrained("benzeng/MiniCPM5-2B-orth-r23",dtype="bfloat16", device_map="cuda")
chat template 支持 enable_thinking。工具调用可用（模板原生 <function> 约定；
注意 <function 等是特殊 token，解码时需保留）。
方法：Arditi et al., 2024, Refusal in Language Models Is Mediated by a Single Direction（arXiv:2406.11717）。 基座模型：OpenBMB MiniCPM5-2B（Apache-2.0）。