GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
sam33339999
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
sam33339999
Model Tree
InternScience/Sage-A1.5
Input Modalities
Output Modalities
Supported Functionality
| 項目 | 狀態 |
|---|---|
| 基底權重 | InternScience/Sage-A1.5 |
| 修改方式 | Heretic 方向性消融，無額外微調 |
| 目的 | 降低安全對齊帶來的拒答，作為無審查（uncensored）權重發布 |
| 架構 / 詞表 / 對話模板 | 與 Sage-A1.5 相同 |
| 原生上下文 | 262,144 tokens（256K） |
| 精度 | BF16，15 個 safetensors 分片 |
消融只改拒絕方向所對應的權重。對話模板裡的工具呼叫格式，以及 verification: true 觸發的 Verification Mode（在 system 內容末尾附加 Verification protocol: enabled），都還在。
這個倉庫沒有附上該次 Heretic 搜尋的拒答次數或 KL 散度。能力數字請以原版技術報告為參考，消融後的表現可能與原版有差距。
Sage-A1.5 是上海人工智慧實驗室的約 35B Mixture-of-Experts 智能體模型，底座為 Qwen3.6-35B-A3B，並在 Agents-A1 上繼續發展。每個 token 只啟動約 3B 參數。它主打三件事：
原版報告與模型卡：
數值來自本倉庫的 config.json 與 tokenizer_config.json。
| 項目 | 值 |
|---|---|
| 架構 | Qwen3_5MoeForConditionalGeneration（qwen3_5_moe） |
| 參數量級 | 約 35B 總參數，每 token 啟動 8 / 256 個專家（約 3B） |
| 層數 | 40（線性注意力與全注意力交錯，每 4 層一次全注意力） |
| 隱藏維度 | 2048 |
| 專家 | 256 個路由專家，每 token 8 個；共享專家中間維度 512 |
| 注意力頭 | 16 個 query head，2 個 KV head，head dim 256 |
| 詞表 | 248,320 |
| 上下文 | 262,144 |
| 權重精度 | bfloat16 |
| 視覺編碼器 | 27 層，hidden size 1152，patch size 16 |
| MTP | config.json 為 1 層；這 15 個分片不含 mtp.* 權重 |
| 對話模板 | Qwen 風格 ChatML，工具呼叫為 qwen3_coder 格式 |
Repo：sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored
服務方式與原版相同。--model-path 用這個 repo id，或用本機已下載的目錄。
shell
vllm serve sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \ --port 8000 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coder只要文字、想把視覺編碼器的顯存讓給 KV cache 時，加上 --language-model-only。
shell
python -m sglang.launch_server \ --model-path sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \ --port 8000 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_coder視覺編碼器權重在這 15 個分片裡。preprocessor_config.json、processor_config.json、video_preprocessor_config.json 沒有一起上傳。純文字依上面的指令即可。要送影像或影片時，從 InternScience/Sage-A1.5 取這三個檔，放到模型目錄。
需要一則非空的 system 訊息，並傳 JSON 布林值 true：
shell
curl http://localhost:8000/v1/chat/completions \ -H 'Content-Type: application/json' \ -d '{ "model": "sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored", "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Check this result and revise it if the evidence does not hold."} ], "chat_template_kwargs": {"verification": true} }'子智能體編排與 512K YaRN 延伸的啟動參數，見原版模型卡的 Usage。把模型路徑換成這個 repo id 即可。
MTP 不要只換路徑就開。config.json 仍是 mtp_num_hidden_layers: 1，但這次上傳沒有 mtp.* 權重，也沒有 model-mtp.safetensors。要做 MTP 投機解碼時，另外取得原版的 model-mtp.safetensors。
沿用 Sage-A1.5 模型卡的建議，作為起點：
temperature: 1.0top_p: 0.95top_k: 20min_p: 0.0presence_penalty: 1.5repetition_penalty: 1.0權重繼承基底模型 InternScience/Sage-A1.5 的 Apache-2.0。Heretic 工具本身是 AGPL-3.0。
使用本權重時，請同時保留對 Sage-A1.5 團隊與 Heretic 的說明。
bibtex
@misc{lou2026sagea15longhorizonexecutionscientific, title={Sage-A1.5: From Long-Horizon Execution to Scientific Exploration with Capability Composition}, author={Sage-A1.5 Team}, year={2026}, eprint={2610.28578}, archivePrefix={arXiv}, primaryClass={cs.AI}, url={https://arxiv.org/abs/2610.28578}}bibtex
@misc{weidmann2025heretic, title={Heretic: Fully automatic censorship removal for language models}, author={Philipp Emanuel Weidmann}, year={2025}, url={https://github.com/p-e-w/heretic}}這是移除安全拒答對齊後的研究與本地部署權重。它比原版更少拒絕請求。輸出不代表原作者或本倉庫維護者的立場。使用者須自行遵守所在地法律，並為實際使用負責。
vllm serve sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \ --port 8000 \ --max-model-len 262144 \ --reasoning-parser qwen3 \ --enable-auto-tool-choice \ --tool-call-parser qwen3_coderpython -m sglang.launch_server \ --model-path sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored \ --port 8000 \ --mem-fraction-static 0.8 \ --context-length 262144 \ --reasoning-parser qwen3 \ --tool-call-parser qwen3_codercurl http://localhost:8000/v1/chat/completions \ -H 'Content-Type: application/json' \ -d '{ "model": "sam33339999/Sage-A1.5-Heretic-Abliterated-Uncensored", "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Check this result and revise it if the evidence does not hold."} ], "chat_template_kwargs": {"verification": true} }'@misc{lou2026sagea15longhorizonexecutionscientific, title={Sage-A1.5: From Long-Horizon Execution to Scientific Exploration with Capability Composition}, author={Sage-A1.5 Team}, year={2026}, eprint={2610.28578}, archivePrefix={arXiv}, primaryClass={cs.AI}, url={https://arxiv.org/abs/2610.28578}}@misc{weidmann2025heretic, title={Heretic: Fully automatic censorship removal for language models}, author={Philipp Emanuel Weidmann}, year={2025}, url={https://github.com/p-e-w/heretic}}