为什么要换
v5 的 della 配方里第四个源是 Qwen3.8-27B-TM-Gemma4-Glimmer-v1,权重 0.65、density 0.999。
那个成分是失败的 Transport-and-Merge 产物:内层与外层的 Sinkhorn 熵正则都设成了 0.10,
在 n=17408 的张量上 n·exp(-c̄/ε) ≈ 1,非对角质量追平对角质量,传输计划退化成近似均匀,
注进去的是源权重列均值的广播(近似秩 1)而不是特征。
v5c 把它换成修复版 TM-Gemma4-Glimmer-v3(eps 改为 gap/ln(m/δ) 自适应),
其余三个源、种子、全部参数不变。
迁移性
本仓的 adapter 没有在 v5c 上重训。换基座前跑过抽样判据:
Table with columns: 量, 值| 量 | 值 |
|---|
|Δbase|/|W| 中位 | 见 notebook Cell 4 |
|ΔLoRA|/|W| 中位 | 见 notebook Cell 4 |
dom = |Δbase|/|ΔLoRA| | 见 notebook Cell 4 |
| 中文 NLL 门禁 | 见 notebook Cell 6 |
⚠️ 把上面四个数填成实测值再公开。没填就是占位,跟 v3/v4 那两张一样的坑。
用法
from peft import PeftModelfrom transformers import AutoModelForCausalLM m = AutoModelForCausalLM.from_pretrained("YFC-112358/Qwen3.8-27B-Della-Carnice-Ostrich-Salience-Glimmer-v5c", torch_dtype="bfloat16", device_map="auto")m = PeftModel.from_pretrained(m, "YFC-112358/Qwen3.8-27B-Taste-Glimmer-Gemma-LoRA-v5c")# 调味浓度旋钮:加载后改 scaling,或者 from_pretrained 时传不同的 lora_alpha
alpha/r = 32/32 = 1.0。调这个比值就是调味浓度。