模型简介
白话 Baihua 是Roland Wayne基于 Google Gemma 4 E4B-it 经过后训练的中文口语化写作模型。把已有内容,或整理好的事实、观点和提纲,写成像人类口述的正文,减少模板化、机械化的表达。
主要使用方式:上游模型或作者提供事实、观点和提纲,由白话将其写成正文;也可以输入已有正文,让白话调整表达。搜索、事实整理和观点选择由上游完成,本模型侧重表达。
训练作者
Roland Wayne 是内容创作者,也是白话 Baihua 的训练作者。在这个项目中,他负责确定表达目标、筛选训练材料,并通过实际测试和人工修改评估模型输出。
白话的训练方向来自他自己的写作需求:让 AI 辅助生成的正文更接近日常口述,减少固定句式和模板化表达。
作者主页:Roland Wayne|Hugging Face。
X:https://x.com/rwayne
Github:https://github.com/ozrwayne
模型规格
Table with columns: 项目, 规格| 项目 | 规格 |
|---|
| 公开名称 | 白话 Baihua |
| 模型标识 | Baihua-Gemma4-E4B |
| 用途说明 | Conversational Writing Model|口语化写作模型 |
| 基础模型 | Google Gemma 4 E4B-it(google/gemma-4-E4B-it) |
| 参数规模 | 完整模型约 8B(80 亿);Ollama 文本版约 7.5B(75 亿) |
| 权重精度 | BF16 |
| 上下文窗口 | 128K(131,072 tokens,输入与输出合计,含系统提示和模板) |
| 完整权重大小 | 约 15.88 GB;含配套文件约 15.91 GB(十进制) |
| 部署方式 | 下载权重,本地运行 |
| 主要用途 | 中文口语化写作、正文改写 |
基础与权重
- 基础模型:Gemma 4 E4B 官方模型页。
- 微调方法:LoRA,rank 16,alpha 32;在前一轮风格 adapter 基础上继续进行配对微调。
- 完整权重:BF16 Safetensors,LoRA 已合并,加载完整权重时不需要再叠加同一 adapter。权重文件合计约 15.88 GB;含配套文件的完整包约 15.91 GB(十进制)。
- Ollama 性能测试使用约 14.94 GB 的 BF16 文本 GGUF 运行副本,归一化等少量张量为 FP32;它不包含纯文字推理不需要的音频和图像编码模块。原完整 Safetensors 模型保持独立。
- E4B 是基础模型的官方规格名称,不表示总参数只有 4B。官方标注约 4.5B 有效参数、含嵌入约 8B;当前 Ollama 文本副本实测为 7,463,013,674 个参数,约 7.5B。
- 配置总上下文:131,072 tokens。实际测试范围见性能章节。
训练概况
训练材料为作者授权使用的私有中文材料及表达修改配对,不随权重公开。
配对微调阶段去重后有 144 组,其中 130 组用于训练、14 组留作验证;44 组包含人工修改,100 组保留前一轮风格模型的输出。训练只对目标答案部分计算损失。
训练阶段在同一 14 组验证样本上的答案部分 loss:配对微调前的适配器为 0.744804,配对微调后选中的适配器为 0.432404。这是小型验证集上的训练记录,不是独立测试集成绩,也不是当前 BF16 Ollama 部署重新测得的 loss;它与早期原话续写任务的 loss 不直接可比。
用途与使用方式
输入建议写清事实、观点、提纲、篇幅和格式,再让模型直接输出正文。改写模式则提供完整原文。
固定运行设置采用确定性生成:Transformers 中 do_sample=false、repetition_penalty=1.05;本次 Ollama 运行采用 temperature=0、repeat_penalty=1.05、repeat_last_n=131072、think=false。应用默认最多输出 4096 tokens,并按剩余上下文限制输出预算。
本模型的训练目标是表达风格,不以消除拒答行为为目标;没有据此进行 UNC/uncensored 宣称,也没有完成专门的拒答行为评测。BF16 精度和完整合并权重与 UNC 是不同概念。
下载和本地加载步骤见 使用说明。本仓库发布完整 BF16 Safetensors;性能章节中的 Ollama 文本 GGUF 不包含在本次下载文件中。
示例
以下是虚构材料的部署冒烟测试,不是训练原文,也不是长文效果的代表性基准。
输入:
事实:目前只有35份测试记录,不是350份;产品尚未正式上线。
观点:我认为应该先看真实效果,再谈规模。
提纲:先说清楚数量和上线状态,再说我的判断。
要求:写成一条简短推文,不加标题。
白话实际输出:
目前只有35份测试记录,不是350份,而且产品还没有正式上线。所以呢,我觉得还是应该先看真实的效果怎么样,然后再去谈规模。
推理性能
测试日期:2026-10-10。AMD Ryzen AI Max+ 395 / Radeon 8060S,Ollama 0.32.13 Vulkan,BF16 文本 GGUF;白话热驻留,其他服务保留运行。
Table with columns: 项目, 实测结果| 项目 | 实测结果 |
|---|
| 1,024 tokens 输入、256 tokens 输出,3 次输出速度中位数 | 9.75 tokens/s |
| 同组首字等待中位数 | 3.80 秒 |
| 最大完整接收输入 | 130,816 tokens(含系统提示和模板) |
| 最大输入档首字等待 | 634.27 秒 |
| 最大输入档开头 / 中间 / 结尾校验码 | 3/3 |
最长输入测试只检查校验码检索,不代表同长度文章的写作质量。最长输出测试为 256 tokens。速度不是独占硬件成绩。
详见 白话 Ollama 性能与上下文测试。测试说明硬件、运行版本、并存任务、输入长度、首字等待、输入和输出速度,以及检索范围。没有以基础模型的公开跑分代替白话实测。
限制与隐私
模型目标是调整表达,但它仍可能改变时间、数字、否定条件、因果关系和判断强度。此前测试中曾出现时间表述变化和技术条件反转;使用者应核对实际输出。完整 BF16 合并版与量化底座加 adapter 的输出也可能不同。
128K 配置和简单校验码检索不保证同长度文章的写作质量。模型不是可靠的事实核验系统,也不承诺通过任何 AI 文本检测器。
原始私人语料、训练配对、私人日志和访问凭据不随权重发布。有限隐私检查没有覆盖所有可能的输入,不能保证模型永不复述训练内容。权重本身不负责联网采集用户输入;具体部署程序的数据保存、日志和权限由部署者控制。
许可证
本模型以 Apache License 2.0 发布。基础模型由 Google DeepMind 提供,后训练作者为 Roland Wayne;来源和修改说明见 NOTICE。
参考资料