GLM-5.2 is live. #1 throughput on OpenRouter, pay-per-token on FriendliAI. Try it today ➜
okadahiroaki
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
okadahiroaki
Model Tree
Base
neosophie/Qwen3-ASR-1.7B-JA
Adapter
this model
Input Modalities
Audio
Output Modalities
Text
Supported Functionality
Dedicated Endpoints
q/k/v/o/gate/up/down_proj に適用 (~10M params)<|spk_0|> 〜 <|spk_7|> 行 (8 行 × 2048) のみ embedding 更新base model の既存 token 埋め込み・lm_head は完全凍結。tied weight を活用し、 backward hook で勾配を新規 token 行だけに通している。
電話通話 ~949 件。Qwen3-ASR の生出力を Gemma-4-31B-it に渡して、
Gemini 3.1-pro の話者付き文字起こしを参考に <|spk_N|> タグを自動挿入したもの。
詳細は phase_a/gemma_label.py 参照。
python
import torchfrom qwen_asr import Qwen3ASRModelfrom peft import PeftModelwrapper = Qwen3ASRModel.from_pretrained("neosophie/Qwen3-ASR-1.7B-JA",dtype=torch.bfloat16, device_map="cuda:0",)# tokenizer に spk token を追加してから resizeSPK = [f"<|spk_{i}|>" for i in range(8)]wrapper.processor.tokenizer.add_tokens(SPK, special_tokens=False)wrapper.model.thinker.resize_token_embeddings(len(wrapper.processor.tokenizer), mean_resizing=True)# adapter を被せるwrapper.model = PeftModel.from_pretrained(wrapper.model, "okadahiroaki/Qwen3asr_diarization")wrapper.model.eval()res = wrapper.transcribe(audio="call.wav", language="Japanese")print(res[0].text)# language Japanese<asr_text><|spk_0|> もしもし、 <|spk_1|> あ、お世話に...