GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
Sapolas0730
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
Sapolas0730
Model Tree
rinna/japanese-gpt2-medium
Input Modalities
Output Modalities
Supported Functionality
adapter_config.json の base_model_name_or_path からベースモデルを自動解決できる AutoPeftModelForCausalLM で読み込みます。
python
import torchfrom peft import AutoPeftModelForCausalLMfrom transformers import AutoTokenizermodel_id = "Sapolas0730/japanese-gpt2-medium-formal-lora"tokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoPeftModelForCausalLM.from_pretrained(model_id)model.eval()instruction = "次の文をフォーマルな言い方に変換してください：明日暇？"prompt = f"以下はタスクを説明する指示です。指示に従って応答を書いてください。\n\n### 指示:\n{instruction}\n\n### 応答:\n"input_ids = tokenizer(prompt, return_tensors="pt", add_special_tokens=False).input_idsoutput_ids = model.generate(input_ids,max_new_tokens=100,min_new_tokens=5,pad_token_id=tokenizer.pad_token_id or tokenizer.eos_token_id,eos_token_id=tokenizer.eos_token_id,repetition_penalty=1.3,no_repeat_ngram_size=3,)print(tokenizer.decode(output_ids[0][input_ids.shape[-1]:], skip_special_tokens=True))
rinna/japanese-gpt2-medium（凍結）c_attn,c_proj（GPT-2のConv1D層）repetition_penalty や no_repeat_ngram_size の使用を推奨します。ベースモデル（rinna/japanese-gpt2-medium）・学習データ生成に使用したQwen/Qwen2.5-7B-Instructはいずれも寛容なオープンライセンス（MIT / Apache 2.0）で公開されています。本アダプタもこれに従います。