GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
mc9901708
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
mc9901708
Model Tree
Qwen/Qwen3.5-4B
Input Modalities
Output Modalities
Supported Functionality
python
from transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModel base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3.5-4B", torch_dtype="auto", device_map="auto")tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3.5-4B")model = PeftModel.from_pretrained(base, "mc9901708/CODA19-Qwen3.5-4B-LoRA")Trainiert wurde mit 4-Bit-Quantisierung (NF4). Prompt-Format und Auswertung stehen im Notebook.
Die Adapter-Gewichte stehen wie das Basismodell unter Apache 2.0. Trainiert wurde auf CODA-19 (Huang et al., 2020); die Abstracts stammen aus CORD-19, für sie gelten die Lizenzen der jeweiligen Originalpaper.