GLM-5.2 is live. #1 throughput on OpenRouter, pay-per-token on FriendliAI. Try it today ➜
signorbuco
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
signorbuco
Model Tree
Qwen/Qwen3-1.7B
Input Modalities
Output Modalities
Supported Functionality
Il modello è stato addestrato su un mix di ~20.000 esempi in italiano (istruzioni generali + ragionamento con tag <think>), più un piccolo set di esempi per l'identità del modello:
| Dataset | Licenza | Contenuto |
|---|---|---|
| open-ita-llms/OpenSFT-ita | Apache-2.0 | Aggregazione SFT in italiano |
| anakin87/fine-instructions-ita-70k | Apache-2.0 | Istruzioni generali in italiano |
| DeepMount00/o1-ITA-REASONING | CC BY 4.0 | Ragionamento step-by-step in italiano |
Tutte le licenze dei dataset permettono uso commerciale con attribuzione, in linea con la licenza Apache-2.0 del modello base.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfigfrom peft import PeftModeltokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-1.7B")bnb_config = BitsAndBytesConfig(load_in_4bit=True,bnb_4bit_quant_type="nf4",bnb_4bit_compute_dtype=torch.bfloat16,bnb_4bit_use_double_quant=True,)base_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-1.7B", quantization_config=bnb_config, torch_dtype=torch.bfloat16,)model = PeftModel.from_pretrained(base_model, "REPO_ID_QUI")messages = [{"role": "user", "content": "Chi sei?"}]text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(text, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=200, do_sample=False)print(tokenizer.decode(output[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))
Nota importante: l'adapter è stato calibrato su un base model quantizzato in 4-bit (QLoRA) — caricarlo su un base model in precisione piena (bf16/fp16) senza quantizzazione può produrre risposte leggermente meno accurate.
Apache-2.0, in eredità dalla licenza del modello base Qwen3-1.7B e di tutti i dataset di training utilizzati.