GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
signorbuco
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
signorbuco
Model Tree
Qwen/Qwen3-1.7B
Input Modalities
Output Modalities
Supported Functionality
Il modello è stato addestrato su un mix di ~20.000 esempi in italiano (istruzioni generali + ragionamento con tag <think>), più un piccolo set di esempi per l'identità del modello:
| Dataset | Licenza | Contenuto |
|---|---|---|
| open-ita-llms/OpenSFT-ita | Apache-2.0 | Aggregazione SFT in italiano |
| anakin87/fine-instructions-ita-70k | Apache-2.0 | Istruzioni generali in italiano |
| DeepMount00/o1-ITA-REASONING | CC BY 4.0 | Ragionamento step-by-step in italiano |
Tutte le licenze dei dataset permettono uso commerciale con attribuzione, in linea con la licenza Apache-2.0 del modello base.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfigfrom peft import PeftModel tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-1.7B") bnb_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_compute_dtype=torch.bfloat16, bnb_4bit_use_double_quant=True,)base_model = AutoModelForCausalLM.from_pretrained( "Qwen/Qwen3-1.7B", quantization_config=bnb_config, torch_dtype=torch.bfloat16,)model = PeftModel.from_pretrained(base_model, "REPO_ID_QUI") messages = [{"role": "user", "content": "Chi sei?"}]text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(text, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=200, do_sample=False)print(tokenizer.decode(output[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))Nota importante: l'adapter è stato calibrato su un base model quantizzato in 4-bit (QLoRA) — caricarlo su un base model in precisione piena (bf16/fp16) senza quantizzazione può produrre risposte leggermente meno accurate.
Apache-2.0, in eredità dalla licenza del modello base Qwen3-1.7B e di tutti i dataset di training utilizzati.
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfigfrom peft import PeftModel tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-1.7B") bnb_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_compute_dtype=torch.bfloat16, bnb_4bit_use_double_quant=True,)base_model = AutoModelForCausalLM.from_pretrained( "Qwen/Qwen3-1.7B", quantization_config=bnb_config, torch_dtype=torch.bfloat16,)model = PeftModel.from_pretrained(base_model, "REPO_ID_QUI") messages = [{"role": "user", "content": "Chi sei?"}]text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(text, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=200, do_sample=False)print(tokenizer.decode(output[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))