GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
ali-arshiya
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
ali-arshiya
Model Tree
Input Modalities
Output Modalities
Supported Functionality
moeinGTS-1.5-8b is a state-of-the-art 8-billion parameter causal language model developed and fine-tuned by moeinGTS (Software & AI Research Group). This model is meticulously optimized to understand, process, and generate fluent text in both Persian (فارسی) and English.
مدل moeinGTS-1.5-8b یک مدل زبانی بزرگ، پیشرفته و قدرتمند با ۸ میلیارد پارامتر است که توسط گروه نرمافزاری و هوش مصنوعی معین جیتیاس (moeinGTS) توسعه یافته و بهینهسازی شده است. این مدل با هدف درک عمیق، پردازش دقیق و تولید متن روان به زبانهای فارسی و انگلیسی مهندسی شده است.
| Specification / ویژگی | Detail / مقدار |
|---|---|
| Model Architecture | Transformer-based Causal LM |
| Parameters | 8 Billion (8B) |
| Quantization | 4-bit (NF4) with Double Quantization |
| Disk Footprint | ~5 GB (Super lightweight!) |
| Supported Languages | Persian (fa), English (en) |
| Tokenization | Unigram / Slow Tokenizer |
| Library | Hugging Face Transformers |
You can load and run moeinGTS-1.5-8b easily using the transformers library and 4-bit quantization:
میتوانید این مدل را به راحتی با استفاده از کتابخانه transformers و تنظیمات کوانتیزاسیون ۴ بیتی بارگذاری و اجرا کنید:
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfigmodel_id = "ali-arshiya/moeinGTS-1.5-8b"# 1. Load Tokenizer / بارگذاری توکنایزرprint("Loading tokenizer...")tokenizer = AutoTokenizer.from_pretrained(model_id, use_fast=False)if tokenizer.pad_token is None:tokenizer.pad_token = tokenizer.eos_token# 2. Configure 4-bit Quantization (fits in ~5GB VRAM) / تنظیمات کوانتیزاسیون ۴ بیتیquantization_config = BitsAndBytesConfig(load_in_4bit=True,bnb_4bit_compute_dtype=torch.bfloat16 if torch.cuda.is_bf16_supported() else torch.float16,bnb_4bit_quant_type="nf4",bnb_4bit_use_double_quant=True,)# 3. Load Model on GPU / بارگذاری مدل روی کارت گرافیکprint("Loading model...")model = AutoModelForCausalLM.from_pretrained(model_id,quantization_config=quantization_config,device_map="auto")print("✅ moeinGTS-1.5-8b loaded successfully!")