GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
NeoMihRam
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
NeoMihRam
Model Tree
google/gemma-2-9b-it
Input Modalities
Output Modalities
Supported Functionality
google/gemma-2-9b-itDi seguito un confronto qualitativo diretto tra il modello base stock e RHAM-CORE-9B a parità di parametri di generazione (temperature = 0.7, top_p = 0.9):
"[Inserisci una domanda impegnativa di test che non esponga logiche proprietarie]"
| Modello | Risultato / Comportamento |
|---|---|
| Gemma-2-9b-it (Stock) | Risposta generica o tendente a omettere dettagli di vincolo. |
| RHAM-CORE-9B | Risposta strutturata punto per punto con coerenza logica e rispetto dei vincoli. |
Per eseguire l'inferenza con memoria ottimizzata tramite Unsloth:
python
from unsloth import FastLanguageModel model, tokenizer = FastLanguageModel.from_pretrained( model_name = "NeoMihRam/RHAM-CORE-9B", max_seq_length = 2048, load_in_4bit = True,)FastLanguageModel.for_inference(model) messages = [ {"role": "user", "content": "Ciao! Presentati e spiegami il tuo metodo di analisi."}] inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to("cuda")outputs = model.generate(input_ids=inputs, max_new_tokens=512, use_cache=True)print(tokenizer.decode(outputs[0], skip_special_tokens=True))from unsloth import FastLanguageModel model, tokenizer = FastLanguageModel.from_pretrained( model_name = "NeoMihRam/RHAM-CORE-9B", max_seq_length = 2048, load_in_4bit = True,)FastLanguageModel.for_inference(model) messages = [ {"role": "user", "content": "Ciao! Presentati e spiegami il tuo metodo di analisi."}] inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to("cuda")outputs = model.generate(input_ids=inputs, max_new_tokens=512, use_cache=True)print(tokenizer.decode(outputs[0], skip_special_tokens=True))