### Istruzione:
{domanda}
### Risposta:
Template Jinja per LM Studio
{% for message in messages %}{% if message['role'] == 'user' and message['content'] is defined %}### Istruzione:
{{ message['content'] }}
### Risposta:
{% endif %}{% endfor %}
Incollare l'intero blocco nel campo del template. Non usare i preset generici Human: / AI: e non aggiungere un system prompt: il modello supporta soltanto istruzioni a turno singolo.
Uso
from transformers import pipeline
generator = pipeline(
"text-generation",
model="emanuelealbertosi/gpt2-it-185m-instruct",
)
prompt = "### Istruzione:\nQual è la capitale della Francia?\n\n### Risposta:\n"
print(generator(prompt, max_new_tokens=100, temperature=0.4, do_sample=True))
Limiti
Il modello non è destinato alla produzione e non deve essere usato come fonte affidabile
di informazioni. Può generare errori fattuali, contraddizioni e contenuti inventati con
formulazioni plausibili. Questi limiti costituiscono una parte centrale del suo impiego
didattico.
GGUF
Le conversioni GGUF, inclusa la precedente versione 184M, sono disponibili in
emanuelealbertosi/gpt2-it-185m-gguf.
Licenza
Pesi distribuiti con licenza Apache 2.0.