GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
KordAI
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
KordAI
Model Tree
Input Modalities
Output Modalities
Supported Functionality
DeutschGPT wurde entwickelt, um ein kompaktes und effizientes Modell für deutschsprachige Aufgaben und Konversationen bereitzustellen.
Das Modell eignet sich insbesondere für:
Entwickelt von: KordAI
Basismodell: unsloth/qwen3-1.7b-base-unsloth-bnb-4bit
Sprache: Deutsch
Parameter: 1,7 Milliarden
Lizenz: Apache 2.0
Das Modell wurde auf deutschsprachigen Konversationsdaten feinabgestimmt.
Die Konversationen verwenden ein einfaches, rollenbasiertes Format:
text
# SYSTEM:Sie sind ein hilfreicher Assistent.# USER:Wer ist Sebastian Vettel?# ASSISTANT:Sebastian Vettel ist ein deutscher Automobilrennfahrer ...
Die Rollen werden dabei durch die folgenden Abschnitte dargestellt:
# SYSTEM: – Systemanweisung# USER: – Eingabe des Benutzers# ASSISTANT: – Antwort des Modellstext
# SYSTEM:Sie sind ein hilfreicher Assistent.# USER:Was ist die Hauptstadt von Deutschland?# ASSISTANT:Die Hauptstadt von Deutschland ist Berlin.
Bei der Verwendung des Modells sollte dieses Format beibehalten werden, damit die Eingabe dem Format entspricht, auf dem das Modell trainiert wurde.
python
from transformers import AutoTokenizer, AutoModelForCausalLMmodel_id = "KordAI/DeutschGPT"tokenizer = AutoTokenizer.from_pretrained(model_id)model = AutoModelForCausalLM.from_pretrained(model_id,device_map="auto")prompt = """# SYSTEM:Sie sind ein hilfreicher Assistent.# USER:Setzen Sie die Fibonacci-Folge fort: 1, 1, 2, 3, 5, 8,# ASSISTANT:"""inputs = tokenizer(prompt,return_tensors="pt").to(model.device)outputs = model.generate(**inputs,max_new_tokens=64)print(tokenizer.decode(outputs[0], skip_special_tokens=True))
DeutschGPT wurde mit Unsloth und der Hugging Face TRL-Bibliothek feinabgestimmt.
Unsloth wurde verwendet, um das Training effizienter durchzuführen und eine höhere Trainingsgeschwindigkeit zu ermöglichen.
Eingabe:
text
# SYSTEM:Sie sind ein hilfreicher Assistent.# USER:Wer ist Sebastian Vettel?# ASSISTANT:
Ausgabe:
text
Sebastian Vettel ist ein deutscher Automobilrennfahrer, der in der Formel-1-Weltmeisterschaft erfolgreich war. Er gewann vier Weltmeistertitel in Folge und gehört zu den erfolgreichsten deutschen Fahrern in der Geschichte der Formel 1.
DeutschGPT ist mit 1,7 Milliarden Parametern ein vergleichsweise kleines Sprachmodell. Die Qualität kann daher bei komplexen Aufgaben, umfangreichen Kontexten, anspruchsvollem logischem Schlussfolgern oder sehr spezifischem Fachwissen eingeschränkt sein.
Wie bei anderen generativen Sprachmodellen können Antworten:
Generierte Inhalte sollten daher bei wichtigen Anwendungen überprüft werden.
DeutschGPT wird unter der Apache License 2.0 veröffentlicht.
Bitte beachte zusätzlich die Lizenzbedingungen des zugrunde liegenden Qwen3-Modells sowie die Lizenzen der für das Fine-Tuning verwendeten Datensätze.
DeutschGPT wurde von KordAI entwickelt.
Das Modell wurde mit Unsloth und Hugging Face TRL trainiert.
