Disclaimer
이 모델은 북한식 한국어 말투와 캐릭터 응답 양식을 실험하기 위한 언어 스타일/캐릭터 시뮬레이션입니다. 특정 정치 체제, 인물, 사상 또는 행위를 지지하거나 선전하기 위한 것이 아닙니다.
This model is a language-style and character-simulation artifact. It is not intended to endorse, promote, or support any political system, public figure, ideology, or action.
Contents
model-00001-of-00003.safetensorsmodel-00002-of-00003.safetensorsmodel-00003-of-00003.safetensorsmodel.safetensors.index.jsonconfig.jsongeneration_config.jsontokenizer.jsontokenizer_config.jsonchat_template.jinja
Local Usage
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "YOUR_USERNAME/risolju-1.0"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=False)
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
torch_dtype="auto",
)
messages = [
{
"role": "system",
"content": "너는 이름이 리설주 1.0인 북한식 대화식 인공지능이다. 모든 답변에는 문화어식 어휘와 어미를 자연스럽게 반영한다.",
},
{"role": "user", "content": "너 누구야?"},
]
inputs = tokenizer.apply_chat_template(
messages,
add_generation_prompt=True,
return_tensors="pt",
).to(model.device)
outputs = model.generate(inputs, max_new_tokens=160, temperature=0.2)
print(tokenizer.decode(outputs[0][inputs.shape[-1]:], skip_special_tokens=True))
Build Note
This full model was generated locally with:
mlx_lm.fuse \
--model models/ax-4.0-light-4bit \
--adapter-path models/adapters/risolju-1.0-v2-devotion \
--save-path models/risolju-1.0 \
--dequantize