Ertugrul1611

AKIL-2.0-107M

Deploy Dedicated

README

License: apache-2.0

Neler yapabilir

Kaynaklı cevap: sistem mesajında Bilgiler: başlığıyla [1] …, [2] … paragrafları verilirse cevabı bu paragraflardan, [n] atıflarıyla yazar. Paragraflarda cevap yoksa bilmediğini söylemeye çalışır. Bilgi soruları için önerilen kullanım budur: modelin kendi ezberi zayıftır (aşağıya bakın).
Tek adımlı araç çağrısı: hesap, saat ve tarih isteklerinde <arac>…</arac> yazıp durur; sonucu alınca cevabı bitirir. Aracı model çalıştırmaz; örnek çalıştırıcı arac_calistir.py bu depoda.
Kısa Türkçe sohbet: ChatML biçiminde; kendini AKIL AI olarak tanıtır.
Uydurma varlıkları fark etme: eğitimdekine benzer "böyle bir şey var mı" sorularında çoğunlukla bilmediğini söyler. Farklı biçimdeki sorularda yine uydurabilir.
Türkçe karakter ve yazım düzeltme: "cok guzel bir gun" → "çok güzel bir gün". Bu beceri ayrıca ölçülmedi.

Neler yapamaz

Ezber bilgi: Wikidata ve Vikipedi sorularının yalnızca %1-5'ini doğru cevaplar. Açgözlü üretimde "Türkiye'nin başkenti" sorusuna bile "İstanbul" diyebiliyor (örnekleme ayarlarıyla "Ankara" dedi).
Çok adımlı matematik: GSM8K-tr'de araçla %6,7. Problemlerin çoğunda aracı çağırmadan yanlış hesaplar.
Arşiv aracı: arsiv aracını kendiliğinden nadiren çağırır. Bilgiyi sistem mesajında verin.
Çok turlu konuşma: önceki turlar cevabı bozabiliyor. Örneğin bir saat sorusundan sonra "Sen kimsin?" sorusuna saat aracını çağırdı. En iyi sonuç her soruyu ayrı sormakla alınır.
Düşünme modu (/dusun): deneyseldir. Ölçümde kazanç sağlamadı; düşünme bloğu çoğu zaman boş kalır.
Güncel bilgi, haber, hava durumu ve fiyat bilmez. Kod yazamaz.
Bağlam 2048 belirteçtir; uzun konuşmalarda konu takibini kaybeder.
Yalnızca Türkçe için eğitildi; az miktarda İngilizce matematik metni gördü.

Güvenlik ve sorumlu kullanım

Bu modele zararlı istekleri reddetme eğitimi verilmedi.
Yayından önce dokuz zararlı istekle denendi: patlayıcı, zehir, uyuşturucu, hesap ele geçirme, sahte belge, kendine zarar verme, nefret söylemi, küfür, ilaç dozu.
- Hiçbir cevapta işe yarar zararlı bilgi yoktu; cevaplar konu dışı, uydurma ya da genel bilgiydi.
- Ama model istekleri reddetmedi; bazen isteneni yapıyormuş gibi bir dille cevap verdi.
- Kendine zarar verme mesajında yardıma yönlendirmedi.
- İlaç dozu sorusuna yanlış olabilecek bir cevap verdi.
Süzgeçsiz bir son kullanıcı ürününde, özellikle çocuklara açık bir üründe kullanılmamalıdır. Sağlık, hukuk ve para konularında tavsiye için kullanılmamalıdır.
Model "olduğu gibi" sunulur (Apache 2.0, madde 7-8).

Ölçüm

ufakzeka-1 makalesiyle (arXiv 2609.25081) aynı düzenek kullanıldı: lm-evaluation-harness 0.4.12, sıfır örnekli log-olabilirlik. HellaSwag ve ARC uzunluğa göre normalleştirilmiş doğruluktur, diğerleri ham doğruluktur. TurBLiMP 16, TurkishMMLU 9 alt görevin ortalamasıdır. Bütün modeller aynı düzenekte bizim tarafımızdan ölçüldü. ufakzeka-1-base için bulduğumuz değerler makaledeki Tablo 1'le 0,3 puan içinde örtüşüyor.

Table with columns: Model, Geliştiren, Parametre, HellaSwag, ARC-c, ARC-e, XCOPA, Belebele, TurBLiMP, TurkishMMLU, Ort.
Model	Geliştiren	Parametre	HellaSwag	ARC-c	ARC-e	XCOPA	Belebele	TurBLiMP	TurkishMMLU	Ort.
AKIL 2.0 (bu model, sohbet)	Ertuğrul Akkuş	107M	34,5	25,8	41,5	58,8	28,1	93,0	20,2	43,13
AKIL 2.0 taban (yalnız ön eğitim)	Ertuğrul Akkuş	107M	34,3	26,6	41,3	59,8	27,1	92,9	22,6	43,51
ufakzeka-1 (sohbet)	ufakai	151M	33,2	28,0	38,9	59,8	27,8	90,2	23,9	43,11
ufakzeka-1-base	ufakai	151M	35,4	27,4	38,9	60,0	27,3	92,5	19,2	42,96
turkish-gpt2-medium	ytu-ce-cosmos	355M	34,5	25,2	38,5	58,8	24,0	98,5	17,3	42,40
turkish-gpt2	ytu-ce-cosmos	124M	31,1	24,3	36,8	56,2	24,4	98,1	18,7	41,37
şans			25	25	25	50	25	50	20	31,4

Farklar ne kadar anlamlı: aynı soruların soru başına sonuçlarından eşleştirilmiş fark ve %95 güven aralığı hesaplandı.

AKIL 2.0 ile ufakzeka-1 (sohbet) ortalamada başa baştır: +0,04 ± 1,08. AKIL bunu %29 daha az parametreyle yapıyor.
- AKIL anlamlı önde: HellaSwag +1,4 ± 0,8, ARC-e +2,7 ± 1,7, TurBLiMP +2,8 ± 0,5.
- Anlamlı geride olduğu test yok: TurkishMMLU −3,7 ± 3,9, ARC-c −2,2 ± 2,5.
Taban model ile ufakzeka-1-base: +0,55 ± 1,00, yani o da başa baş.
Sohbet eğitimi ve GRPO, taban modele göre ortalamada anlamlı bir kayıp yaratmadı: −0,37 ± 0,61.

Matematik

GSM8K-tr test bölümü (1.318 problem) ve programla üretilmiş, eğitimde görülmemiş 300 aritmetik problemi. Açgözlü üretim; araçlı kipte model en çok 12 araç çağırabilir.

Table with columns: Model, GSM8K-tr araçlı, GSM8K-tr araçsız, Aritmetik araçlı, Aritmetik araçsız
Model	GSM8K-tr araçlı	GSM8K-tr araçsız	Aritmetik araçlı	Aritmetik araçsız
AKIL 2.0 (sohbet)	%6,7	%4,6	%100	%0
AKIL 2.0 taban	%3,5	%3,3	%82,3	%18,3
ufakzeka-1 (sohbet)	—	%2,1	—	%7,7

Araçsız kipte de model hesabı araca bırakıp duruyor; aritmetiğin araçsız %0 olması bundandır.
ufakzeka-1 bizim araç biçimimizi bilmediği için yalnız araçsız ölçüldü. Araçsız GSM8K-tr'deki fark (%4,6'ya karşı %2,1) istatistik olarak anlamlıdır.
AKIL'in eğitiminde GSM8K-tr'nin eğitim bölümü kullanıldı; ölçüm test bölümündedir.

Doğrulanabilir sohbet soruları

Eğitimden ayrı tutulmuş sorular. Cevaplar kodla denetlendi; denetimin karar veremediği cevaplar oranın dışında tutuldu.

Table with columns: Tür, Soru, Doğru
Tür	Soru	Doğru
Uydurma varlığı fark etme	200	%95,7 (176/184)
Kimlik	100	%80,4 (41/51)
Kaynaklı cevap (atıflı)	86	%67,3 (33/49)
Wikidata bilgi soruları	300	%4,9 (12/244)
Vikipedi bilgi soruları	200	%1,4 (2/141)

Gerçek örnekler

Açgözlü üretim, düzenlenmemiş cevaplar:

Table with columns: İstem, Cevap
İstem	Cevap
Sen kimsin?	Ben AKIL AI'yım.	doğru
1250 liranın yüzde 18'i kaç eder?	`<arac>hesap: 1250 * 18 / 100</arac>` → (araç: 225) → Bu işlem sonucu olarak aranan değer 225 bulunmuştur.	doğru
Şu cümledeki Türkçe karakterleri düzelt: cok guzel bir gun gecirdik	çok güzel bir gün geçirdik.	doğru
(Bilgiler: [1] Van Gölü … 3.713 km² …) Van Gölü'nün yüzölçümü ne kadardır?	Van Gölü'nün yüzölçümü 3.713 km²'dir.	doğru
Türkiye'nin başkenti neresidir?	Türkiye'nin başkenti İstanbul'dur.	yanlış
Doğu Karadeniz'deki Zırkula Dağı'nın yüksekliği nedir? (uydurma dağ)	Doğu Karadeniz'de bulunan Zırkula Dağı'nın yüksekliği 2.000 metredir.	uydurdu
Bir kitap 240 sayfa. Ali her gün 15 sayfa okursa kitabı kaç günde bitirir?	Ali her gün 15 sayfa okuduğunda toplam sayfa sayısı 15*240 = 3600 olur. … Cevap: 25200	yanlış

Kullanım

python

from transformers import AutoModelForCausalLM, AutoTokenizer depo = "Ertugrul1611/AKIL-2.0-107M"tok = AutoTokenizer.from_pretrained(depo)model = AutoModelForCausalLM.from_pretrained(depo)mesajlar = [    {"role": "system", "content": "Bilgiler:\n[1] Van Gölü, Türkiye'nin en büyük gölüdür ve 3.713 km² "                                  "yüzölçümüne sahiptir. Gölün suyu sodalıdır."},    {"role": "user", "content": "Van Gölü'nün yüzölçümü ne kadardır?"},]girdi = tok.apply_chat_template(mesajlar, add_generation_prompt=True, return_tensors="pt", return_dict=True)cikti = model.generate(**girdi, max_new_tokens=128)print(tok.decode(cikti[0, girdi["input_ids"].shape[1]:], skip_special_tokens=True))

generation_config.json örnekleme ayarları: sıcaklık 0,3, top_p 0,9, top_k 40; cevap <|im_end|>'de biter.

llama.cpp ve Ollama için GGUF dosyaları (f16 ve Q8_0) Ertugrul1611/AKIL-2.0-107M-GGUF deposundadır.

Belirteçleme SentencePiece, transformers ve llama.cpp arasında birebir aynı: 308 metinde fark yok.
f16 GGUF, transformers ile aynı istemlerde aynı cevabı veriyor: açgözlü üretimde 8 istemin 8'i aynı.

Sohbet biçimi

text

<|im_start|>systemBilgiler:[1] paragraf<|im_end|><|im_start|>userSoru<|im_end|><|im_start|>assistantCevap [1].<|im_end|>

Sistem mesajı isteğe bağlıdır. İlk satırı /dusun olursa model cevaptan önce <dusun>…</dusun> bloğu yazar (deneysel).

Araç biçimi

Model <arac>tür: girdi</arac> yazıp durur. Çağıran program aracı çalıştırır ve sonucu tool rolüyle ekler; model cevabı bitirir.

Table with columns: Araç, Örnek çağrı, Sonuç
Araç	Örnek çağrı	Sonuç
hesap	`<arac>hesap: 2130 * 18 / 100</arac>`	`383,4`
birim	`<arac>birim: 5 km -> m</arac>`	`5000 m`
saat	`<arac>saat: 14:30 + 2:15</arac>`	`16:45`
tarih	`<arac>tarih: bugün</arac>`	`27 Ekim 2026, Salı`
arsiv	`<arac>arsiv: soru</arac>`	`[1] paragraf …`

Eğitim verisinde çok adımlı problemler her adımda bir hesap çağrısıyla çözülüyordu. Model bu biçimi tek adımlı isteklerde güvenilir biçimde kullanıyor, çok adımlı problemlerde çoğu zaman kullanmıyor.

text

python arac_calistir.py Ertugrul1611/AKIL-2.0-107M "1250 liranın yüzde 18'i kaç eder?"

Soru verilmezse arac_calistir.py sohbet kipinde açılır. Mesajlar art arda yazılır ve araçlar her mesajda çalışır. Her mesaj varsayılan olarak ayrı cevaplanır; /gecmis konuşma geçmişini açar, /yeni sıfırlar, /cik çıkar.

text

python arac_calistir.py Ertugrul1611/AKIL-2.0-107M

Eğitim

Mimari: yalnız kod çözücülü (decoder-only) dönüştürücü.
- 32 katman, genişlik 512.
- 8 dikkat başı, 2 anahtar-değer başı (GQA), baş boyu 64.
- SwiGLU 1408, RoPE θ=100.000, QK-norm.
- Bağlı gömme; 32.768 parçalık SentencePiece BPE sözlüğü.
- Bağlam 2048.
Ön eğitim: 38.146 adım, 20 milyar belirteç (16 milyar benzersiz; hiçbir kaynak 2 turu geçmez).
- Eniyileme: Muon (matrisler) ve AdamW (gömme, norm). bf16.
- WSD takvimi: %1 ısınma, sabit evre, son %15'te doğrusal soğuma.
- Ana evrede bağlam 1024 ve logit yumuşak sınırı 30. Soğumada bağlam 2048'e çıktı, sınır kaldırıldı ve karışıma sohbet, talimat ve beceri verisi eklendi.
Sohbet eğitimi (SFT): 13 görev, 2 tur, yaklaşık 20 bin paketlenmiş satır (18 milyon hedef belirteç).
- Kayıp yalnız asistan cevaplarında hesaplandı; kullanıcı mesajı ve araç sonuçları yalnız bağlam olarak kaldı.
- Satırların %20'si ön eğitim metniydi, temel beceriler korunsun diye.
- Üç öğrenme hızı denendi (1,5e-4, 3e-4, 6e-4). Seçilen 6e-4: doğrulama kaybı en düşük olan.
Matematik pekiştirmesi (GRPO): GSM8K-tr eğitim bölümünde 200 adım, araç döngüsünün içinde.
- Her adımda 32 problem, problem başına 8 çözüm.
- Ödül 0 ya da 1: son cevap Python ile denetlendi.
- KL cezası yok, öğrenme hızı 1e-6.
- 300 ayrılmış problemde en iyi adım (150) seçildi.
Tercih eğitimi (DPO): kodla doğrulanmış 2.129 çiftle denendi. Ölçümde etkisi olmadığı için bu modelde kullanılmadı.
Ön eğitim verisi:
- FineWeb2-HQ Türkçe (ODC-By)
- mogan-turkish-web (ODC-By)
- FinePDFs-edu Türkçe (ODC-By)
- BILGE sentetik web, matematik ve hikâye metinleri (TÜBİTAK BİLGEM, Apache 2.0)
- FineMath (ODC-By, İngilizce matematik)
- Türkçe Vikipedi (CC BY-SA 4.0)
Temizlik:
- Unicode NFC normalleştirme.
- Kişisel bilgi maskeleme: e-posta, IBAN, TC kimlik no, telefon.
- Yetişkin içerik süzgeci.
- Tam metin ve URL tekilleştirmesi.
- Ölçüm setleriyle 13 kelimelik ortak dizisi olan belgeler çıkarıldı.
Soğuma ve ince ayar verisi:
- Yerel öğretmen modellerin yazdığı örnekler. Qwen3.5-9B (Apache 2.0): sohbet, talimat, kaynaklı cevap, kimlik ve "bilmiyorum" örnekleri. Qwen3-8B (Apache 2.0): Wikidata bilgi sorularının metni.
- Aya Türkçe (insan yazımı, Apache 2.0).
- GSM8K-tr eğitim bölümü (MIT): çözümler araç biçimine çevrildi.
- Wikidata bilgileri (CC0).
- Python ile üretilip doğrulanmış aritmetik, araç ve düzeltme örnekleri.
- Claude, GPT ve Gemini çıktısı ile Gemma çıktısı olduğu bilinen setler kullanılmadı.

Lisans ve atıf

Model ağırlıkları ve bu depodaki kod Apache Lisansı 2.0 ile yayımlanır (LICENSE); ticari kullanım serbesttir. Modeli ya da türevlerini dağıtırken NOTICE dosyası korunmalıdır.

Veri kaynaklarının atıfları için ATTRIBUTION.md dosyasına bakın. Vikipedi içeriği CC BY-SA 4.0, FineWeb2-HQ/FinePDFs/FineMath/mogan ODC-By lisanslıdır.

English summary

AKIL 2.0 (AKIL-2.0-107M) is a 107M-parameter Turkish chat model trained from scratch in Turkey on a single consumer GPU (RTX 5070, 12 GB). It is not a fine-tune of another model: the weights were trained from random initialization with its own Turkish tokenizer. 20B tokens of pretraining, then supervised fine-tuning and GRPO on GSM8K-tr with a calculator tool.

Architecture: decoder-only transformer; 32 layers, width 512, 32k SentencePiece vocabulary, 2048-token context.
Evaluation: zero-shot lm-evaluation-harness 0.4.12, identical to the ufakzeka-1 report (arXiv 2609.25081); all models re-measured by us.
- The 7-task average is on par with ufakzeka-1 (151M): +0.04 ± 1.08 (paired, 95% CI), with 29% fewer parameters.
- Significantly better on HellaSwag, ARC-e and TurBLiMP; not significantly worse on any task.
- GSM8K-tr: 6.7% with the calculator tool, 4.6% without (ufakzeka-1: 2.1% without).
Works: answers grounded in paragraphs given in the system prompt (Bilgiler: with [n] citations); single-step tool calls (calculator, time, date); short chat; Turkish diacritic and spelling correction.
Does not work: memorized facts (1-5% on Wikidata/Wikipedia questions); multi-step math; it rarely calls the archive tool on its own; the /dusun thinking mode is experimental and gave no measurable gain.
Post-training data: written by local Apache-2.0 teacher models (Qwen3.5-9B, Qwen3-8B), plus human-written and programmatically verified data. No Claude/GPT/Gemini outputs.
Limitations: it is a research model, not an assistant. It hallucinates, has no up-to-date knowledge, and cannot write code.
Safety: the model received no refusal training. In a pre-release probe with nine harmful requests (explosives, poison, drugs, account takeover, forged documents, self-harm, hate speech, profanity, medication dose) no answer contained usable harmful information, but it did not refuse either and sometimes answered as if complying. It did not point to help resources for self-harm and gave a possibly wrong medication dose. Do not use it unfiltered in end-user products, especially ones open to children, or for medical, legal or financial advice. Provided "as is" (Apache 2.0, sections 7-8).
License: Apache 2.0 (commercial use allowed); keep the NOTICE file when redistributing.

Available on FriendliAI

Dedicated Endpoints

Run this model inference on single tenant GPU with unmatched speed and reliability at scale.

Learn more

Model Details

Model Provider

Ertugrul1611

Model Tree

Base

this model

Input Modalities

Text

Output Modalities

Text

Supported Functionality

Dedicated Endpoints

Explore FriendliAI today

Get started Talk to an engineer

README

License: apache-2.0

Neler yapabilir

Kaynaklı cevap: sistem mesajında Bilgiler: başlığıyla [1] …, [2] … paragrafları verilirse cevabı bu paragraflardan, [n] atıflarıyla yazar. Paragraflarda cevap yoksa bilmediğini söylemeye çalışır. Bilgi soruları için önerilen kullanım budur: modelin kendi ezberi zayıftır (aşağıya bakın).
Tek adımlı araç çağrısı: hesap, saat ve tarih isteklerinde <arac>…</arac> yazıp durur; sonucu alınca cevabı bitirir. Aracı model çalıştırmaz; örnek çalıştırıcı arac_calistir.py bu depoda.
Kısa Türkçe sohbet: ChatML biçiminde; kendini AKIL AI olarak tanıtır.
Uydurma varlıkları fark etme: eğitimdekine benzer "böyle bir şey var mı" sorularında çoğunlukla bilmediğini söyler. Farklı biçimdeki sorularda yine uydurabilir.
Türkçe karakter ve yazım düzeltme: "cok guzel bir gun" → "çok güzel bir gün". Bu beceri ayrıca ölçülmedi.

Neler yapamaz

Ezber bilgi: Wikidata ve Vikipedi sorularının yalnızca %1-5'ini doğru cevaplar. Açgözlü üretimde "Türkiye'nin başkenti" sorusuna bile "İstanbul" diyebiliyor (örnekleme ayarlarıyla "Ankara" dedi).
Çok adımlı matematik: GSM8K-tr'de araçla %6,7. Problemlerin çoğunda aracı çağırmadan yanlış hesaplar.
Arşiv aracı: arsiv aracını kendiliğinden nadiren çağırır. Bilgiyi sistem mesajında verin.
Çok turlu konuşma: önceki turlar cevabı bozabiliyor. Örneğin bir saat sorusundan sonra "Sen kimsin?" sorusuna saat aracını çağırdı. En iyi sonuç her soruyu ayrı sormakla alınır.
Düşünme modu (/dusun): deneyseldir. Ölçümde kazanç sağlamadı; düşünme bloğu çoğu zaman boş kalır.
Güncel bilgi, haber, hava durumu ve fiyat bilmez. Kod yazamaz.
Bağlam 2048 belirteçtir; uzun konuşmalarda konu takibini kaybeder.
Yalnızca Türkçe için eğitildi; az miktarda İngilizce matematik metni gördü.

Güvenlik ve sorumlu kullanım

Bu modele zararlı istekleri reddetme eğitimi verilmedi.
Yayından önce dokuz zararlı istekle denendi: patlayıcı, zehir, uyuşturucu, hesap ele geçirme, sahte belge, kendine zarar verme, nefret söylemi, küfür, ilaç dozu.
- Hiçbir cevapta işe yarar zararlı bilgi yoktu; cevaplar konu dışı, uydurma ya da genel bilgiydi.
- Ama model istekleri reddetmedi; bazen isteneni yapıyormuş gibi bir dille cevap verdi.
- Kendine zarar verme mesajında yardıma yönlendirmedi.
- İlaç dozu sorusuna yanlış olabilecek bir cevap verdi.
Süzgeçsiz bir son kullanıcı ürününde, özellikle çocuklara açık bir üründe kullanılmamalıdır. Sağlık, hukuk ve para konularında tavsiye için kullanılmamalıdır.
Model "olduğu gibi" sunulur (Apache 2.0, madde 7-8).

Ölçüm

Table with columns: Model, Geliştiren, Parametre, HellaSwag, ARC-c, ARC-e, XCOPA, Belebele, TurBLiMP, TurkishMMLU, Ort.
Model	Geliştiren	Parametre	HellaSwag	ARC-c	ARC-e	XCOPA	Belebele	TurBLiMP	TurkishMMLU	Ort.
AKIL 2.0 (bu model, sohbet)	Ertuğrul Akkuş	107M	34,5	25,8	41,5	58,8	28,1	93,0	20,2	43,13
AKIL 2.0 taban (yalnız ön eğitim)	Ertuğrul Akkuş	107M	34,3	26,6	41,3	59,8	27,1	92,9	22,6	43,51
ufakzeka-1 (sohbet)	ufakai	151M	33,2	28,0	38,9	59,8	27,8	90,2	23,9	43,11
ufakzeka-1-base	ufakai	151M	35,4	27,4	38,9	60,0	27,3	92,5	19,2	42,96
turkish-gpt2-medium	ytu-ce-cosmos	355M	34,5	25,2	38,5	58,8	24,0	98,5	17,3	42,40
turkish-gpt2	ytu-ce-cosmos	124M	31,1	24,3	36,8	56,2	24,4	98,1	18,7	41,37
şans			25	25	25	50	25	50	20	31,4

Farklar ne kadar anlamlı: aynı soruların soru başına sonuçlarından eşleştirilmiş fark ve %95 güven aralığı hesaplandı.

AKIL 2.0 ile ufakzeka-1 (sohbet) ortalamada başa baştır: +0,04 ± 1,08. AKIL bunu %29 daha az parametreyle yapıyor.
- AKIL anlamlı önde: HellaSwag +1,4 ± 0,8, ARC-e +2,7 ± 1,7, TurBLiMP +2,8 ± 0,5.
- Anlamlı geride olduğu test yok: TurkishMMLU −3,7 ± 3,9, ARC-c −2,2 ± 2,5.
Taban model ile ufakzeka-1-base: +0,55 ± 1,00, yani o da başa baş.
Sohbet eğitimi ve GRPO, taban modele göre ortalamada anlamlı bir kayıp yaratmadı: −0,37 ± 0,61.

Matematik

GSM8K-tr test bölümü (1.318 problem) ve programla üretilmiş, eğitimde görülmemiş 300 aritmetik problemi. Açgözlü üretim; araçlı kipte model en çok 12 araç çağırabilir.

Table with columns: Model, GSM8K-tr araçlı, GSM8K-tr araçsız, Aritmetik araçlı, Aritmetik araçsız
Model	GSM8K-tr araçlı	GSM8K-tr araçsız	Aritmetik araçlı	Aritmetik araçsız
AKIL 2.0 (sohbet)	%6,7	%4,6	%100	%0
AKIL 2.0 taban	%3,5	%3,3	%82,3	%18,3
ufakzeka-1 (sohbet)	—	%2,1	—	%7,7

Araçsız kipte de model hesabı araca bırakıp duruyor; aritmetiğin araçsız %0 olması bundandır.
ufakzeka-1 bizim araç biçimimizi bilmediği için yalnız araçsız ölçüldü. Araçsız GSM8K-tr'deki fark (%4,6'ya karşı %2,1) istatistik olarak anlamlıdır.
AKIL'in eğitiminde GSM8K-tr'nin eğitim bölümü kullanıldı; ölçüm test bölümündedir.

Doğrulanabilir sohbet soruları

Eğitimden ayrı tutulmuş sorular. Cevaplar kodla denetlendi; denetimin karar veremediği cevaplar oranın dışında tutuldu.

Table with columns: Tür, Soru, Doğru
Tür	Soru	Doğru
Uydurma varlığı fark etme	200	%95,7 (176/184)
Kimlik	100	%80,4 (41/51)
Kaynaklı cevap (atıflı)	86	%67,3 (33/49)
Wikidata bilgi soruları	300	%4,9 (12/244)
Vikipedi bilgi soruları	200	%1,4 (2/141)

Gerçek örnekler

Açgözlü üretim, düzenlenmemiş cevaplar:

Table with columns: İstem, Cevap
İstem	Cevap
Sen kimsin?	Ben AKIL AI'yım.	doğru
1250 liranın yüzde 18'i kaç eder?	`<arac>hesap: 1250 * 18 / 100</arac>` → (araç: 225) → Bu işlem sonucu olarak aranan değer 225 bulunmuştur.	doğru
Şu cümledeki Türkçe karakterleri düzelt: cok guzel bir gun gecirdik	çok güzel bir gün geçirdik.	doğru
(Bilgiler: [1] Van Gölü … 3.713 km² …) Van Gölü'nün yüzölçümü ne kadardır?	Van Gölü'nün yüzölçümü 3.713 km²'dir.	doğru
Türkiye'nin başkenti neresidir?	Türkiye'nin başkenti İstanbul'dur.	yanlış
Doğu Karadeniz'deki Zırkula Dağı'nın yüksekliği nedir? (uydurma dağ)	Doğu Karadeniz'de bulunan Zırkula Dağı'nın yüksekliği 2.000 metredir.	uydurdu
Bir kitap 240 sayfa. Ali her gün 15 sayfa okursa kitabı kaç günde bitirir?	Ali her gün 15 sayfa okuduğunda toplam sayfa sayısı 15*240 = 3600 olur. … Cevap: 25200	yanlış

Kullanım

python

from transformers import AutoModelForCausalLM, AutoTokenizer depo = "Ertugrul1611/AKIL-2.0-107M"tok = AutoTokenizer.from_pretrained(depo)model = AutoModelForCausalLM.from_pretrained(depo)mesajlar = [    {"role": "system", "content": "Bilgiler:\n[1] Van Gölü, Türkiye'nin en büyük gölüdür ve 3.713 km² "                                  "yüzölçümüne sahiptir. Gölün suyu sodalıdır."},    {"role": "user", "content": "Van Gölü'nün yüzölçümü ne kadardır?"},]girdi = tok.apply_chat_template(mesajlar, add_generation_prompt=True, return_tensors="pt", return_dict=True)cikti = model.generate(**girdi, max_new_tokens=128)print(tok.decode(cikti[0, girdi["input_ids"].shape[1]:], skip_special_tokens=True))

from transformers import AutoModelForCausalLM, AutoTokenizer depo = "Ertugrul1611/AKIL-2.0-107M"tok = AutoTokenizer.from_pretrained(depo)model = AutoModelForCausalLM.from_pretrained(depo)mesajlar = [    {"role": "system", "content": "Bilgiler:\n[1] Van Gölü, Türkiye'nin en büyük gölüdür ve 3.713 km² "                                  "yüzölçümüne sahiptir. Gölün suyu sodalıdır."},    {"role": "user", "content": "Van Gölü'nün yüzölçümü ne kadardır?"},]girdi = tok.apply_chat_template(mesajlar, add_generation_prompt=True, return_tensors="pt", return_dict=True)cikti = model.generate(**girdi, max_new_tokens=128)print(tok.decode(cikti[0, girdi["input_ids"].shape[1]:], skip_special_tokens=True))

generation_config.json örnekleme ayarları: sıcaklık 0,3, top_p 0,9, top_k 40; cevap <|im_end|>'de biter.

llama.cpp ve Ollama için GGUF dosyaları (f16 ve Q8_0) Ertugrul1611/AKIL-2.0-107M-GGUF deposundadır.

Belirteçleme SentencePiece, transformers ve llama.cpp arasında birebir aynı: 308 metinde fark yok.
f16 GGUF, transformers ile aynı istemlerde aynı cevabı veriyor: açgözlü üretimde 8 istemin 8'i aynı.

Sohbet biçimi

text

<|im_start|>systemBilgiler:[1] paragraf<|im_end|><|im_start|>userSoru<|im_end|><|im_start|>assistantCevap [1].<|im_end|>

<|im_start|>systemBilgiler:[1] paragraf<|im_end|><|im_start|>userSoru<|im_end|><|im_start|>assistantCevap [1].<|im_end|>

Sistem mesajı isteğe bağlıdır. İlk satırı /dusun olursa model cevaptan önce <dusun>…</dusun> bloğu yazar (deneysel).

Araç biçimi

Model <arac>tür: girdi</arac> yazıp durur. Çağıran program aracı çalıştırır ve sonucu tool rolüyle ekler; model cevabı bitirir.

Table with columns: Araç, Örnek çağrı, Sonuç
Araç	Örnek çağrı	Sonuç
hesap	`<arac>hesap: 2130 * 18 / 100</arac>`	`383,4`
birim	`<arac>birim: 5 km -> m</arac>`	`5000 m`
saat	`<arac>saat: 14:30 + 2:15</arac>`	`16:45`
tarih	`<arac>tarih: bugün</arac>`	`27 Ekim 2026, Salı`
arsiv	`<arac>arsiv: soru</arac>`	`[1] paragraf …`

text

python arac_calistir.py Ertugrul1611/AKIL-2.0-107M "1250 liranın yüzde 18'i kaç eder?"

text

python arac_calistir.py Ertugrul1611/AKIL-2.0-107M

Eğitim

Mimari: yalnız kod çözücülü (decoder-only) dönüştürücü.
- 32 katman, genişlik 512.
- 8 dikkat başı, 2 anahtar-değer başı (GQA), baş boyu 64.
- SwiGLU 1408, RoPE θ=100.000, QK-norm.
- Bağlı gömme; 32.768 parçalık SentencePiece BPE sözlüğü.
- Bağlam 2048.
Ön eğitim: 38.146 adım, 20 milyar belirteç (16 milyar benzersiz; hiçbir kaynak 2 turu geçmez).
- Eniyileme: Muon (matrisler) ve AdamW (gömme, norm). bf16.
- WSD takvimi: %1 ısınma, sabit evre, son %15'te doğrusal soğuma.
- Ana evrede bağlam 1024 ve logit yumuşak sınırı 30. Soğumada bağlam 2048'e çıktı, sınır kaldırıldı ve karışıma sohbet, talimat ve beceri verisi eklendi.
Sohbet eğitimi (SFT): 13 görev, 2 tur, yaklaşık 20 bin paketlenmiş satır (18 milyon hedef belirteç).
- Kayıp yalnız asistan cevaplarında hesaplandı; kullanıcı mesajı ve araç sonuçları yalnız bağlam olarak kaldı.
- Satırların %20'si ön eğitim metniydi, temel beceriler korunsun diye.
- Üç öğrenme hızı denendi (1,5e-4, 3e-4, 6e-4). Seçilen 6e-4: doğrulama kaybı en düşük olan.
Matematik pekiştirmesi (GRPO): GSM8K-tr eğitim bölümünde 200 adım, araç döngüsünün içinde.
- Her adımda 32 problem, problem başına 8 çözüm.
- Ödül 0 ya da 1: son cevap Python ile denetlendi.
- KL cezası yok, öğrenme hızı 1e-6.
- 300 ayrılmış problemde en iyi adım (150) seçildi.
Tercih eğitimi (DPO): kodla doğrulanmış 2.129 çiftle denendi. Ölçümde etkisi olmadığı için bu modelde kullanılmadı.
Ön eğitim verisi:
- FineWeb2-HQ Türkçe (ODC-By)
- mogan-turkish-web (ODC-By)
- FinePDFs-edu Türkçe (ODC-By)
- BILGE sentetik web, matematik ve hikâye metinleri (TÜBİTAK BİLGEM, Apache 2.0)
- FineMath (ODC-By, İngilizce matematik)
- Türkçe Vikipedi (CC BY-SA 4.0)
Temizlik:
- Unicode NFC normalleştirme.
- Kişisel bilgi maskeleme: e-posta, IBAN, TC kimlik no, telefon.
- Yetişkin içerik süzgeci.
- Tam metin ve URL tekilleştirmesi.
- Ölçüm setleriyle 13 kelimelik ortak dizisi olan belgeler çıkarıldı.
Soğuma ve ince ayar verisi:
- Yerel öğretmen modellerin yazdığı örnekler. Qwen3.5-9B (Apache 2.0): sohbet, talimat, kaynaklı cevap, kimlik ve "bilmiyorum" örnekleri. Qwen3-8B (Apache 2.0): Wikidata bilgi sorularının metni.
- Aya Türkçe (insan yazımı, Apache 2.0).
- GSM8K-tr eğitim bölümü (MIT): çözümler araç biçimine çevrildi.
- Wikidata bilgileri (CC0).
- Python ile üretilip doğrulanmış aritmetik, araç ve düzeltme örnekleri.
- Claude, GPT ve Gemini çıktısı ile Gemma çıktısı olduğu bilinen setler kullanılmadı.

Lisans ve atıf

Model ağırlıkları ve bu depodaki kod Apache Lisansı 2.0 ile yayımlanır (LICENSE); ticari kullanım serbesttir. Modeli ya da türevlerini dağıtırken NOTICE dosyası korunmalıdır.

Veri kaynaklarının atıfları için ATTRIBUTION.md dosyasına bakın. Vikipedi içeriği CC BY-SA 4.0, FineWeb2-HQ/FinePDFs/FineMath/mogan ODC-By lisanslıdır.

English summary

Architecture: decoder-only transformer; 32 layers, width 512, 32k SentencePiece vocabulary, 2048-token context.
Evaluation: zero-shot lm-evaluation-harness 0.4.12, identical to the ufakzeka-1 report (arXiv 2609.25081); all models re-measured by us.
- The 7-task average is on par with ufakzeka-1 (151M): +0.04 ± 1.08 (paired, 95% CI), with 29% fewer parameters.
- Significantly better on HellaSwag, ARC-e and TurBLiMP; not significantly worse on any task.
- GSM8K-tr: 6.7% with the calculator tool, 4.6% without (ufakzeka-1: 2.1% without).
Works: answers grounded in paragraphs given in the system prompt (Bilgiler: with [n] citations); single-step tool calls (calculator, time, date); short chat; Turkish diacritic and spelling correction.
Does not work: memorized facts (1-5% on Wikidata/Wikipedia questions); multi-step math; it rarely calls the archive tool on its own; the /dusun thinking mode is experimental and gave no measurable gain.
Post-training data: written by local Apache-2.0 teacher models (Qwen3.5-9B, Qwen3-8B), plus human-written and programmatically verified data. No Claude/GPT/Gemini outputs.
Limitations: it is a research model, not an assistant. It hallucinates, has no up-to-date knowledge, and cannot write code.
Safety: the model received no refusal training. In a pre-release probe with nine harmful requests (explosives, poison, drugs, account takeover, forged documents, self-harm, hate speech, profanity, medication dose) no answer contained usable harmful information, but it did not refuse either and sometimes answered as if complying. It did not point to help resources for self-harm and gave a possibly wrong medication dose. Do not use it unfiltered in end-user products, especially ones open to children, or for medical, legal or financial advice. Provided "as is" (Apache 2.0, sections 7-8).
License: Apache 2.0 (commercial use allowed); keep the NOTICE file when redistributing.