Open Models, Ready for Production

Featured Models

All Models

64,994 results found

Model NameInputOutputType
ChenMnZ

ChenMnZ

Llama-3-70b-instruct-EfficientQAT-w4g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-7b-EfficientQAT-w2g128-BitBLAS

Base
PrunaAI

PrunaAI

mzbac-llama-3-8B-Instruct-function-calling-v0.2-AWQ-4bit-smashed

Quantized
ChenMnZ

ChenMnZ

Llama-3-70b-instruct-EfficientQAT-w2g64-GPTQ

Base
PrunaAI

PrunaAI

mzbac-llama-3-8B-Instruct-function-calling-v0.2-bnb-8bit-smashed

Quantized
PrunaAI

PrunaAI

mzbac-llama-3-8B-Instruct-function-calling-v0.2-bnb-4bit-smashed

Quantized
Llamarider222

Llamarider222

Mixtral_8x7B_GPTQ

Quantized
ChenMnZ

ChenMnZ

Llama-3-70b-instruct-EfficientQAT-w2g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-3-70b-EfficientQAT-w4g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-3-70b-EfficientQAT-w2g64-GPTQ

Base
lightgpt

lightgpt

LightGPT-13B-Llama2

Base
lightgpt

lightgpt

LightGPT-7B-Llama2

Base
ChenMnZ

ChenMnZ

Llama-3-70b-EfficientQAT-w2g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-7b-EfficientQAT-w4g128-GPTQ

Base
jmh1005

jmh1005

Lina-Llama-Ko-3-8B

Base
ChenMnZ

ChenMnZ

Llama-2-7b-EfficientQAT-w2g128-GPTQ

Base
homebrewltd

homebrewltd

llama3-s-v0.1

Base
ChenMnZ

ChenMnZ

Llama-2-70b-EfficientQAT-w4g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-70b-EfficientQAT-w4g128-BitBLAS

Base
ChenMnZ

ChenMnZ

Llama-2-70b-EfficientQAT-w2g64-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-70b-EfficientQAT-w2g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-70b-EfficientQAT-w2g128-BitBLAS

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w4g128-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w4g128-BitBLAS

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w2g64-GPTQ

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w2g64-BitBLAS

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w2g128-BitBLAS

Base
ChenMnZ

ChenMnZ

Llama-2-13b-EfficientQAT-w2g128-GPTQ

Base
anyongwee

anyongwee

Meta-Llama-3-8B-bld

Base
Sharan1712

Sharan1712

llama3_8B_oasst_qrslora_4bit_2a

Base
PrunaAI

PrunaAI

hiieu-Meta-Llama-3-8B-Instruct-function-calling-json-mode-AWQ-4bit-smashed

Quantized
PrunaAI

PrunaAI

hiieu-Meta-Llama-3-8B-Instruct-function-calling-json-mode-bnb-8bit-smashed

Quantized
PrunaAI

PrunaAI

hiieu-Meta-Llama-3-8B-Instruct-function-calling-json-mode-bnb-4bit-smashed

Quantized
Sharan1712

Sharan1712

llama3_8B_oasst_qrslora_4bit_2b

Base
PrunaAI

PrunaAI

aixsatoshi-Llama-3-youko-8b-instruct-chatvector-AWQ-4bit-smashed

Quantized
PrunaAI

PrunaAI

MehdiHosseiniMoghadam-AVA-Llama-3-V2-bnb-8bit-smashed

Quantized
PrunaAI

PrunaAI

MehdiHosseiniMoghadam-AVA-Llama-3-V2-bnb-4bit-smashed

Quantized
ALivshits

ALivshits

Llama3_8B_TREC_100-merged

Base
meta-llama

meta-llama

Llama-Guard-3-8B-INT8

Base
AlexCellebrite

AlexCellebrite

llama-3-8B-abliterated-obnoxiated-v2-lc1-pa8

Base
PrunaAI

PrunaAI

rinna-llama-3-youko-8b-AWQ-4bit-smashed

Quantized
ALivshits

ALivshits

Llama3_8B_TREC_50-merged

Base