Vistral-24B-Instruct (AWQ Quantized)
Описание
Это квантизированная версия модели Vikhrmodels/Vistral-24B-Instruct.
- Базовая модель: Vistral-24B-Instruct
- Метод квантизации: AWQ (4-bit)
- Downloads last month
- 89
Model tree for Chewye/Vistral-24B-Instruct-AWQ
Base model
mistralai/Mistral-Small-3.1-24B-Base-2503
Finetuned
Vikhrmodels/Vistral-24B-Instruct