Использования программы.
Установить VC_redist.x64.exe
Скачать необходимую версию Llama.cpp с оффициального сайта (ссылка).
Расспаковать Llama.cpp и скинуть файл Qwen3 v.5.6.exe в папку где находится llama-cli.exe.
В той же папке создать папку models где должны храниться все скаченые модели нейросети Qwen3 в формате .gguf,
сслылка на на самую маленькую модель (ссылка)
Когда хоть одна модель есть в папке models, всё готово к работе.
Запускаем файл Qwen3 v.5.6.exe, если нужно выбираем модель (если она не одна в папке) и жмём старт.
Радуемся локальной Ии
B