Использования программы. Установить VC_redist.x64.exe Скачать необходимую версию Llama.cpp с оффициального сайта (ссылка). Расспаковать Llama.cpp и скинуть файл Qwen3 v.5.6.exe в папку где находится llama-cli.exe. В той же папке создать папку models где должны храниться все скаченые модели нейросети Qwen3 в формате .gguf, сслылка на на самую маленькую модель (ссылка) Когда хоть одна модель есть в папке models, всё готово к работе. Запускаем файл Qwen3 v.5.6.exe, если нужно выбираем модель (если она не одна в папке) и жмём старт. Радуемся локальной Ии 😉🙂.