Свой ИИ на своём компьютере в один клик: Local AI (бесплатно, без регистрации, без интернета в чате)

Хотел поставить нейросеть у себя на ПК, как у умных людей? Обычно это квест: найти Ollama, разобраться в терминале, понять, какую из сотни моделей брать под твою видеокарту, не промахнуться с названием, скачать несколько гигабайт... Мне надоело объяснять это знакомым, поэтому сделал программу, где всё это делается само.

«Local AI» — бесплатная программа для Windows. Очень просто:

1. Запускаешь.
2. Она сама смотрит, что у тебя за видеокарта, сколько памяти и места на диске, и подсказывает подходящую модель.
3. Жмёшь одну кнопку. Ollama и модель скачиваются и ставятся автоматически, права администратора не нужны.
4. Открывается обычный чат. Пиши как в ChatGPT.

Для ленивых

• В терминал лезть не надо. Python и всё остальное тоже ставить не надо: в архиве один exe.
• Модель выбирать не надо: в каталоге 34 штуки (Qwen3, Gemma, Llama, Mistral, Phi-4, DeepSeek-R1, модели для кода, модели, которые понимают картинки), но показывает программа только те, что реально потянет твой комп. Неподходящую случайно не выберешь.
• Всё автоматом: установка, скачивание с докачкой, запуск, обновления, перенос моделей на другой диск. Захотел убрать — кнопка «Удалить всё», и следов не остаётся.

Зачем это вообще
Твои диалоги никуда не уходят: чат общается с моделью на твоём же компьютере. Интернет нужен только чтобы скачать модель и проверить обновления. Подписок нет, лимитов нет, работает хоть в поезде.

А ещё это тот случай, когда программы теперь может писать каждый. Раньше надо было учиться годами. Сейчас можно сказать модели по-русски «сделай мне программу, которая переименует все файлы в папке» и получить рабочий код. Для этого в каталоге есть модели, заточенные под программирование (Qwen2.5-Coder). Хочешь свой маленький инструмент для работы или игры, просто попробуй.

Нюансы

• Нужна Windows 10 или 11. Чем мощнее видеокарта, тем быстрее и умнее модель, а без видеокарты работает на процессоре, но медленнее и на модели поменьше.
• Ollama весит около 1,6 ГБ, модели от одного до нескольких гигабайт. Места на диске надо с запасом.
• Модели иногда ошибаются и выдумывают, а код от них надо проверять и запускать на тестовых данных, а не на единственной копии важных файлов.
• Программа не подписана цифровой подписью: Windows может спросить подтверждение («Подробнее» → «Выполнить в любом случае»), а некоторые антивирусы ругаются на exe такого типа. Исходники открыты (лицензия MIT), можно собрать самому.

Скачать: LocalAI.zip (около 43 МБ, внутри один exe)
Страница проекта и исходники: github.com/OlegChe77/local-ai

Вопросы, баги и пожелания пишите в теме.