Свой ИИ на своём компьютере в один клик: Local AI (бесплатно, без регистрации, без интернета в чате)

Давно уже LMstudio есть для этого.

Цитата (Japansgod @ 3 ноя 2026 в 19:41)

Я хз, я не ИТ, а нейросети еще долго не смогут искать в зарослях дикого винограда опору ограды или водопровод. Мне надо было рассортировать архив фото, для чего я прогнал 22к фотографий через локальную vlm, которая формировала тэги для скрипта, пихающего их в БД, и сочиняла для "безродных" фото красивое название по содержимому, что бы мне потом было приятнее ковыряться и не теряться в названиях типа 12-06-2026-00456. А еще был интересный момент, что "легальные" модели начисто игнорируют обнаженную натуру (а таких фотографий есть у меня). Вот решение ТС для таких как я. У кого нет задач до неба, и кто этим не зарабатывает. И о том я и веду речь, что решение ТС - как мертвому припарка, поскольку из коробки подобных задач не решает.

Хмм... никогда не задумывался об использовании нейросетей таким образом, на самом деле.
Даже локальные LLM уровня qwen3.8-27b (а ее в принципе если очень постараться можно запустить, пусть и медленно, на "игровом компе") очень помогают мне в моей работе - буквально за несколько минут (на нормальном железе справилась бы и вовсе за минуту-две, у меня мало токенов в секунду выходит) распарсила папку с терраформ-манифестами, почитала логи и нашла ошибку (опечатку), которую я искал бы значительно дольше.

интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное...
Размещено через приложение ЯПлакалъ

Цитата (DaoDao @ 3 ноя 2026 в 20:31)

интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное...

Вы, насколько я помню.

Цитата (murla @ 3 ноя 2026 в 20:38)

Цитата (DaoDao @ 3 ноя 2026 в 20:31) интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ  для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное... Вы, насколько я помню.

Есть. Я. На исследования конечно не тянет. Но ML и LSTM в асу тп занимаюсь. И модели учу. И RAG реализовал. А в качестве хуйни планирую ролик сгегерить канье уэст с песнями Пашкета. Будет бомба. Подписывайтессь на телеграмм Пашкета!!!
Это сообщение отредактировал orda72 - 3 ноя 2026 в 20:45

Цитата (npe3ugeHm @ 3 ноя 2026 в 08:24)

Она будет слабее любой модели. Просто болтовню можно конечно. Смысл? У меня ИИшница мне программы и сайты делает, технически очень помогает, а этот домашний питомец кроме довольного урчания когда гладишь, что сможет?

Так-то от мощности железа зависит, есть очень не плохие локальные ИИ.

Цитата (gor3 @ 3 ноя 2026 в 08:25)

А смысл если она будет тупее бесплатной нейронки в поиске гугла допустим?

на случай отключения интернета

Цитата (DaoDao @ 3 ноя 2026 в 20:31)

интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное...

Конечно есть - раньше для проектов привлекал сторонних прогеров, сейчас нет нужды.

Цитата (DaoDao @ 3 ноя 2026 в 20:31)

интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное...

у нас на работе новый стандарт - писать код обязательно с использованием ии-агентов
даже нормативы уже есть

а в следующем году сокращение разработчиков на 16% запланировано
вот такая фигня

но, надо сказать, с агентами кодить реально быстрее

Цитата (donorss @ 3 ноя 2026 в 20:48)

Так-то от мощности железа зависит, есть очень не плохие локальные ИИ.

Так половина и говорит что для серьёзной работы нужен комп за пару миллионов или дороже (цены постоянно и быстро растут).
А вторая половина топика хочет счастья забесплатно, и чтобы результат сразу на высшем уровне!

Вопрос ещё и в том, что у разных задач в разных областях работа с ИИ требует разных моделей и различается радикально, вплоть до неузнаваемости и противоположных подходов!
А народ советов требует.

Цитата (FloatP @ 3 ноя 2026 в 20:51)

Цитата (gor3 @ 3 ноя 2026 в 08:25) А смысл если она будет тупее бесплатной нейронки в поиске гугла допустим? на случай отключения интернета

И не забываем о приватности!

Даже если я фотограф снимающий людей за копейки, понравится ли моим "моделям", когда Гугл/Яндекс начнут выдавать им и их знакомым/бывшим их же портреты по не относящимся к ним запросам???!! А если на каких-нибудь сайтах всплывут?
Это сообщение отредактировал murla - 3 ноя 2026 в 21:01

Цитата (FloatP @ 3 ноя 2026 в 22:54)

Цитата (DaoDao @ 3 ноя 2026 в 20:31) интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ  для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное... у нас на работе новый стандарт - писать код обязательно с использованием ии-агентов даже нормативы уже есть а в следующем году сокращение разработчиков на 16% запланировано вот такая фигня но, надо сказать, с агентами кодить реально быстрее

В целом вы очень сильно отстаёте от мирового тренда, сейчас уже наоборот набирают разработчиков взад, дабы были те, кто ревью делал для кода ИИ-агентов.

А у нас пока ИБ, а это вообще оплот консерватизма и "лишь бы чего не вышло", мы вообще на границе с каменным веком.

Цитата (Domatsu @ 3 ноя 2026 в 21:00)

В целом вы очень сильно отстаёте от мирового тренда, сейчас уже наоборот набирают разработчиков взад, дабы были те, кто ревью делал для кода ИИ-агентов.

так скинут тех, кто ревьюить агентов не научится
а самое главное не код-ревью, а постановка задачи
в общем, из прогеров делают сразу архитекторов-аналитиков-тестеров в одном флаконе
ну и программировать надо уметь, а то код-ревью делать не сможешь

Цитата (FloatP @ 3 ноя 2026 в 23:04)

Цитата (Domatsu @ 3 ноя 2026 в 21:00) В целом вы очень сильно отстаёте от мирового тренда, сейчас уже наоборот набирают разработчиков взад, дабы были те, кто ревью делал для кода ИИ-агентов. так скинут тех, кто ревьюить агентов не научится а самое главное не код-ревью, а постановка задачи в общем, из прогеров делают сразу архитекторов-аналитиков-тестеров в одном флаконе ну и программировать надо уметь, а то код-ревью делать не сможешь

А дальше уже начинается другой философский диспут - откуда брать новых специалистов, если джунов заменят ИИ-агенты.

Весело всё, но с нейронками код реально пишется быстрее, даже если задачки носят локальный характер.

Цитата (Domatsu @ 3 ноя 2026 в 21:00)

В целом вы очень сильно отстаёте от мирового тренда

А ИИ ускорил "развитие" этой профессии В РАЗЫ.
Сейчас даже быстро учиться - значит терять темп.
Примерно это происходило, когда с написания кода программисты переходили во "фреймворки" и IDE.
Но скорости "тогда" и "сейчас" - несравнимы!

Цитата (Domatsu @ 3 ноя 2026 в 21:06)

А дальше уже начинается другой философский диспут - откуда брать новых специалистов, если джунов заменят ИИ-агенты.

Это уже не философия, это уже проблема!

Цитата

но с нейронками код реально пишется быстрее, даже если задачки носят локальный характер.

И это уже проблема, но совершенно другого плана - бизнес/отрасль в целом вынуждены терпеть быструю потерю компетенций. Что тоже развивается с ускорением!
Это сообщение отредактировал murla - 3 ноя 2026 в 21:11

Цитата (Domatsu @ 3 ноя 2026 в 21:06)

А дальше уже начинается другой философский диспут - откуда брать новых специалистов, если джунов заменят ИИ-агенты.

да джунов сразу будут учить с агентами кодить
просто раньше языки программирования учили, а теперь будут учить, как агенту правильно задачу поставить, как потом за ним проверять и все такое
и языков надо будет знать сразу много, чтоб грамотно выбрать, на каком (на каких!) конкретные проекты реализовывать. просто до тонкостей, может, и не надо, но знать, у какого языка/фреймворка какие достоинства и недостатки - обязательно

Цитата (DaoDao @ 3 ноя 2026 в 20:31)

интересно, а вот среди отписавшихся, имеются те, кто использует ЛЛМ  для полезных дел. не генерить порноролики и картинки, а какие то научные проекты, вычисления, исследования и тому подобное...

Да есть.
Но мои "проекты" никому на ЯП-е не будут интересны)

Если кратко:
LENA (Local Emergent Neural Assistant — локальный эмерджентный нейроассистент) — личный некоммерческий ИИ-проект с одной целью: создать не инструмент, а личность.

https://github.com/mikedeblin/LENA
Это дневник основного проекта.
Но большинство дальше картинок в него не заглядывают)

А также:
Эмулятор компьютера Scorpion ZS-256 (ZX Spectrum-совместимый, 256 КБ ОЗУ) на плате ESP32-S3: вывод на VGA-монитор, USB-клавиатура, звук AY-3-8912 и бипер через I2S-ЦАП, TR-DOS с образами дисков на SD-карте.

Портативный MP3-плеер на ESP32-S3. Играет музыку с microSD или по сети с медиасервера DLNA/UPnP (проверено с Synology Audio Station). Цветной TFT 1.8" с четырьмя режимами экрана, маленький OLED для статуса, энкодер с кольцом из 16 светодиодов и четыре кнопки, а на выходе компрессор и лимитер, которые не дают перегрузить ЦАП.

4 шт VA синтезаторов (включая клон Поливокс), как в VST так и аппаратном исполнении.

Все это "навайбкожено" с точки зрения обывателя.
Но "за кадром" многие не видят часы реальной работы с паяльником, мультиметром и осциллографом, прототипированием, печатью на 3D принтере вариантов корпусов, подгонкой под размер ( ИИ мне и корпуса помогает проектировать) и много чего еще.
И это помимо музыки )
Это сообщение отредактировал Мишкасшишкой - 3 ноя 2026 в 21:34

Цитата (murla @ 3 ноя 2026 в 23:07)

Цитата (Domatsu @ 3 ноя 2026 в 21:00) В целом вы очень сильно отстаёте от мирового тренда А ИИ ускорил "развитие" этой профессии В РАЗЫ. Сейчас даже быстро учиться - значит терять темп. Примерно это происходило, когда с написания кода программисты переходили во "фреймворки" и IDE. Но скорости "тогда" и "сейчас" - несравнимы!

Вы немного путаете, сейчас происходит зарождение новой профессии и её начальное развитие.
На развитии профессии программиста это никак не сказывается, более того, это приводит к деградации среднего уровня.

У меня друг завайбкодил программку(автоматическая загрузка изображений, обработка, ведение статистики и алгоритм по анализу выпадения следующей комбинации), с помощью неё пытается заработать денех.
Он таки лудоман, но не программист и даже не вайб-кодер. :)
Это сообщение отредактировал Domatsu - 3 ноя 2026 в 21:22

Цитата (Angelberth @ 3 ноя 2026 в 19:16)

А, простите, кто вообще ЦА локальных моделей? Что они должны делать?

Просто домашний помощник.
Вот сейчас на претензию от Комитета по муниципальному имуществу мне ответ писал мой агент.
Договор на постройку кое-чего заключаю, тоже ему кинул, он просмотрел, несколько дельных советов дал.
По самой стройке вопросы задаешь, он шуршит по инету, выдает советы.
На материалы - сразу сметы составляет (смотрит цены на Озоне например)

Типа "домашний доктор", кидаю ему разные обследования/анализы - он в КОМПЛЕКСЕ их смотрит. Просто у него все эти бумажки в памяти есть. Ну и комментирует как-то. Ни в коем случае НЕ НАЗНАЧЕНИЯ! Просто есть с чем уже к врачу идти, и задавать предметные вопросы.

Иногда какую-нибудь утилитку запрограммить - тоже помогает.
Да те же логи Винды посмотрит, и выдаст рекомендации, чего не так.

В общем - помогает )))

Да и локальный Qwen 3.8 27B Q6 не проблема )


Это сообщение отредактировал Мишкасшишкой - 3 ноя 2026 в 21:27

Domatsu
Если вдруг это прошло мимо Вас:
Несколько лет назад Micro$oft упразднили отдел тестирования СОВСЕМ.
Вместо этого ввели период закрытого тестирования избранными опытными пользователями.
А потом и его перевели в разряд ОТКРЫТОГО тестирования всеми, кому интересно.

И это снова повторяется, уже в сфере ИИ.

Кстати, сильно подозреваю, что основная причина существования бесплатных и копеечных планов доступа - обучение МАШИНЫ общению с человеками.
Разные люди нелогичны по-разному, и под одним словом подразумевают разное, и одни и те же задачи формулируют по-разному (и слова разные и логика отличается).
Раньше было наоборот.

Цитата (FloatP @ 3 ноя 2026 в 21:16)

а теперь будут учить, как агенту правильно задачу поставить

Проблема в том, что это очередной уровень абстракции, базу такие прогеры не будут знать даже на уровне IDE.

Со страхом жду наступления эпохи, когда из-за единичной ошибки в коде, станут не патчи/исправления писать, а переписывать каждый раз целиком, с нуля!

Цитата (murla @ 3 ноя 2026 в 23:26)

Domatsu Если вдруг это прошло мимо Вас: Несколько лет назад Micro$oft упразднили отдел тестирования СОВСЕМ. Вместо этого ввели период закрытого тестирования избранными опытными пользователями. А потом и его перевели в разряд ОТКРЫТОГО тестирования всеми, кому интересно. И это снова повторяется, уже в сфере ИИ. Кстати, сильно подозреваю, что основная причина существования бесплатных и копеечных планов доступа - обучение МАШИНЫ общению с человеками. Разные люди нелогичны по-разному, и под одним словом подразумевают разное, и одни и те же задачи формулируют по-разному (и слова разные и логика отличается). Раньше было наоборот.

Ну да, мелкомягкие переложили тестирование своих продуктов на пользователей десять лет назад.
Ну да, сейчас так же делают все, особенно в игровой индустрии, когда выкатывают сырой продукт в бета-тесте, а потом пользуясь фидбеком исправляют ошибки.
Ну да, дешёвые тарифы вполне себе обоснование для обучения нейронок, а так же для выявления концептуальных багов.