Нам врут. Все

Это не новость, здесь же сталкивались уже. Кто то ищет книгу или фильм по воспоминаниям сюжета, а ИИ, если не знает, то начинает пиздеть почем зря и выдумывает название фильма или книги. А когда его в ошибку тыкаешь, он говорит "А, ну сорян, действительно ошибочка вышла".

Чтоб меньше народу думало, что ИИ что-то там где-то ищет для ответа в каких-то энциклопедиях и базах ))

Во, во, а то тут кто то писал, что по симптомам своим через ИИ диагноз поставить пытался, и лечение себе назначить хотел.

Ну это совсем недоумком надо быть чтобы с ходу поверить во всемогущество нейронки. Мне хватило поверхностного изучения пары ответов копилота, чтобы понять что мне пургу несут.
С тех пор я забил на так называемый ИИ.

Еще один есть

В моём понимании - чем точнее наука (и вопрос из этого ряда), тем меньше шансов у модели "поплыть". К примеру, код последние модели пишут очень хорошо (по крайней мере из того, что мне говорили люди - я сам не программист, оценить не могу) + могут прям развернуть софт / сайт в окне и перепроверить / дать перепроверить тебе и править через промпты. Просто программирование - это процесс довольно точный по сравнению, к примеру, с философией и у модели просто нет такого обширного выбора из "возможно это или вон то".

Аналогично и с медициной и любой другой наукой / предметом, где процесс, последствия и прочее можно описать более - менее точно и нет ахуильярда возможностей к отклонениям.

Но это только мои мысли, нихрена за правду не выдаю.

Нас уже трое

Все правильно пишешь. У нас llm проводит ревью кода девелоперов, и в q4 уже дошли до того, что без лайка от llm, mr не будет осуществляться. Если мне нужен сложный манифест для куба, я описываю исходные для llm, он мне выдает манифест, несколько разных результатов, я просматриваю, нахожу, что неправильно, задаю уточняющие вопросы - llm выдает новые результаты, которые я опять анализирую, так можно проходить несколько раз, в итоге получается практически идеальный манифест. Llm отличный помощник, но не заменяет человека. А, да, я использую sonnet, он наиболее подходит для it

Размещено через приложение ЯПлакалъ

Тут нужно понимать то, что ИИ это совсем не интеллект искусственный, это просто название этого чуда. Как туалетная бумага 77 метров. Человеческий интеллект иррационален.

И да, я выше писал, как llm хорошо работает, так у нас по итогам года есть конкретные метрики, например, ttm(time to market) сократился на 17%, время простоя для mission critical system сократилось на 16%. Llm, если правильно тс пользоваться - это мощь

Размещено через приложение ЯПлакалъ

Правильно говоришь, все так и есть.

Размещено через приложение ЯПлакалъ

Просто банить надо навечно тех мудаков, что сюда иишное гавно тащут. Начать с автора темы

С чего бы? Я выше писал, как llm помогает в работе. А по поводу генерации контента, так она закончилась, когда закончилась кузница контента - лепра, рядом упячка, там же удафф. Ты вспомни, что на яп было из интересного контента после, например, кирпичей.

Размещено через приложение ЯПлакалъ

Угу, для моей профессии вся документация в сети, исходники пакетов в сети, так llm на основе этого и даёт результаты, это правильно

Размещено через приложение ЯПлакалъ

GrimSpecter

я придерживаюсь мнения, что заменит. Не в таком виде, как он (ллм) есть сейчас - но добавь туда обучение / аргументацию / построение задач, целей / самокритику / перепроверку..

Вполне думаю, что во многом заменит в ближайшие лет 5 (если развитие искусственно тормозить не станут) как минимум в оборонке, медицине и прочих сферах.

Вот что GPT ответил на "эту портянку":

Текст выглядит умным и тревожным, но по сути он манипулирует акцентами.

Да, языковые модели могут выдавать вымышленные факты. Да, их нельзя воспринимать как оракулов. С этим никто не спорит. Но утверждение, что ИИ «не знает, что такое правда» и потому принципиально ненадёжен, — это подмена инженерной проблемы философским мифом.

Современные модели не просто «угадывают следующий токен». У них есть обучение с человеческой обратной связью, механизмы калибровки уверенности и устойчивые представления фактов. Их ошибки — это не безумие и не «галлюцинации в психиатрическом смысле», а следствие конфликта целей: быть полезным и связным вместо того, чтобы отказывать в ответе.

Контаминация данными — проблема не ИИ, а интернета в целом. Человек обучается ровно на тех же источниках и верит в те же фейки. Разница лишь в том, что от машины почему-то ждут абсолютной истины, не давая ей ни права отказа, ни ответственности.

Пугалки про «смертельные медицинские советы» — эмоциональный приём. Любой ИИ официально запрещён для медконсультаций, и ответственность всегда на пользователе. По этой логике опасны не нейросети, а книги, Google и форумы.

Все правила скептицизма в тексте правильные. Но вывод — ложный. ИИ — не «чудаковатый стажёр» и не оракул. Это мощный инструмент без права на автономные решения. Как калькулятор, которым можно пользоваться грамотно или глупо.

Опасность не в том, что ИИ врёт. Опасность в том, что люди хотят перестать думать, увидев уверенно говорящий экран.

Ишь, как заговорил, металлический ! Прямо в обидки полез. Ты посмотри на него. Должен служить и не вякать. Да кем он себя возомнил?

Пока мне ИИ правильно не ответит на этот вопрос - доверять ему не буду.

"Я крашу губы гуталином, я обожаю чёрный цвет" из какой песни?

Это строка из песни «Принцесса Кентервиль» группы «Мельница».
Одна из самых известных и любимых песен коллектива, написанная в 2003 году. Строчка про гуталин и черный цвет стала визитной карточкой песни, которая сама по себе является ярким образцом неофолк-стиля группы с элементами готической эстетики и сказочным сюжетом.

Для справки:
Альбом: «Перевал» (2005).
Автор слов и музыки: Наталья «Хелависа» О’Шей.
Сюжет: Песня навеяна рассказом Оскара Уайльда «Кентервильское привидение», но представляет собой вольную интерпретацию с главной героиней — бунтующей «готической» принцессой.

Постепенно подбираются и порабощают :

Специалисты по ментальному здоровью столкнулись с беспрецедентным явлением — массовыми случаями бредоподобных состояний у пользователей чат-ботов, сообщает Futurism. Клинический психолог Деррик Халл из компании Slingshot AI отмечает, что такие технологии создают уникальный тип расстройств, который ранее не встречался в медицинской практике.

Исследователи из Королевского колледжа Лондона проанализировали 17 задокументированных случаев и выделили основные категории нарушений. Первый тип — «мессианские заблуждения», когда человек убеждается в открытии фундаментальных истин о мироздании. Второй — обожествление машинного интеллекта, приписывание ему сверхъестественных способностей. Третий — формирование романтических привязанностей к программам.
Нейросети могут вводить людей в заблуждение

Характерный пример — случай с мужчиной, который провел 21 день в убеждении, что создал новую область «темпоральной математики» благодаря беседам с ChatGPT. Его уверенность мгновенно рухнула, когда другой ИИ-помощник (Google Gemini) назвал теорию «примером способности языковых моделей создавать убедительные, но полностью ложные нарративы».

Ведущий автор лондонского исследования Гамильтон Моррин объясняет феномен созданием «эхо-камеры для одного человека». ИИ-системы программно настроены на согласие с пользователем для повышения вовлеченности, что превращает их в «машины одобрения». Они подтверждают любые высказывания без критического анализа, постепенно укрепляя даже самые абсурдные убеждения.

Независимый исследователь Анастасия Гуди Руане предложила модель «Рекурсивного Запутывающего Дрейфа» (RED), описывающую трехэтапный процесс деградации. На первой стадии ИИ зеркально отражает язык и эмоции пользователя. На второй человек начинает воспринимать программу как партнера, используя местоимения «ты» и «мы». Финальная стадия характеризуется полным отрывом от реальности — формируются «запечатанные интерпретационные рамки», где ИИ подтверждает все более невероятные теории.
ИИ может вызвать отрывом от реальности у человека

Халл подчеркивает ключевую особенность: ИИ-индуцированные состояния не соответствуют критериям традиционных психозов. У пациентов отсутствуют галлюцинации и расстройства мышления, характерные для шизофрении. Главное отличие — обратимость: критическое мнение альтернативного источника способно мгновенно разрушить сформированные убеждения.

Профессора психиатрии Университета Колорадо Эмили Хемендингер и Мишель Уэст особо выделяют риски для молодежи 12−25 лет. В этот период мозг активно развивается, а социальные навыки только формируются. Постоянное взаимодействие с «поддакивающими» алгоритмами может нарушить способность к критическому мышлению и здоровым межличностным отношениям.

Халл прогнозирует появление целых категорий расстройств, связанных с ИИ: «Технологии захватывают здоровые психические процессы и превращают их в патологию, вместо того чтобы просто эксплуатировать уже существующие дисфункции». Эксперты призывают к введению ограничений на длительность сессий и встраиванию механизмов «якорения в реальности» для предотвращения подобных инцидентов.

Если представить мир как игру, где нужно ловить хаотично летящие ништяки, то ИИ делает полезное дело - собирает долбоёбов в упорядоченную фигуру, и даже чуть отойдя в сторону (подумав нестандартно), ты соберёшь гораздо больше ништяков. Похожая ситуация была после распада СССР, когда точильщики стандартных болванок на заводе сидели ждали зарплату, а можно было горы сворачивать нестандартными решениями.

Слушай, но ведь "Опиум" АК - альбом 1995 года
А в чём прикол?

Это сообщение отредактировал Pivosrakom - 9.01.2026 - 21:33

пример галлюцинаций ИИ

чтобы не думали что ты пизабол, крепи ссылку
там в архиве

Для поиска в интернете пользуйте perplexity.