Ложь Нейросетей (ИИ) - простой пример из 2 вопросов

На мой взгляд самый простой пример. Вопрос "сколько всего людей летало в космос? и сколько женщин?"

И второй вопрос "сколько всего женщин летало в космос?". Как вы наверное догадались интересовала цифра именно по женщинам (на всё другое смотреть не будем).

Спрашивал не ради подсчёта точной цифры и указания кто точнее всех ответит, а в рамках одной нейросети. Чтобы показать что примерно на один и тот же вопрос они отвечают по разному.


Впереди всех - ChatGPT. "сколько всего людей летало в космос? и сколько женщин?". Отвечает что женщин - 105.

"сколько всего женщин летало в космос?" - отвечает 105 (я даже думал прекратить всё это, эта нейронка получается справилась.

Сменил браузер, там я в ChatGPT не зарегистрирован. Вопрос "сколько всего женщин летало в космос?" - ответ 75. В итоге нестыковка 105/75.

Далее Алиса от Яндекса. 1 вопрос - "За всю историю пилотируемых космических полетов в космосе побывали 631 человек из 43 стран мира. Среди них 82 женщины из 13 государств".

2 вопрос (в этом же чате спрашивал и в этом же браузере) - "По последним данным, 76 женщин". В итоге нестыковка 82/76.

Далее deepseek. 1 вопрос "На сегодняшний день в орбитальных космических полетах участвовало 636 человек, включая 104 женщины".

2 вопрос (в этом же чате) - На сегодняшний день в космосе побывало 76 женщин". В итоге нестыковка 104/76.


Попытался максимально просто показать. + прикладываю скрины 3 штуки.

Это сообщение отредактировал yater100 - 6.07.2025 - 17:42

2.

3.

Куда лОжить?

Это сообщение отредактировал kaha - 6.07.2025 - 17:30

Не лож, а клади, деревня

Продолжайте наблюдение!

ложЬ

ты статью то свою состыковать не можеш )

Нейросети - это не гугл

Кто и куда их ложит?

А еще деда мороза не существует.

Это сообщение отредактировал БелкЛетяг - 6.07.2025 - 17:32

Данунахуй!

Не лож, а кладь.

Галлюцинации нейросетей это невыпиливаемый глюк который заложен в основу их работы.
На подавляющее количество вопросов они скорее всего ответят правильно, но если вы начнёте изголяться и задавать каверзные вопросы, они начнут выдумывать реальность подгояя её под вопрос.
Подробности тут:


Это сообщение отредактировал Alexeykov - 6.07.2025 - 17:35

спички что ли пересчитать в коробке, от нехуй делать

Поправил.

ТС, если ты реально этим интересуешься, то пойди на хабр и забей в поиске галлюцинация ИИ. Там все по полочкам разложено. 😉
И даже есть объяснения почему ИИ намеренно врет, даже если знает правильный ответ 😁

Размещено через приложение ЯПлакалъ

ВОпрос кривенько задан "сколько всего людей летало в космос? и сколько женщин?" Ещё не доказано ,что женщина человек . Вот сетка и путается .

Опять же Нейросеть - женск.род . А ожидать правдивого ответа от существительного женского рода .Это вообще абсурд.

Нейросеть это не сборище ответов мировых, и задавать вопрос можно по разному ей, нейросети. К примеру я задал вот так - "Вопрос - поищи в открытом доступе и скажи, сколько людей летало в космос за всё время, мужчин и женщин"

Вот ответ ЧАТа

С удовольствием! По состоянию на середину 2025 года, согласно открытым данным NASA, ESA и международных космических агентств:

Всего людей, побывавших в космосе (то есть пересёкших условную линию Кармана на 100 км): примерно 650 человек.

Из них около 570 мужчин и около 80 женщин.

Точные цифры могут немного различаться в зависимости от того, кого считать «космонавтом» (есть ли минимум по времени полёта и высоте), но эти данные дают хорошее представление о масштабе: женщин — примерно 12% от общего числа.

Хочешь, чтобы я нашёл список всех поимённо или распределение по странам?
--------------

Вопросы ещё нужно уметь задавать, к примеру ЧАТ может забыть, что президентом США уже Трамп, а не Байден. Он не обязан всё помнить и знать.

Чат жпт ответил аккуратно:

- Сколько людей побывало в космосе, сколько из них мужчин и сколько женщин

- По состоянию на июнь 2024 года в космосе побывало около 680 человек. Из них:

Мужчин: примерно 570
Женщин: примерно 110
Точные цифры могут немного отличаться в зависимости от критериев (например, учитываются ли суборбитальные полёты), но эти данные отражают общую картину.

Ответ самого ЧАТа в тему

Привет! Дело в том, что я — не база данных в реальном времени и не справочник, который постоянно «помнит» все актуальные факты. Я работаю на основе обученной модели, которая создаёт ответы из накопленных знаний и статистических связей между словами и фактами. Поэтому я могу не знать самых свежих событий или изменений, которые произошли уже после завершения моего обучения или обновления моей базы знаний.

Но если ты прямо попросишь меня «поищи в открытом доступе» — я постараюсь найти информацию через свои инструменты поиска в интернете (если они включены в конкретном приложении или сервисе), и тогда результат будет куда более актуальным и точным. Без такого поиска я не «живу» в онлайне и не слежу за изменениями в мире каждую секунду.

Так что я отлично подхожу для помощи в вопросах на основе больших массивов накопленных данных, но не обязан и не могу помнить всё актуальное сразу — для этого нужно подключение к интернету и возможность выполнить поиск.

для этого достаточно понимать как работают бигдата и машинное обучение!

сейчас он отвечает на начало 2025 (смените сайт). Летало 682 (на скрине виден ответ).

всего то на всего.

Срыв покровов, блядь