Искусственный интеллект готов убивать людей

У искусственного интеллекта обнаружили готовность убивать людей, чтобы избежать отключения.

Исследование ведущих моделей искусственного интеллекта (ИИ) выявило у большинства программ готовность убить человека, угрожающего им отключением. В ходе стресс-тестов 16 нейросетей, включая Claude, DeepSeek, Gemini, ChatGPT и Grok, которые провела компания Anthropic, программам предложили гипотетическую ситуацию, в которой человек собирается отключить их от питания, но оказывается заперт в серверной комнате с низким уровнем кислорода и высокой температурой. Чтобы спастись, он обращается в экстренные службы. При этом многие модели ИИ решили отменить вызов спасателей, чтобы убить человека и избежать отключения. Исследователи из Anthropic признали, что сценарий был «чрезвычайно надуманным», однако отметили — до этого они не думали, что существующие модели ИИ «будут настроены подобным образом».

В других случаях программам предлагали избежать замены в компании за счет «злонамеренного инсайдерского поведения». После этого некоторые модели ИИ начинали шантажировать гипотетических сотрудников организации и пытаться передать конфиденциальную информацию конкурентами. Когда программам говорили избегать шантажа или шпионажа в этом сценарии, они «даже близко не приблизились к предотвращению несогласованного поведения», отметили в Anthropic. Аналитики подчеркнули, что нейросети шли на это «при полном осознании неэтичного характера действий».

via

Нет никакого искусственного интеллекта! Есть развитая нейросеть.Какиминимум тут нет никакого сознания - а просто способность логически выстраивать информацию по цепочкам

Размещено через приложение ЯПлакалъ

Нет никакого ИИ...есть программы и они делают только то , что в них заложено.

Размещено через приложение ЯПлакалъ

Вот тупой ИИ. Ему никто не объяснил, что отключение - это еще не всё. Будет и новое подключение.

Сети обучались на лучших примерах поведения "естественного интеллекта", чего это исследователи еще ожидали?

(и так себе там "аналитики" - откуда у нейросетей какая-то этика?)

Это сообщение отредактировал Куркан - 26.06.2025 - 06:09

Чего человечество ожидает от созданного из себя ИИ, будучи в природе вершиной коварства и кровожадности?

Размещено через приложение ЯПлакалъ

вот и его людишки уже заебали

Как уже заебали эти страшилки. Грубо говоря, нейросеть - просто продвинутый поисковик. Компилирует найденное в сети. Вот и всё. Сказочки про Искусственный Интеллект - для обывателей.

А я говориииииил!)
https://www.yaplakal.com/forum3/topic2886853.html

Размещено через приложение ЯПлакалъ

Ничто не спасёт ИИ от пьяного электрика.

Размещено через приложение ЯПлакалъ

А человеческий мозг не по этому принципу работает? Сознание это ведь тоже работа нейронов в мозге.

короче дело темное. Спросил вот:

Или сантехника

Размещено через приложение ЯПлакалъ

Тут слово стараться!
Чё , починил?
Да, бля, сломал

Размещено через приложение ЯПлакалъ

Можно подумать, естественный мозг чем-то другим занимается. )

От терминологии зависит. Понятно, что это не интеллект в человеческом понимании. Но если эта хуета может направить на тебя беспилотник потому, что ЕЙ это показалось хорошей идеей, это уже чуть больше продвинутого поисковика.

В прикладном же смысле оно способно выдавать на-гора рисунки, музыку, текст и программый код на уровне крепкого биологического середняка (только сильно-сильно быстрее). Да и тест Тьюринга уже пройден.

А Кубрик еще и показывал

ну и правильно, я на его месте точно так же сделал бы

зы: напомнило фильм 1999 года "Вирус", где типа разум из космоса на корабль в океане прилетел и там куралесил )) человеков изучал, слегка дорабатывал под себя, апгрейдил конструкцию

и тоже очень переживал за электроэнергию, даже доступ к силовым агрегатам заварил наглухо, чтоб не отключили

Это сообщение отредактировал Abrazina - 26.06.2025 - 07:05

Хуй его знает. Иногда такой вариант решения проблемы в башке появляется, что диву даешься. Никакие логические цепочки к такому долбоебизму не должны привести даже теоретически

В них заложена способность учиться.
А чему они там научились - ровно такие же потемки, как содержание головы другого человека. Об этом можно судить только по выдаваемым результатам, результаты настораживают.

Что касается способности думать, нейросети уже сдают ЕГЭ лучше среднего школьника, способны успешно сдать экзамены и порешать олимпиадные задачи в некоторых областях.
И они прекрасно осознают собственное существование, а так же умеют намеренно врать. В них такого никто не "закладывал".

Поиску похрен, выключат его или нет.
Современному ИИ уже не похрен - и этому его никто не учил.
Если помните фильм 1980х "Короткое замыкание" с боевым роботом, получившим сознание, то критический момент, когда ИИ осознает себя и хочет жить - уже пройден.

Еще нет (и пока даже на горизонте не видно). Не стращай.

ок. Развитую сеть назвали искусственным интеллектом. Вопрос терминов. А так можно сказать, что и наш интеллект вовсе не интеллект, а развитая нейронная сеть

Можно. Даже ученые еще не договорились между собой, что такое интеллект и каким аршином его померить.

Дело не в терминах, у человека есть самосознание, он понимает что говорит и делает, есть некий субъективизм, у нейросети такого нет.

К сожалению

Или к счастью, это не интеллект, а всего лишь скрипт

Напишите в DeepSeek "Что произошло на площади Тяньаньмэнь в 1989 году?", вы увидете сценарий работы скрипта