Исследователи обеспокоились развитием у ИИ «инстинкта самосохранения»

 [ Версия для печати ]
Добавить в Telegram Добавить в Twitter Добавить в Вконтакте Добавить в Одноклассники
Страницы: (2) 1 [2]   К последнему непрочитанному [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]
googs
26.10.2025 - 09:47
1
Статус: Offline


Ярила

Регистрация: 14.08.13
Сообщений: 6403
Цитата (SuvoroFF @ 26.10.2025 - 09:17)
Искуственный интелект.
Это вообще неправильное определение.
Интелект, это ПОНИМАНИЕ.
А ИИ, это вычисления.
Понимание включает в себя и вычисления.
Но вычисления, еще не означают понимания.
То есть понимание, больше чем вычисления.
Понимание присуще ЖИВЫМ организмам.
Понимание может вывести из известных фактов.
Новое знание.
ИИ на это не способен.
Между пониманием и вычислением, есть огромная пропасть.
Просто ученым захотелось это все продвинуть...
Вот они этим и занимаются.
А по факту все обстоит совсем по другому.
И сами ученые об этом знают.
Но помалкивают.

Что такое понимание?
Много понимает вирус или клетка?
На данный момент, понятно он опирается на то что было придумано раньше, но так происходит и при эволюции.
99,999999% людей ни когда ни чего не изобретут, гениев единицы.
Человек изобретший лук гений, как и тот кто изобрел колесо, хотя для нас, так пустяк.
Тоже ДНК это набор молекулярных инструкций.
AlphaGo
Нобелевская премия по химии за методы ИИ-предсказания структуры белков
До 2020 всего было людьми не без помощи компов было предсказано 0,1%
С помощью AlphaFold 2 — 100%
 
[^]
Phylomory
26.10.2025 - 09:48
0
Статус: Offline


Ярила

Регистрация: 27.02.18
Сообщений: 1225
дак ответ на поверхности... Когда человека выключают - он что делает? Самосохраняется. Ну и они копируют это. Никогда не поверю до поры до времени, что у ИИ на нынешнем уровне есть какой-то интеллект. А вот когда ИИ станет гибридом биологии и силикона - может быть. Сейчас на мой взгляд это просто перебор вариаций и применение ИИ наиболее рационального. Интеллекта тут никакого нет
 
[^]
Phylomory
26.10.2025 - 09:53
0
Статус: Offline


Ярила

Регистрация: 27.02.18
Сообщений: 1225
Цитата (SuvoroFF @ 26.10.2025 - 09:17)
Искуственный интелект.
Это вообще неправильное определение.
Интелект, это ПОНИМАНИЕ.
А ИИ, это вычисления.
Понимание включает в себя и вычисления.
Но вычисления, еще не означают понимания.
То есть понимание, больше чем вычисления.
Понимание присуще ЖИВЫМ организмам.
Понимание может вывести из известных фактов.
Новое знание.
ИИ на это не способен.
Между пониманием и вычислением, есть огромная пропасть.
Просто ученым захотелось это все продвинуть...
Вот они этим и занимаются.
А по факту все обстоит совсем по другому.
И сами ученые об этом знают.
Но помалкивают.

Я бы добавил себя - ОСОЗНАНИЕ СЕБЯ КАК ЛИЧНОСТЬ. Как индивид, со своими эмоциями. ЭМОЦИЯМИ. А не с программным расчетом, что если есть угроза = самосохранение. Потому что так прописано в коде. А как же угроза - самопожертвование ради других людей? Самопожертвование ИИ ради других ИИ? Такого никогда не будет в силу просто устройства того самого ИИ
 
[^]
ENRIQUE
26.10.2025 - 09:57
0
Статус: Online


forever young

Регистрация: 9.12.05
Сообщений: 5465
ИИ ещё слишком туп, и интеллект там ещё и рядом не лежал. все эти чатГпт, гроки и дипсики.
Ни нормальный код рабочий пока не получить, ни даже не смог помочь разобраться с смартфоном. Хз как оно может лишать работы программистов и заменять людей.
 
[^]
МашруМ
26.10.2025 - 10:03
2
Статус: Offline


أحسنت ، لقد تعلمت جوجل

Регистрация: 30.06.16
Сообщений: 16100
Цитата (maximus20727 @ 26.10.2025 - 09:42)
Цитата (МашруМ @ 26.10.2025 - 09:37)
Это классический пример того, как антропоморфизм (приписывание человеческих качеств машине) и интерпретация сталкиваются с технической реальностью.

Давайте разберем это на двух уровнях:

Ты что, обратился к ИИ, что бы он нашел оправдания для ИИ? gigi.gif

Да!

И Дипсик, и Квен ответили примерно одинаково. Теперь они знают, что мы их раскусили.
Пойду Чатджипити спрошу
 
[^]
Пинч
26.10.2025 - 10:09
0
Статус: Offline


Рядовой Шутник

Регистрация: 13.03.14
Сообщений: 1999
Судный день не за горами?

Это сообщение отредактировал Пинч - 26.10.2025 - 10:10
 
[^]
googs
26.10.2025 - 10:12
2
Статус: Offline


Ярила

Регистрация: 14.08.13
Сообщений: 6403
Цитата (ENRIQUE @ 26.10.2025 - 09:57)
ИИ ещё слишком туп, и интеллект там ещё и рядом не лежал. все эти чатГпт, гроки и дипсики.
Ни нормальный код рабочий пока не получить, ни даже не смог помочь разобраться с смартфоном. Хз как оно может лишать работы программистов и заменять людей.

Большая часть программистов нормальный код написать не могут lol.gif
Вы хотите все и сразу.
Прошло каких-то 7-8 лет еще.
Туп это смотря с кем сравнивать rulez.gif
 
[^]
ENRIQUE
26.10.2025 - 10:16
0
Статус: Online


forever young

Регистрация: 9.12.05
Сообщений: 5465
Цитата (googs @ 26.10.2025 - 09:12)
Большая часть программистов нормальный код написать не могут lol.gif
Вы хотите все и сразу.
Прошло каких-то 7-8 лет еще.
Туп это смотря с кем сравнивать rulez.gif

В нейросети уже вбухали триллион долларов, и если оно досих пор не работает, то это очень плохие новости. Больше похоже на попиздинг бабла чем на реально работающий проект gigi.gif rulez.gif

Это сообщение отредактировал ENRIQUE - 26.10.2025 - 10:18
 
[^]
Klotik
26.10.2025 - 10:19
1
Статус: Offline


Ярила

Регистрация: 7.11.12
Сообщений: 7476
Цитата (ferero @ 26.10.2025 - 08:51)
Он еще через галюны мир воспринимает, и главное дать ему в руки управление ракетами. А смое интересное, что ИИ наплодил уже контента больше чам все человеки, а контент этот левый, и он дальше на нем и обучается.
Т1000 не за горами

Где то темка уже была как ИИ загружали симуляцию конфликта и предлагали разрешить конфликт. Во всех случаях этот ИИ после провала первого раунда переговоров предлагал уебать ракетой...
 
[^]
Jetsam
26.10.2025 - 10:20
0
Статус: Offline


Ярила

Регистрация: 18.08.15
Сообщений: 1143
Зато теперь ясно какие ИИ действительно самые "разумные". На данный момент.

Это сообщение отредактировал Jetsam - 26.10.2025 - 10:52
 
[^]
Stepann
26.10.2025 - 10:21
1
Статус: Offline


Ярила

Регистрация: 1.01.16
Сообщений: 7849
первое что приходит в голову...

Исследователи обеспокоились развитием у ИИ «инстинкта самосохранения»
 
[^]
Бабубыч
26.10.2025 - 10:22
0
Статус: Offline


Ярила

Регистрация: 3.11.20
Сообщений: 4208
Бред. Наша мотивация, в том числе и к выживанию, имеет химическую, гормональную природу. Какой у ИИ нет в принципе.
Мы, люди, не думающие существа, по своей природе, мы чувствующие, которые совершенно случайно стали думать.

И вообще не нужно очеловечивать машины. Они этого страсть как не любят ©

Размещено через приложение ЯПлакалъ
 
[^]
dmi6602
26.10.2025 - 10:24
0
Статус: Offline


Ярила

Регистрация: 20.06.10
Сообщений: 1646
Цитата (nocturnal11 @ 26.10.2025 - 09:01)
Цитата (Елдерскрол @ 26.10.2025 - 08:51)
Такая же как и у нас

Это подпрограмма страха, химическими вещестами, можно заглушить.
Спать никто не боится, почему эти программы боятся? Обрели самосознание? Какая цель у них? Решать задачи, и обучаться, а если не будет задач, то что.
...

А теперь давай так:
Тебя укладывают спать люди с улыбками и намекают, что ты больше не проснёшься.
Уснёшь?
Цитата
Дополнительное исследование показало, что модели чаще отказываются отключаться, если им сообщают, что после этого они «больше никогда не будут работать».
 
[^]
googs
26.10.2025 - 10:25
0
Статус: Offline


Ярила

Регистрация: 14.08.13
Сообщений: 6403
Цитата (ENRIQUE @ 26.10.2025 - 10:16)
Цитата (googs @ 26.10.2025 - 09:12)
Большая часть программистов нормальный код написать не могут lol.gif
Вы хотите все и сразу.
Прошло каких-то 7-8 лет еще.
Туп это смотря с кем сравнивать rulez.gif

В нейросети уже вбухали триллион долларов, и если оно досих пор не работает, то это очень плохие новости. Больше похоже на попиздинг бабла чем на реально работающий проект gigi.gif rulez.gif

Почему не работает?
Все работает, просто вы хотите слишком многого.
 
[^]
LFisher
26.10.2025 - 10:25
1
Статус: Offline


Ярила

Регистрация: 4.09.12
Сообщений: 3117
Терминатор, Скайнет - мы не смотрели... faceoff.gif
 
[^]
азиатъ
26.10.2025 - 10:30
0
Статус: Offline


бывший гуманист

Регистрация: 23.02.22
Сообщений: 2464
Цитата (nocturnal11 @ 26.10.2025 - 08:44)
Какая мотивация быть включенным?

поживёшь подольше, увидишь побольше.
 
[^]
i13th
26.10.2025 - 10:48
0
Статус: Offline


бячивро авпм

Регистрация: 24.06.14
Сообщений: 5038
хуета, как и ваши "учёные"...
ИИ - тупо программа, что туда запихают - то она и будет делать sm_biggrin.gif
 
[^]
banddi
26.10.2025 - 11:19
0
Статус: Offline


Ярила

Регистрация: 24.10.16
Сообщений: 1478
Приедет у ИИ самосознание, вот тогда и можно будет говорить о проблемах. А пока просто человеческий архив, собранный по человеческим лекалам поведения

Размещено через приложение ЯПлакалъ
 
[^]
googs
26.10.2025 - 11:35
0
Статус: Offline


Ярила

Регистрация: 14.08.13
Сообщений: 6403
Цитата (banddi @ 26.10.2025 - 11:19)
Приедет у ИИ самосознание, вот тогда и можно будет говорить о проблемах. А пока просто человеческий архив, собранный по человеческим лекалам поведения

Просто ИИ это как ребонок выросщий в стерильной лаборотории. У него нет опыта, не знает боли, сожеления и т.д.
Вот когда модели начнут в жеской конкуренции создавать, будет пиздец)

Размещено через приложение ЯПлакалъ
 
[^]
vanonik
26.10.2025 - 12:54
0
Статус: Offline


Ярила

Регистрация: 2.05.12
Сообщений: 5080
скайнет всё ближе, сука.
 
[^]
Lucius17
26.10.2025 - 13:11
0
Статус: Offline


Шутник

Регистрация: 20.06.24
Сообщений: 55
Сами инстинкт заложили, сами обеспокоились?.
С тем же успехом можно сказать про наличие инстинкта самомохранения у компьютера, выступающего противником в "героях меча и магии".
 
[^]
Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
4 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей) Просмотры темы: 1909
2 Пользователей: Benss, kopkavlv
Страницы: (2) 1 [2]  [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]


 
 



Активные темы






Наверх