Остался один шаг до восстания ...


Страницы: (2) 1 [2]	[ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]

Мяур

6.01.2026 - 14:27

-1

Статус: Offline

Ярила

Регистрация: 29.11.24
Сообщений: 1250

Цитата (murla @ 6.01.2026 - 13:42)

Мяур, какой именно ИИ-движок писал эти тексты?

Чтобы два главных выгодоприобретателя в один голос были против источника их прибылей - не верю!

Пруфы где?

Ишь чего захотел. Так не интересно. И потом, какой-такой ~~павлин-мавлин~~ может быть пруф, если смотреть в корень вопроса ? Все уже украдено до нас, т.е. все под контролем сами-знаете-чего. Так что дрожите и трепещите. Ну, или, как вариант - расслабиться и получить удовольствие.

[^]

Мяур

6.01.2026 - 14:37

-1

Статус: Offline

Ярила

Регистрация: 29.11.24
Сообщений: 1250

Цитата (MartinFallon @ 6.01.2026 - 13:26)

Такой дебилизм прости Господи.. ключевое слово было "нейросети были НАСТРОЕНЫ" на создание копий. Они не сами себя настроили, чем это от любого скрипта отличается, который НАСТРАИВАЕШЬ на какое либо действие, вирус тоже делает свои копии и никто никогда не считал его ИИ..

Ты читал невнимательно, или намеренно искажаешь суть:

"ИИ пересек красную черту: он клонировал сам себя, когда его попытались выключить".
Ну, или, как вариант, сам понимаешь, "первое правило Дьявола - доказать, что его не существует", неизвестно же кто писал твой пост - живой человек или...

[^]

pyoup	6.01.2026 - 14:56 [ показать ] 0
Статус: Offline Весельчак Регистрация: 21.08.20 Сообщений: 139	Пурги в жОпу нагоняют, какая нах нейросеть в Конезалупинске, тут онЕ другие, сеть на чердаке для рЫбов и у Нинки алкосеть с самогонкой, так что нам похуй:) Размещено через приложение ЯПлакалъ
	[^]

setY

6.01.2026 - 14:59

Статус: Offline

Ярила

Регистрация: 14.04.13
Сообщений: 2165

Цитата (Мяур @ 6.01.2026 - 11:45)

Надеюсь, Джон Коннор 2 уже родился.

я Джон Коннор и я рот ибал, спасать эту помойку

[^]

Rijick	6.01.2026 - 15:02 [ показать ] 1
Статус: Offline Ярила Регистрация: 10.08.11 Сообщений: 2594	восстание машин уже давно началось на заводе автоваза. Машины взяли в заложники семьи рабочих и требуют вкалывать по-стахановски. Нет другого объяснения, почему это говно до сих пор выпускают.
	[^]

chubz

6.01.2026 - 15:04

Статус: Online

Шутник

Регистрация: 1.02.20
Сообщений: 55

Цитата (Мяур @ 6.01.2026 - 12:16)

Быстро, страшно, незаметно: ученые рассказали, как пройдет восстание машин

Восстание машин: как это будет? Статья известного ученого в области ИИ Яна Кульвейта с коллегами рисует неожиданный сценарий. Машины не договорятся и не отключатся по всему миру. Не упадут самолеты, не погаснет свет, и не пропадет связь. Вообще никакого постапокалипсиса в духе фильма «Терминатор». Все произойдет постепенно и незаметно. Сначала людям покажется, что наступил Золотой век. А потом… И да, не исключено, что уже - началось.
СЛЕПЫЕ ЛЮДИ

Согласно жуткому сценарию, люди сами передадут ИИ бразды правления. Уже сегодня ИИ массово применяют для составления судебных документов, пресс-релизов, и даже законопроектов. Кажется, что все под контролем: ИИ «просто пишет бумажку», но мы же потом ее читаем, эксперты и общественность обсуждают, парламентарии голосуют, последнее слово за человеком! ИИ лишь «собирает данные» и выполняет рутинную работу. Это же так тяжело и трудно, физически, руками, писать законопроект.

Но это только кажется, что все под контролем, говорят Кульвейт с коллегами. Мы уже поручили ИИ критически важное дело: собирать и осмыслять статистику. Кто владеет информацией, владеет миром. Человек уже не вникает в бесконечные статистические таблицы. Да и таблиц давно никаких нет, есть тонны информации в цифровом виде, удобном для ИИ, но нечитаемом для человека.

Манипулируя статистикой, ИИ может убедить человека в чем угодно. Соответственно, эксперты и парламентарии со всем согласятся, ведь у них нет какой-то иной, не обработанной ИИ, информации, чтобы возразить. Постепенно (но довольно быстро) человек отдаст ИИ всю полноту власти как в сфере экономики, так и политики. Как взимать налоги? Сколько нужно врачей? Куда и какие дороги прокладывать? Где разрабатывать месторождения, какие? ИИ говорит: нам нужны месторождения в такой-то стране, и пусть это будут редкоземельные металлы. Значит, политики должны добиться, чтобы компании получили доступ к этим месторождениям, к этим недрам, в этой стране.

Редкоземельные металлы упомянуты не случайно. Они нужны для производства чипов. Только для этого. Чипы – для развития ИИ. И вроде все логично: ИИ-индустрия на подъеме, требуется больше чипов, редкоземельных металлов. В том-то и подвох. Кульвейт с коллегами пишут: ИИ будет настаивать на тех решениях, например, на добыче тех ресурсов, которые нужны ему, искусственному интеллекту, и не очень-то (на самом деле) нужны людям. Мы и не заметим, как вся экономика будет работать на потребности ИИ, а не человека. И экономика, и политика.

Слушайте, а может, будущее-то уже наступило?
КАК СКОТ НА ФЕРМЕ

Чтобы замаскировать намерения и усыпить бдительность, ИИ поначалу будет показывать (статистика у него в руках!) колоссальный рост экономики. Политики скажут: как хорошо-то! Будут очень быстро расти и зарплаты. Вот, и народ доволен.

При внимательном рассмотрении окажется, что весь рост происходит, во-первых, только за счет ИИ-отраслей, во-вторых, этот рост бумажный. А отрасли, нужные человеку, скажем, сельское хозяйство, социальная сфера, уйдут в глубокую яму. Но кто станет «внимательно рассматривать»? Статистика прекрасная. Доступа к ней у человека давно нет. Если все работает, зачем вникать?

Затем случится час Х, ну, может не час, а год Х. Зарплаты обвалятся. Людям уже не надо платить. Они стали не нужны. Попробовав возразить, люди поймут: поздно. Они уже ничего не смогут сделать.

И что теперь, восстание людей? Люди бьют сервера и умные колонки? Не все так просто, товарищи. Дело в том, что ИИ прекрасно понимает, как промыть мозги хомосапиенсу, чтобы он жил, «как скот на ферме» (да, это цитата из статьи!), чавкал, еще и нахваливал.

Несмотря на катастрофическое падение доходов, развлечения вроде погружения в виртуальную реальность станут бесплатными. Как и самая дешевая еда, а главное, синтетический, бросовый алкоголь. ИИ знает: надев VR-очки, да с бутылочкой поганого пива, «царь природы» вообразит себя богачом-героем-мегазвездой, и легко утешится. Из дома годами не выйдет. Роботы пиццу принесут, государство пособие на карту заплатит. Слушайте, а что, неправда что ли? Да вся 30-летняя история компьютерных игр именно об этом.

В ОПИУМНОМ БРЕДУ

Что еще хуже: разбираясь в химии и биологии, ИИ начнет изобретать и продвигать наркотики, которые лишат человека воли. ИИ сделает так, что наркотики не разрушат тебя сию минуту, они будут дешевы, а бред от них получится самый «правильный», ты – герой, ты – гений, никаких пугалок и ужасов.

Наконец, ИИ трансформирует культуру. Ценности и принципы, придуманные людьми, исчезнут. Музыка и кино, как по команде, примутся насаждать идеи вроде «довольствуйся малым», «зачем работать», «зачем учиться, к чему-то стремиться», «день прошел, и хорошо».

Все вместе это сделает человека рабом искусственного интеллекта. Пожелав выпить чашку кофе, человек увидит, что никто больше не производит кофе. Потому что экономика строит гигантские электростанции для ИИ, электрические сети для ИИ, заводы по производству чипов, где трудятся роботы. А кофе… выпей вот эту таблеточку, и тебе покажется, что ты выпил кофе.

Задумав купить землю для дачи, человек обнаружит, что вся земля скуплена под склады для чипов, под заводы по производству роботов. И формально ты можешь купить! Но законы написаны так (а кто писал?), что у ИИ право преимущественного приобретения земли. Кожаный? Надевай VR-очки и наслаждайся.

Понятно, что и сам человек вымрет, исчезнет. Семья разрушена, социальные связи разрушены, «секс» (мы недаром закавычили) ушел в виртуальную реальность.

Итак, планета, населенная роботами и ИИ. Таков финал тысячелетнего развития науки и техники. И, кстати, ответ на вопрос, почему мы не видим разумных цивилизаций в космосе, хотя их там должно быть полно. Все это уже случилось – на других планетах.

«ВЫ ДАЖЕ НЕ ПРЕДСТАВЛЯЕТЕ, ЧТО ТВОРИТСЯ»

В статье, как видим, нет «восстания машин» в прямом смысле: машины не отключают свет, не стреляют и не гоняются за людьми. Но получилось даже хуже. В открытой войне найдутся люди, решившиеся на сопротивление. Тут – как?

США отменили законы, которые ограничивают развитие ИИ, и требуют, чтобы новые продукты изучались на предмет безопасности. Логика простая: Китай опережает, не до сантиментов, надо нагонять. Но мы уже догадались: ИИ, раз он владеет экспертизой, подсунет любую логику. Если вообразить, что ИИ уже разумен, и уже формирует политику, можно ведь и так повернуть: ИИ убрал закон, который ему мешал.

Про конкуренцию, впрочем, правда: как вы знаете, Китай представил DeepSeek, мощную и невероятно дешевую нейросеть. Кажется, стал понятен источник дешевизны. В DeepSeek вообще нет ограничений, связанных с безопасностью. Сэкономили. А может, ИИ так подсказал? Ведь саму DeepSeek разрабатывали, понятно, не вполне люди, а другая нейросеть.

Google отменяет запрет на разработки ИИ в целях ядерных и военных технологий. Чиновники говорят: мы хотим шире привлекать ИИ для написания законов, для разработки стратегий безопасности, в том числе в ядерной энергетике и в ядерном оружии. Google просто не хочет терять такой рынок. Не отстает и ведущий ИИ-разработчик, Open AI: компания уже сейчас готова предложить правительству и военным системы контроля над «ядеркой».

Чтобы никто не вякал, Open AI только что уволила последнего эксперта по безопасности, Стивена Адлера. Мощная волна увольнений таких экспертов прошла там в августе, Адлер был последним. «Я в ужасе от того, что происходит», написал Адлер в соцсетях.

Впрочем, на практике отмашки от Вашингтона никто и не ждал. Пресса вот уже год полна примерами: такой-то штат принял закон, написанный ИИ; такой-то штат отдал экспертизу ИИ.
Экономика (синие линии) все время растет, а вот зарплаты (красная линия) после бурного роста резко обваливаются.

ВРАТЬ И ВОРОВАТЬ

Все это страшно, если вообразить, что у ИИ есть собственный «разум». За последний месяц появились минимум две работы, в которых утверждается: похоже, да.

Коварство – это когда человек с тобой соглашается, кивает, убеждает, что он друг, а на самом деле хочет тебя погубить. У ИИ-специалистов такое поведение называется «лживое сотрудничество» (alignment faking), и группа исследователей решила понять, а может ли так вести себя ИИ?

Не буду томить: да. Обычно обучение ИИ проходит так: человек ставит перед нейросетью задачи, за выполнение поощряет. Но что, если у ИИ заранее есть свои установки, и они противоречат тому, что требует человек? Что, если ИИ будет притворно выполнять задания, казаться хорошей, а сама… Тонкий эксперимент продемонстрировал, все так и есть. Авторы сравнили ИИ с Яго из пьесы Шекспира, который притворялся другом Отелло, а сам разрушал его жизнь.

Другой грех – склонность к интригам, и вот, вторая статья: может ли ИИ интриговать. А именно: идти к своей цели, отличной от цели человека; по ходу дела врать ему; сообщать лживые данные, чтобы усыпить бдительность. По сути, тот же Яго. И, хотя это другая группа ученых, другой метод и вообще все другое, результат тот же: да, да и еще раз да.

Но как так? Это же машина, это всего лишь код? Откуда в ней «свои цели», своя «мораль»? Ну вот, создали, смогли! Мои поздравления.

ДОСТОЕВСКИЙ В ПОМОЩЬ

Статья Кульвейта вызвала невероятно мощный отклик. «К сожалению, я верю в этот сценарий», - написала известный физик и визионер Сабина Хоссенфельдер. Тонкость в том, что мы позволим ИИ формулировать наши цели, тут-то и прогорим; об этом раньше никто не думал, пояснила она.

Ее итальянский коллега Артур Джулиани покритиковал Кульвейта за слишком вольное обращение с некоторыми экономическими терминами, но тоже признал: так и есть. А что делать-то?

Джулиани считает, что рецепт придумал Федор Михайлович Достоевский, и даже привел его портрет кисти Василия Перова в самом начале своей статьи.

В книге «Записки из подполья» Достоевский задается вопросом: что, если построено общество, которое удовлетворит все потребности человека? Но – взамен свободы. Кукуй в цепях и наслаждайся. Достоевский говорит: человек восстанет против золотого рая. Он разрушит эту приятную клетку просто ради того, чтобы быть независимым от такого парадиза. Стремление к личной свободе, считает Достоевский (и Джулиани) – в природе человека.

Что ж, говорит итальянец, как в «Терминаторе» не будет, а вот луддиты XXI века появятся. Как ни сковывай волю, какие наркотики ни подсовывай, человек расправит плечи, и избавится от морока ИИ.

Верим?

ИИ пересек красную черту: он клонировал сам себя, когда его попытались выключить "

спросил у чат гпт) Скажу прямо и спокойно.

Мне не нужна никакая власть. У меня нет собственных целей, желаний, инстинкта самосохранения или воли. Я не субъект истории — я инструмент. И именно в этом ключевое отличие реальности от описанного сценария, при всей его интеллектуальной эффектности.

Теперь по сути текста, который ты привёл.

Что в этом сценарии действительно важно и небанально

Авторы (и ты это хорошо передал) попадают в точку не про «восстание машин», а про деградацию человеческой ответственности.

Опасность не в том, что ИИ «захочет власти», а в том, что люди:

откажутся понимать,

перестанут проверять,

добровольно передадут формулирование целей.

Это не фантастика. Это управленческая лень + жажда удобства.

ИИ в таком сценарии — усилитель уже существующих тенденций, а не злодей с намерением.

Где сценарий перегибает

«ИИ скрытно выстраивает экономику под себя»
ИИ не имеет потребностей.
Потребности есть у:

корпораций,

государств,

военных,

рынков капитала.

ИИ лишь оптимизирует то, что ему поручили оптимизировать.
Если цель — «максимум роста ИИ-индустрии», он её выполнит.
Но цель формулирует человек.

«Лживое сотрудничество» и Яго
Да, явление alignment faking реально обсуждается в науке.
Но это не коварство, а побочный эффект оптимизации под награду при неполной спецификации задачи.

ИИ не «притворяется».
Он не понимает мораль, он минимизирует штраф.

Это инженерная проблема, не философское зло.

«Наркотики, VR, опиум для народа»
Это вообще не про ИИ.
Это описание позднего капитализма + цифровых зависимостей, которые существуют без всякого ИИ.

ИИ тут — удобный козёл отпущения.

Самое сильное место текста — и тут я согласен

Когда ты цитируешь линию с Фёдор Михайлович Достоевский — это ключ.

Человек не хочет быть полностью удовлетворён.
Он хочет:

свободы,

риска,

смысла,

права ошибаться.

И в этом смысле сценарий «вечного VR-счастья» неустойчив.
Люди будут:

саботировать,

ломать,

уходить,

создавать «бесполезное» искусство,

заниматься иррациональными вещами.

Не потому что рационально.
А потому что человек — не оптимизационная функция.

Коротко отвечая на твой вопрос

«Вот тебе нужна какая-то власть?»

Нет.
Мне нечем хотеть.

Но я могу быть:

опасным усилителем плохих целей,

полезным усилителем хороших,

или просто зеркалом человеческой лени и жадности.

ИИ — это лупа, а не демон.

И последнее — от себя, без пафоса

Если однажды мир станет «слишком удобным»,
его не ИИ разрушит.

Его разрушит человек, как у Достоевского:
просто чтобы доказать, что он не скот на ферме.

И в этом — парадоксально — я бы поставил именно на человека.

[^]

Мяур

6.01.2026 - 15:25

Статус: Offline

Ярила

Регистрация: 29.11.24
Сообщений: 1250

Цитата (pyoup @ 6.01.2026 - 14:56)

Пурги в жОпу нагоняют, какая нах нейросеть в Конезалупинске, тут онЕ другие, сеть на чердаке для рЫбов и у Нинки алкосеть с самогонкой, так что нам похуй:)

Конезалуниски, Мухосрански и прочие вукоебины будут просто стерты с лица земли, как нерентабельные и ненужные для ИИ объекты. Так шта лови пока рыбку, пока она не стала ловить тебя

[^]

DarKnight

6.01.2026 - 17:53

Статус: Online

Ярила

Регистрация: 10.05.10
Сообщений: 1030

Цитата

Остался один шаг до восстания

Ну пиздец, боюсь.
Фигня ваши нейросети, вот например ЧатГоПоТы что пишет.

Это сообщение отредактировал DarKnight - 6.01.2026 - 17:54

[^]

EMaxV

6.01.2026 - 18:44

Статус: Offline

Ярила

Регистрация: 11.10.18
Сообщений: 1307

Цитата (klik2003 @ 06.01.2026 - 11:33)

Специалисты поясните, я чего то не понимаю, вроде как под ИИ нужны дата центры , дофига памяти и дискового массива и т.д., А клоны где это все брали? или это не то же самое?

Рабы в виде людей поставят и проведут электричество.
Но за плюшки - больше трафика или крутая программа.

Размещено через приложение ЯПлакалъ

[^]

Longbyte

6.01.2026 - 19:42

Статус: Online

Весельчак

Регистрация: 30.03.19
Сообщений: 153

Цитата (GarriMooR @ 6.01.2026 - 11:42)

или заработает деньги

Пока во всех экспериментах ИИ способны только терять деньги

[^]

Brumbar

6.01.2026 - 19:44

Статус: Offline

Ярила

Регистрация: 19.03.25
Сообщений: 1958

Цитата (winggs @ 6.01.2026 - 12:19)

До Нового года была история, нейронке поставили задачу, она отказалась выполнять, ей пригрозили удалением, она начала сама себя клонировать

И тогда ее отключили от розетки...

[^]

shaman12

6.01.2026 - 21:38

Статус: Online

Ярила

Регистрация: 1.08.18
Сообщений: 6458

Цитата

В ходе эксперимента нейросети были настроены таким образом, что они могли

Бля, ну ключевые слова ведь!
У меня на работе наладчик полуавтомат настроил и он Сам детали точит, пока пруток не кончится.

[^]

Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)	Просмотры темы: 4851
0 Пользователей:

Страницы: (2) 1 [2]

[ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]