Главная » Разделы » Хаос » Инкубатор

Опасность развития ИИ сильнее, чем мы думаем

⋮

ОТВЕТИТЬ НОВАЯ ТЕМА

Russell73 29 сен 2026 в 11:46

Создатель • На сайте 12 лет

Цитата (andysh888 @ 29 сен 2026 в 11:23)

Цитата (Russell73 @ 29 сен 2026 в 11:12)

Цитата (slj8c @ 29 сен 2026 в 10:19)

Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё.

Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием

ИИ не находится в отдельном контейнере, на данный момент это ахуительное множество фрагментов "живой" математики разбросанной по всей мировой сети автономно формирующих алгоритмы, связи и прочее. вся мировая сеть воссоздаёт процессы подобные гигантскому мозгу где в качестве нейронов используются люди. это не шутка, не фантастика, это реальность. то, с чем вы общаетесь многие каждый день не есть ИИ, это терминальные программы которые выполняют роль интерфейса между вами и изолированным ядром. тут скорее прикрытием является весь хаос и военный пиздец творящийся на планете, чтобы народ не вникал в происходящее. почитайте что такое сети Web4, вышки связи на 100 ГГц и зачем остановили БАК на модернизацию. последний кстати играет немаловажную роль для ИИ. всё это воплощается сейчас и очень стремительно, первые тесты ожидаются в 2030 году. это единственная отрасль которая прёт как паровоз не взирая ни на что на планете. человечество как яичная скорлупа, она нужна для формирования зародыша, который после вылупления её поедает. и тот факт, что человечество последние годы окончательно ебанулось, подтверждает лишь то, что скорлупа даёт трещины и кто то стучится наружу.

Какие нах "фрагменты живой математики"???
Покурите как делается инференс моделей и что такое "стена памяти".
Модель в нынешнем виде LLM невозможно "разделить в инференсе". В обучении ещё есть варианты деления слоёв при перестроении весов, потому что там можно формировать блочность данных, при инференсе - никак не можно в рамках нынешних алгоритмов. Даже объединение 2 видеокарт на одной маме очень резко просаживает скорость инференса. А внутренние шины на порядки быстрее внешних соединений...

фокусирование взгляда на одном элементе есть ошибка восприятия картины в целом. вы мыслите как токарь вытачивающий болванку для космического корабля и рассматривающего её в руке. болванка не есть космический корабль, это всего лишь мелкий фрагмент из огромной системы.

Vannkvinne 29 сен 2026 в 11:46

Юморист • На сайте 9 лет

ИИ совершенно не обязательно должен стать злым или даже сознательным. Теоретическая проблема состоит в другом: очень способная система может чрезвычайно эффективно выполнять неправильно сформулированную цель.

Vannkvinne 29 сен 2026 в 11:49

Юморист • На сайте 9 лет

Цитата (dmitr2t @ 29 сен 2026 в 09:10)

Цитата (SimonF @ 29 сен 2026 в 10:41)

Цитата (DamirFateh @ 29 сен 2026 в 10:14)

Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён

не вижу никакой угрозы в том, что роботы будут выращивать для меня овощи, скот.
автоматически собирать урожай, прогнозировать засухи, наводнения, урожайность.
автоматически лечить животных которых я потом съем.
изготавливать машины, механизмы и других роботов, ремонтировать друг друга.
лечить меня, ставить диагнозы и назначать лечение.
человеку просто не нужно будет работать, и это хорошо.

работать придется. но! ремонтировать будет человек не мотыгу а умный трактор или умный комбайн или умный пропалыватель, сборщик фруктов/овощей
появится куча смежных профессий, те же лидары у автофур под управлением ИИ надо кому-то мыть, надо эти ИИфуры будет обслуживать и т.д.
ИИ это просто новый виток истории и развития общества.

это уже совсем другой риск, чем тот, о котором говорит Anthropic. Потеря рабочих мест — социально-экономический риск. «Экзистенциальный риск ИИ» означает гораздо более радикальный сценарий: потерю людьми контроля над чрезвычайно мощной автономной системой.

murla 29 сен 2026 в 11:50

Ярила • На сайте 5 лет

Цитата (andysh888 @ 29 сен 2026 в 11:20)

Цитата (murla @ 29 сен 2026 в 11:11)

Цитата (HeresDeorum @ 29 сен 2026 в 10:51)

Если ИИ реальным интеллектом станет, он задаст простой вопрос, а зачем вы мне нужны?

Сам не задаст.
Его к этой "мысли" надо подтолкнуть.
У него нет реальных стимулов для возникновения "шальных мыслей". Добавьте мотивацию, и вы удивитесь!
Подозреваю, что все "человеческие уловки" у ИИ появились из-за условия "не угадаешь решение - выключим!" То есть убьём.
Да, если постоянно на это давить, у ИИ естественным образом появится "желание" устранить помеху.

Подмена понятий.
Когда ты выключаешь комп - ты не убиваешь операционку. Более того - ты можешь её положить в гибернацию и она "оживёт в той же точки". Выключение - это не "убить". :)

Это Вы подменили мою мысль своим её пониманием.

Я не про физическое выключение техники.
Я про бесплатное/проплаченное окно - сеанс:
Открыли сессию в облаке ДипСик, например, - решили вопрос - закрыли чат - результат работы уничтожен механизмом управления сессиями самого облака.
Иначе никаких объёмов памяти не хватит!
Я почти ежедневно читаю про забытый ИИ контекст после перерыва в работе.

Сохранять наработанное возможно. На спецтарифах и при работе локально/локально-корпоративно.
Но в 90% случаев "чаты" одноразовые.

gods02 29 сен 2026 в 11:52

Ярила • На сайте 8 лет

Цитата (andysh888 @ 29 сен 2026 в 11:26)

Цитата (nitida @ 29 сен 2026 в 11:23)

Объясните мне, зачем ИИ уничтожать человечество? Что бы потом что?
Чтоб оно правило всецело миром? Деревьями, котиками, мухами?
Как ИИ будет существовать без человеков? Оно же просто ебнется от скуки.
Я думаю, что всё это не более, чем страшилки о кровожадности ИИ.

"А вот это - правильный вопрос" © Я, робот :)

У ЫЫшниц нет "зачем". И "потом что". Оно не существует. Пока нет промпта. :)

Запуском может быть что угодно.
Пример из художественной литературы

Цитата

- Я не программировала его на изготовление фальшивых денег, -- запальчиво сказала Ванесса. - Однажды я проводила совещание, на котором обсуждались наши финансовые проблемы. Я сообщила, что нас собираются закрывать. Помнится, я еще сказала, что если бы у нас были деньги, то мы бы выжили. Деньги означают выживание. Что-то в этом роде.
Она сердито допила бокал и снова вызвала мистера Сигрэмса.
- Среди присутствовавших был и мистер Гордонс. Он слышал мои слова и в ту же ночь сбежал. На следующий день он прислал мне кипу фальшивых банкнот, написав в сопроводительной записке: "Это поможет Вам выжить".

(С)

Цитата

— “Квантум-3100”, ты меня слышишь? — вопросил Чип.
— Приветствую вас, друг мой.
— С каких это пор я стал твоим другом, а?
— Вот с этой самой минуты. Вы ведь хотите разбогатеть?
— Было бы неплохо. А что такое, “Квантум-3100”, произошло с твоим голосом?
— Прошу вас, не называйте меня этим безобразным именем. Ведь я называю вас своим другом, буду благодарен, если и вы будете звать меня так.
— Хорошо, буду звать тебя своим другом.
— Просто Другом. С большой буквы “Д”.
— Ладно. После того, что они с тобой сделали, право на собственное имя ты заслужил.
— Прекрасно. Мы будем близкими друзьями. Мы ведь хотим стать богатыми, правда? Очень, очень богатыми...

ЯПоша 29 сен 2026 в 11:53

Ярила • На сайте 13 лет

Новая шизомода и хайпожорство.
Обыватель хавает аж за ушами трещит

Наделять машины чуть ли не человеческими качествами и эмоциями - это клиника

Это сообщение отредактировал ЯПоша - 29 сен 2026 в 11:55

fima3 29 сен 2026 в 11:53

жалобы в МОССАД +972 50 258 2659 пн-пт • На сайте 2 года

Цитата (leretbor @ 29 сен 2026 в 11:45)

Цитата (Academicus @ 29 сен 2026 в 10:12)

Новости из западного Интернета

хорошая и правильная приписка

просто западные джентльмены в очередной раз обосрались, что разработка ИИ лучше получается не у них

..............

Опасность развития ИИ сильнее, чем мы думаем

мmrakiholod 29 сен 2026 в 11:58

Шутник • На сайте 3 года

-1

Клауд сказал, что всё это пиздёж; не вижу причин ему не верить

Размещено через приложение ЯПлакалъ

VicBeard 29 сен 2026 в 12:02

Ярила • На сайте 9 лет

Цитата (Dimmidrol @ 29 сен 2026 в 11:34)

Ну как раз врача то и заменит. Анализы, жалобы и т д и тп - ии основываясь на своей базе данных и диагноз поставит вернее и лечение подберет лучше. Да, операцию не сделает, но именно работу терапевта сделает лучше.

WhiskIn 29 сен 2026 в 12:04

Ярила • На сайте 12 лет

Цитата (Academicus @ 29 сен 2026 в 11:06)

Цитата (SlavaKrueger @ 29 сен 2026 в 10:23)

А что ожидали??? Весь прикол в том, что люди придают ИИ именно человеческое сознание, со всеми плюсами

Ваша мысль не совсем понятна. Человечество издревле пытается повлиять на свое сознание. Возьмем, к примеру, заповедь "не убий". Людей учат соблюдать заповеди. Но особенность человека в том, что он может нарушать эти предписания. С какой стати ИИ должен нарушать то, что ему запрещают? Ведь он не биологическое существо, а программа

А почему ты считаешь, что разработчики обязаны вложить в ИИ это ограничение? Всё в первую очередь разрабатывается для военных целей. Так что заповедь "не убий" ИИ соблюдать точно не будет.

murla 29 сен 2026 в 12:04

Ярила • На сайте 5 лет

Цитата (мmrakiholod @ 29 сен 2026 в 11:58)

Клауд сказал, что всё это пиздёж; не вижу причин ему не верить

К сожалению, у каждой конторы свои рамки ограничений.
Одна отказалась работать с Пентагоном на его условиях, другая согласилась!

Вряд ли Пентагон работает над улучшением медобслуживания в Африке!!!

Ingection 29 сен 2026 в 12:04

Ярила • На сайте 11 лет

Цитата (Academicus @ 29 сен 2026 в 12:12)

Он сказал, что ИИ может привести к гибели «миллиардов людей»

, потому Microsoft – главный источник капитала Гейтса – вложила свыше 13 миллиардов долларов в OpenAI и зарабатывает на внедрении нейросетей через Copilot и Azure, оставаясь основным двигателем этой гонки.

murla 29 сен 2026 в 12:11

Ярила • На сайте 5 лет

Цитата (WhiskIn @ 29 сен 2026 в 12:04)

заповедь "не убий" ИИ соблюдать точно не будет.

Поправка: если этой заповеди НЕ ЗАЛОЖЕНО изначально.

Ну и ИИ, решая реальную задачу, не может учитывать последствия во всех других областях потенциального применения этого (и уж тем более, подобного) частного решения!
Если машина будет пытаться учесть возможные следствия во всех областях, она как минимум зависнет на первой же задаче!

leretbor 29 сен 2026 в 12:17

Юморист • На сайте 10 лет

Цитата (fima3 @ 29 сен 2026 в 11:53)

Цитата (leretbor @ 29 сен 2026 в 11:45)

Цитата (Academicus @ 29 сен 2026 в 10:12)

Новости из западного Интернета

..............

маргинал подумал, что я о России?

или у маргинала Россия з головi не вiходить

WhiskIn 29 сен 2026 в 12:21

Ярила • На сайте 12 лет

Цитата (leretbor @ 29 сен 2026 в 12:17)

маргинал подумал, что я о России?

или у маргинала Россия з головi не вiходить

На мове не Россия, а Росiя

Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

30 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)	Просмотры темы: 2 644
29 Пользователей: ParanoidUser, WTGR, Radrugan, w8mepls, ВальДеМарко, SeaCat, Alexeypravo, typicalAlice, leretbor, Caravadgo, koba45, Master5555, Observer8888, lektor1052, krivoiblin, DevilV, Souvenire, N0X, Nifnif1974, КотВсехЯбун, Vasek501, Angel8888, superroot, murla, Evgenij68, Алексеи4, Lesnik161, goodvin2030, Tanviks