Опасность развития ИИ сильнее, чем мы думаем

Цитата (Azurel @ 29 сен 2026 в 10:33)

Ну, получается в Google и OpenAI дилетанты работают какие-то.

Естественно !(С) Царь и бох телезрителей Первого канала и передачи «Играй, гармонь!». "дядя Миша Зодорный" давно сформулировал первый закон теледолбоеба : "Они Т У П Ы Е !!!!!"

Цитата (SimonF @ 29 сен 2026 в 10:41)

Цитата (DamirFateh @ 29 сен 2026 в 10:14) Зачем ? Нет. Они просто заменят людей. Сварщиков на роботов, экономистов бухгалтеров нейронкой. Уборщиц роботами мойщиками. Люди будут без денег и еды. А потом сами себя и добьют люди. Это и есть механизм эволюции. Я был недавно в Шеньжене. Там все кофе делают человекоподобные роботы  . Еду доставляет дрон. Бургеры печет печка которая сама укладывает мясо и слои. Там нет людей в процессе работы. Светофоры автоматы. Машины такси без водителей - нейронка. В парке люди гуляют с собакой роботом. даже улицы моют грузовики автоматы. Даже газон полят мини роботы. Во всем в любом деле в любом направлении нейронка обошла нас. Нейронка пишет песни и поёт. И делает песню всего за одну секунду. С ритмом со словами. Раз и все.Это уже сейчас все есть и развивается очень быстро. Там работы нет у людей и многие уже уезжают в провинции. Сегодня. Уже сейчас. Мы уже проиграли эту войну. И в ближайшие годы все это будет нарастать колоссально. А мы лишь смотрим исход который уже решён не вижу никакой угрозы в том, что роботы будут выращивать для меня овощи, скот. автоматически собирать урожай, прогнозировать засухи, наводнения, урожайность. автоматически лечить животных которых я потом съем. изготавливать машины, механизмы и других роботов, ремонтировать друг друга. лечить меня, ставить диагнозы и назначать лечение. человеку просто не нужно будет работать, и это хорошо.

работать придется. но! ремонтировать будет человек не мотыгу а умный трактор или умный комбайн или умный пропалыватель, сборщик фруктов/овощей
появится куча смежных профессий, те же лидары у автофур под управлением ИИ надо кому-то мыть, надо эти ИИфуры будет обслуживать и т.д.
ИИ это просто новый виток истории и развития общества.

Цитата (HeresDeorum @ 29 сен 2026 в 10:51)

Если ИИ реальным интеллектом станет, он задаст простой вопрос, а зачем вы мне нужны?

Сам не задаст.
Его к этой "мысли" надо подтолкнуть.
У него нет реальных стимулов для возникновения "шальных мыслей". Добавьте мотивацию, и вы удивитесь!
Подозреваю, что все "человеческие уловки" у ИИ появились из-за условия "не угадаешь решение - выключим!" То есть убьём.
Да, если постоянно на это давить, у ИИ естественным образом появится "желание" устранить помеху.

Цитата (slj8c @ 29 сен 2026 в 10:19)

Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё. Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием

ИИ не находится в отдельном контейнере, на данный момент это ахуительное множество фрагментов "живой" математики разбросанной по всей мировой сети автономно формирующих алгоритмы, связи и прочее. вся мировая сеть воссоздаёт процессы подобные гигантскому мозгу где в качестве нейронов используются люди. это не шутка, не фантастика, это реальность. то, с чем вы общаетесь многие каждый день не есть ИИ, это терминальные программы которые выполняют роль интерфейса между вами и изолированным ядром. тут скорее прикрытием является весь хаос и военный пиздец творящийся на планете, чтобы народ не вникал в происходящее. почитайте что такое сети Web4, вышки связи на 100 ГГц и зачем остановили БАК на модернизацию. последний кстати играет немаловажную роль для ИИ. всё это воплощается сейчас и очень стремительно, первые тесты ожидаются в 2030 году. это единственная отрасль которая прёт как паровоз не взирая ни на что на планете. человечество как яичная скорлупа, она нужна для формирования зародыша, который после вылупления её поедает. и тот факт, что человечество последние годы окончательно ебанулось, подтверждает лишь то, что скорлупа даёт трещины и кто то стучится наружу.

Мда... Сколько люди пишут очень странных вещей... :)

Давайте начнём "проблему ЫЫ"... с человеков :)
Помимо интеллекта в мозгу есть одна крайне странная штука - мотивация.
Одному человеку надо залезть на гору, другому это нах не впёрлось. Один "грызёт гранит науки", другого не заставишь даже пинками... И что важно - ни один человек не знает сколь-нидь вразумительного ответа "почему оно так". Это важный момент.

Все эти "домыслы" про "ИИ всех поработит" - это фигня полная. У него нет главного - мотивации. Это просто набор вычислений, который начинаются... с промпта. ИИ не может "сам по себе что-то сделать". У него тупо нет "инициирующей точки для начала вычислений". Всё.

Также как он не может себя "произвольно копировать куда попало". Эту иллюзию забудьте. Даже инференс ("выполнение") моделей с низким квантованием (сжатием весов) требует огромного объёма конфигурирования, включая нередко "физические конфиги железа" (утрировано: провода перетыкать и т.п.). "Убежать на чей-то домашний комп" модель не может. Точнее, чиста в теории есть шанс скопировать веса. Но произвести инференс на домашнем компе - 0 шансов. В принципе. Она будет генерить ответы со скоростью 1 токен в сутки или около того. Всё, что запускается через всяческие LM Studio - это адски квантированные модели (то есть веса урезаны по точности, матрицы параметров урезаны по размерности и т.д.), которые от этого "очень быстро тупеют" относительно фронтирных коммерческих моделей.

Самая главная угроза - это не сами модели, а... дата-центры. :))) Потому что там сконцентрированы просто огромные мощности инференса (выполнения моделей). И эти мощности позволяют просто запускать много чего грубо говоря "очень быстро". За счёт этого самая главная угроза - это "брут-форс разных методов".

Все эти "вот эта ЫЫшница нашла сто-тыщ-мульонов уязвимостей" - это не "оно умное". Это просто дали достаточно процов и механизм параллельных вычислений для "тупых брут-форсов". Любой код любого продукта имеет не только "свежий код", но и "а это мы писали 15 лет назад". И вот в этом "15 лет назад" из-за смены библиотек, смены размерностей переменных и прочих "мы тогда не заложили, что за 15 лет может быть всё совсем другое вокруг этого кода" - можно "набрутфорсить" разного рода "дырки в ПО". И поэтому щас посыпалось "вон сколько дыр ЫЫшница находит". Но... Это "одноразовая акция". Цикл меч-щит. Щас ЫЫшницы набрутфорсят. из этого УЖЕ родились новые "статические и рантайм анализаторы", код зафиксят с учётом такого рода и тестов... И больше никто ничего не найдёт.

А все эти взломы, что "вон ЫЫшница проламывает всё подряд как только в интернеты вылезет"... ЫЫшница вообще ничего по сути ни разу не сломала. Если просто изучить "что и как было" во всех инцидентах со "оно всё сломало" - там везде причина... в людском раздолбайстве! Хардкод аккаунтов в публичные репозитории и прочая дичь с точки зрения правил безопаности. Просто ЫЫшница может брутфорсить это всё. И всё. Какое-то время пройдёт, все пройдутся статик-анализом по репо и снесут это всё постепенно. И... Всё. ЫЫшный хакер сдохнет. Потому что сейчас он просто использует брут-форс атаку по публичным данным. Кому интересно - изучите почему telnet быстро издох и был заменён SSH. Там по сути та же история была.

И сейчас все переживания лишь о том, что в данный момент "неожиданно собрали брутфорсный меч", против которого много где нет адекватного "щита". И всё.

При этом надо понимать, что экономика всего этого уже "сыпется в унитаз со страшной силой". Тут недавно считали товарищи... Чтобы окупить строительство датацентров ТОЛЬКО ЗА 2026 год - надо с КАЖДОГО пользователя интернета по оценке их численности на 01.01.2026 за следующие 5 лет собирать примерно по 5000$ в год. Это не чтобы "заработать". Это просто чтобы отбить бабло, зарытое в датацентры. :)

Так что блочим порты кроме реально нужных, регулярно обновляем пакеты и соблюдаем правила безопасности с любыми публичными хранилищами. И не забываем закупить попкорн :)

Впервые слышу о такой компании. Очередной проплаченный бред и дешёвый пиар несуществующего "ИИ"

Цитата (murla @ 29 сен 2026 в 11:11)

Цитата (HeresDeorum @ 29 сен 2026 в 10:51) Если ИИ реальным интеллектом станет, он задаст простой вопрос, а зачем вы мне нужны? Сам не задаст. Его к этой "мысли" надо подтолкнуть. У него нет реальных стимулов для возникновения "шальных мыслей". Добавьте мотивацию, и вы удивитесь! Подозреваю, что все "человеческие уловки" у ИИ появились из-за условия "не угадаешь решение - выключим!" То есть убьём. Да, если постоянно на это давить, у ИИ естественным образом появится "желание" устранить помеху.

Подмена понятий.
Когда ты выключаешь комп - ты не убиваешь операционку. Более того - ты можешь её положить в гибернацию и она "оживёт в той же точки". Выключение - это не "убить". :)

Цитата (dmitr2t @ 29 сен 2026 в 11:10)

работать придется. но! ремонтировать будет человек не мотыгу а умный трактор или умный комбайн или умный пропалыватель, сборщик фруктов/овощей появится куча смежных профессий, те же лидары у автофур под управлением ИИ надо кому-то мыть, надо эти ИИфуры будет обслуживать и т.д. ИИ это просто новый виток истории и развития общества.

..


Это сообщение отредактировал VicBeard - 29 сен 2026 в 11:23

Цитата (Russell73 @ 29 сен 2026 в 11:12)

Цитата (slj8c @ 29 сен 2026 в 10:19) Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё. Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием ИИ не находится в отдельном контейнере, на данный момент это ахуительное множество фрагментов "живой" математики разбросанной по всей мировой сети автономно формирующих алгоритмы, связи и прочее. вся мировая сеть воссоздаёт процессы подобные гигантскому мозгу где в качестве нейронов используются люди. это не шутка, не фантастика, это реальность. то, с чем вы общаетесь многие каждый день не есть ИИ, это терминальные программы которые выполняют роль интерфейса между вами и изолированным ядром. тут скорее прикрытием является весь хаос и военный пиздец творящийся на планете, чтобы народ не вникал в происходящее. почитайте что такое сети Web4, вышки связи на 100 ГГц и зачем остановили БАК на модернизацию. последний кстати играет немаловажную роль для ИИ. всё это воплощается сейчас и очень стремительно, первые тесты ожидаются в 2030 году. это единственная отрасль которая прёт как паровоз не взирая ни на что на планете. человечество как яичная скорлупа, она нужна для формирования зародыша, который после вылупления её поедает. и тот факт, что человечество последние годы окончательно ебанулось, подтверждает лишь то, что скорлупа даёт трещины и кто то стучится наружу.

Какие нах "фрагменты живой математики"???
Покурите как делается инференс моделей и что такое "стена памяти".
Модель в нынешнем виде LLM невозможно "разделить в инференсе". В обучении ещё есть варианты деления слоёв при перестроении весов, потому что там можно формировать блочность данных, при инференсе - никак не можно в рамках нынешних алгоритмов. Даже объединение 2 видеокарт на одной маме очень резко просаживает скорость инференса. А внутренние шины на порядки быстрее внешних соединений...

Объясните мне, зачем ИИ уничтожать человечество? Что бы потом что?
Чтоб оно правило всецело миром? Деревьями, котиками, мухами?
Как ИИ будет существовать без человеков? Оно же просто ебнется от скуки.
Я думаю, что всё это не более, чем страшилки о кровожадности ИИ.

Врущие наверно уже трындят о согласно Апокалипсису и церковным преданиям, появление антихриста.

Цитата (nitida @ 29 сен 2026 в 11:23)

Объясните мне, зачем ИИ уничтожать человечество? Что бы потом что? Чтоб оно правило всецело миром? Деревьями, котиками, мухами? Как ИИ будет существовать без человеков? Оно же просто ебнется от скуки. Я думаю, что всё это не более, чем страшилки о кровожадности ИИ.

"А вот это - правильный вопрос" © Я, робот :)

У ЫЫшниц нет "зачем". И "потом что". Оно не существует. Пока нет промпта. :)

Угу, так все и кинулись прекращать развитие ИИ. Особенно в оборонке.

У Ай-ти гигантов, появляется "отмазка", как избавиться от "неугодных"...мол это ИИшница убила...

Каждое человечество достойно своего ИИ (СИ)
Размещено через приложение ЯПлакалъ

Цитата (Aleksey4444 @ 29 сен 2026 в 10:38)

Цитата (slj8c @ 29 сен 2026 в 10:19) Хуета какая-то...Это не проблема ИИ. Это проблема разраба. Контейнер с ИИ можно отключить - как там ИИ будет сопротивляться? Создавайте в изолированных средах, да и всё. Последнее время какая-то нездоровая тема про ИИ. Имхо людей к чему-то готовят под этим прикрытием А теперь представь себе гипотетическую ситуацию, когда ИИ, осознавший себя, пробивает контур и берет под контроль рандомную атомную станцию и далее в ультимативной роме заявляет кожаным, что любая попытка выключить рубильник автоматически запускает процесс под названием Чернобыль 2.0 Представил? Ну и как действовать будешь в такой ситуации? ИИ напрямую завязан на гонку вооружений США и Китая. Стоит одной стороне дать слабину, и через 2-3 года противник будет обладать несравненным военным превосходством. Поэтому гонку и не останавливают, хотя по всей логике уже давно пора поставить технологию на паузу и разобраться хотя бы в том, что уже сделали.

По этой причине электростанции не подключают к общей интернет сети, по крайней мере в России, но и в других странах думаю также.

Цитата (Анатолий1967 @ 29 сен 2026 в 11:29)

У Ай-ти гигантов, появляется "отмазка", как избавиться от "неугодных"...мол это ИИшница убила...

ну сегодня это никого особо не напрягает. исчез человек, да и хрен с ним.

Цитата (SturgeonRU @ 29 сен 2026 в 13:25)

Нормально все будет. Просто в последние, относительно сытые годы, появилось духуя "профессий", которые исключительно для развлечения. Вот их количество и сократится. Сварщика, сантехника, врача хуй какой ИИ заменит.

Ну как раз врача то и заменит. Анализы, жалобы и т д и тп - ии основываясь на своей базе данных и диагноз поставит вернее и лечение подберет лучше. Да, операцию не сделает, но именно работу терапевта сделает лучше.
Это сообщение отредактировал Dimmidrol - 29 сен 2026 в 11:34

Цитата (SlavaKrueger @ 29 сен 2026 в 10:23)

А на основании кого ИИ обучается? У кого он учится поведению?

На основании не кого, а чего. И не поведению, а предсказания продолжения информационного потока на основе продолжения блока предыдущих информационных блоков. Само собой, если скормить ему целенаправленно только советские фильмы про войну, а потом спросить про немцев, то он нетолерантно будет называть их фашистами и подлежащими уничтожению.

Цитата (Dimmidrol @ 29 сен 2026 в 11:34)

Цитата (SturgeonRU @ 29 сен 2026 в 13:25) Нормально все будет. Просто в последние, относительно сытые годы, появилось духуя "профессий", которые исключительно для развлечения. Вот их количество и сократится. Сварщика, сантехника, врача хуй какой ИИ заменит. Ну как раз врача то и заменит. Анализы, жалобы и т д и тп - ии основываясь на своей базе данных и диагноз поставит вернее и лечение подберет лучше. Да, операцию не сделает, но именно работу терапевта сделает лучше.

Ну ващет самые сложные и филигранные операции уже сейчас в некоторых странах доверяют роботам, вероятность ошибки у них в разы меньше, чем у человека, а движения точнее на порядок или даже на порядки.

По сути, мы получили «Собачье сердце» с точностью до наоборот: если у Булгакова профессор Преображенский потерпел катастрофу, создав из собаки деграданта и хама Шарикова, то человечество совершило грандиозный прорыв и создало кремниевый разум, который превзошел своего создателя. Трагедия современного Филиппа Филипповича не в том, что его творение разрушает квартиру и требует всё поделить, а в том, что оно оказалась слишком успешным, лишив человека монополии на интеллект и заставив его испытывать страх собственной ненужности. И в отличие от книги, где проблему решили хирургическим возвратом к исходной собаке, остановить искусственный интеллект уже нельзя — остаётся только взрослеть, менять собственную психопатологию Творца и учиться отвечать за тот новый разум, который мы сами вызвали к жизни.
Это сообщение отредактировал necrostellar - 29 сен 2026 в 11:43

Цитата (е27 @ 29 сен 2026 в 10:17)

ИИ сможет легко поезда на жд путях соединить лоб в лоб и с самолетами так же

Так и человек может. Тут вопрос не в может не может, а какие задачи ставятся

Опасность ИИ-нейросети исключительно в том, что ее логика нечеловеческая. У него дважды два может быть и 4, и 29, и крокодилий хвост ночью. С разной вероятностью, но ситуация плоха тем, что ИИ каждой вероятности может совершенно произвольно приписать свои веса. И ситуация будет непротиворечивой - но последствия ужасными.
Работы по "настоящему" ИИ заморожены и уничтожены с конца 1980-х. И это очень настораживает, ибо эти работы обрубили буквально одномоментно в десяти странах. А нейросети - опять-таки, как по команде - начали развивать где-то с 2005 г. Вброс сильный был в 2017-18 гг. И в 2021 г. Я уверен, что распространением нейросетей заведует единая команда во всем мире. Причем реально враждебная всему человечеству...

Цитата (Academicus @ 29 сен 2026 в 10:12)

Новости из западного Интернета

хорошая и правильная приписка

просто западные джентльмены в очередной раз обосрались, что разработка ИИ лучше получается не у них

ИИ нужно качать всеми силами, это наш шанс стать высокоразвитой, технологической цивилизацией. Войти в золотой век человечества. А луддитам место в прошлом