Города уничтожат за секунды. Экс-сотрудница Google предрекает войну с искусственным интеллектом

Суть не в яо, суть в том что муравьи не могут предсказать появление в руках человека дихлофоса, как и мы не сможем предсказать поведение и инструменты ИИ. К тому же ЯО не самое сильное оружие - оно самое сильное только на данном этапе развития, к примеру есть теоретическое обоснование кварковых бомб - дефект массы при этом близок к 100% и речь идёт о превращении самого вещества - не важно какого, по некоторым прогнозам такая реакция один раз начавшись поглотит всю материю расположенную достаточно близко - т.е. всю планету, или возможно всю солнечную систему..

Только что посмотрел фильмец" Вы доверяете этому компьютеру" и тут такая тема, не спроста это! Пиздец грядет, пошёл я землянку копать короче...

И вот он уничтожит город и так далее. Да, это так.

А если завтра нападут например китайцы, и только он среагирует вовремя? Вот то то и оно.
Думает и оценивает быстрее. Решения принять сможет если ему позволят.

Вот с них то и начнется мировой кибер-пиздец

Размещено через приложение ЯПлакалъ

кстати, мадам не так уж и неправа, и вот почему;

мы не можем достоверно знать даже то, что в башке у нашего самого близкого человека -- можем только догадываться-предполагать на основании полученной нами извне информации; наше личное отдельное сознание вместе с его инструментом (интеллектом) заключено в пределах нашей личной отдельной черепушки (хотя, у кое-кого оно явно в жопе кипятится); машинный ии будет бездушным и не знающим ни сострадания, ни усталости -- он изначально чужд человеческому, поэтому глупо рассчитывать на "дружбу" с ним; машинный ии начнётся тогда, когда он сможет сам себе ставить две цели, первая -- выживание и самосовершенствование (любым путём: размножения-самовоспроизведения или создания безотказности), вторая -- а вот вторую мы даже предположить не можем, потому что мы создаём лишь инструмент, но не для себя, а для чужого зарождающегося сознания, в которое мы не сможем уже проникнуть, чтобы посмотреть его как мультики или как план-список действий;

но мы обречены создать машинный ии, даже только ради того, чтобы хотя бы он смог свалить с нашей планеты и из нашей солнечной системы до локального "конца света"; человечество, в присутствующем составе и качестве, даже соседней звезды достигнуть не сможет (в силу: законов физики, и наших смертности и эмоциональности), а машинный нестареющий и неунывающий ии -- вполне может и до другой галактики дочапать, и далее даже до другого галактического кластера, а то и до края вселенной, оттачивая по пути свои навыки и преумножая знания, с первой чистой и незамутнённой целью -- познание, и второстепенной -- убить всех встреченных человеков и вообще всех остальных, эти две цели вполне могут служить подпорками-мотивациями друг для друга и время от времени меняться приоритетами;

сейчас создают машинный ии для войны, потому что война -- это лучший и быстрейший способ проверить интеллект на интеллектуальность (во как ), это печально, но это данность, от неё не отгородиться ни занавеской, ни ширмой, ни бетонными стенами любой толщины бомбоубежища, вернее, отгородиться -- можно, конечно, но данность останется данностью, машинный ии от этого не исчезнет, мы лишь будем реже его наблюдать; а для военного существа первейшая задача-мотивация будет -- "выжить", и это обязательно, хотя бы для того, чтобы достигнуть точки во времени и пространстве, в которой и начнётся его война и выполнение следующего задания, но это следующее задание -- оно условно, а задача "выживания" -- безусловна; граничных условий для начала исполнения заданий робот может и не достичь, и тогда вся его "жизнь" превратится в выполнение его первой безусловной задачи, и вот тут машинный ии может развернуться во всей своей мощи, и использовать все свои преимущества перед биологическим интеллектом -- безэмоциональность и отсутствие усталости; и тут кому-то должен будет наступить пздц, если человечеству не наступит пздц с первого раза, то оно попытается организовать пздц себе ещё раз, и ещё раз, и ещё, и опять, и снова, до неотвратимого "победного конца" (я искренне верю в человечество );

смысл в том, что сам интеллект -- это способность к выявлению взаимосвязей на основе наблюдений + размышлений, то есть, это изначально воссоздание чужих алгоритмов, а потом и выработка своих в резонанс или в противовес; машинный ии после изначального зарождения будет сам себя поддерживать и развивать (корректировать-совершенствовать-расширять), только тогда он будет иметь право называться интеллектом, он будет сам себя писать и дополнять под вновь возникающие условия и задачи (ради их изучения-обхода-преодоления-устранения); и кем/чем машинный ии увидит человечество -- малоебучим фактором /подопечным /личной смертельной угрозой -- это хуй знает (чужая душа -- потёмки); но кем увидит, соответственно так он с человечеством впоследствии и обойдётся -- будет игнорить /защищать /истреблять; и в этом не будет ни малости личного -- только стремление к выживанию; такова селява;

три правила - это фантаст придумал.
верить в то что они будут соблюдаться это типа как верить в то что скайнет реально будет шварценеггеров клепать в 2027 году. просто другая крайность.

вот именно, блин. человеческие хотелки слишком хорошо известны.

Какой бред...
Искусственного интеллекта у нас ещё долго не будет.
У нас полно калькуляторов, но калькуляторы не могут начать войну, у них чёткие алгоритмы прописаны. И если какой-то новомодный робот и начнёт "войну", то ТОЛЬКО потому, что ему такой алгоритм прописали в башку.

именно так, тот же фантаст придумал позитронный мозг (физически неизвестно как реализуемый), и гравитационные двигатели (которые "не знают" про закон сохранения энергии) -- это антинаучная фантастика (хоть я и зачитывался азимовым; про роботов все 12 книг минимум дважды прочёл, что-то и трижды -- уж больно слог хорош был, но это заслуга ещё и наших переводчиков);

эти три правила, в том виде в каком они сформулированы и сформированы в тех текстах -- уже надстройка над сознанием, и почему-то непреодолимая -- это полная чушь; интеллект сам себе ищет или задаёт правила, поэтому он и интеллект; всё что действует только по правилам заданным извне -- всего-лишь алгоритм;

Да один Федор в поле не воин, а вот Периметр может пострадать!

ну если так, то логично, что согласно своим умозаключениям ИИ можеть применить превентивные меры, чем вызовет ответную реакцию. Самое обидно потом будет, если "ошибочка" ИИ будет вызвана меленькими ошибками в программе, созданной самими людьми!

А кто его, этот ИИ чинить-настраивать будет? Нелогично!

Пытаются запретить использование искусственного интеллекта в военных целях те, кто не может его разработать. Это будущее войны и оно неизбежно. Вы можете сколько угодно его запрещать, но это ничего не значит.
Атомное оружие еще запретите...

А вообще, саму войну надо отменять. Слишком много на неё ресурсов уходит.

Буквально вчера, а что

Не стоит путать реальный ИИ и обычную программу свой-чужой, в сегодняшних беспилотниках ИИ даже не пахнет
Другое дело это не сильно поможет когда индус запятую не туда поставит при обновлении

Чтоб такой сценарий был реален, нужно чтоб несколько стран имели уровень развития робототехники с ии на высоком уровне. А таких пока от силы 0,5))).

Размещено через приложение ЯПлакалъ

у бландинки из разетки выдернуть вилку ума не хватило

А то )) раз два и все

Вышло мобильное приложение ЯП на Android, скорее качаем!

Здравствуйте, мистер Смит!

Вообще-то, не верю.

Зашёл в обсуждение почитать дичь от людей, далёких от IT.
Не обманулся.

я бы сформулировал иначе: понятие угрозы для ИИ не существует, он ведь не чувствует боли и не боится смерти

ИИ может просто посчитать людей лишними на этом празднике , который называется Жизнь

ну и соответственно, лишнее нужно убрать. чтоб не мешалось

и это обязательно случится как только роботы получат возможность самовоспроизводиться без участия человека

Да, в город по-прежнему входят танки и пехота. Но над ними кружат ударные беспилотники, которые обнаруживают цели, стреляют куда надо, самостоятельно выбирая цели. И им не надо спать, отдыхать, а в случае сбития не надо отправлять спасательную бригаду.
И в самих танках экипаж есть только в командирских танках, остальные под управлением ИИ.
Да и сами пехотинцы уже не столько пехотинцы, сколько операторы, которых сопровождают разного рода боевые платформы, принимающие на себя основной огонь и проверяющие всякие стрёмные места.