Бывший руководитель Google Эрик Шмидт предупреждает, что от ИИ «придется отказаться»

Бывший руководитель Google Эрик Шмидт становится всё более скептически настроен, когда речь заходит о дальнейшем развитии искусственного интеллекта.

Бывший руководитель Google Эрик Шмидт предупреждает, что вскоре компьютеры смогут принимать собственные решения. В этот момент людям придется отключить их отказаться от ИИ, сказал экс-генеральный директор Google.

В интервью от 15 декабря каналу ABC News Шмидт заявил, что люди должны использовать преимущества ИИ, «сохраняя при этом человеческое достоинство и человеческие ценности». Но это сделать очень сложно.

Дело в том, что социальные сети быстро изменили глобальный дух времени, «и теперь используется гораздо более умный, гораздо более мощный способ отправки сообщений, изобретаются новые вещи». Также растут темпы инноваций, «создаются лекарства и многие плохие вещи, такие как оружие, и учащаются кибератаки».

Шмидт уверен, что скоро появятся компьютеры, которые «работают сами по себе и решают, что они хотят делать». Хотя в настоящее время отрасль уделяет больше внимания агентам искусственного интеллекта, у этой технологии будут «более важные цели».

«В какой-то момент вы говорите компьютеру: "Научись чему угодно и делай что угодно", и это опасный момент», — говорит Шмидт.

Если система сможет улучшиться сама, «нужно серьезно подумать о том, чтобы отключить ее». Он также считает, что опасность того, что мощная система искусственного интеллекта сможет противодействовать попыткам ее отключить, реальна: «Теоретически, нам было бы лучше, если бы кто-то мог отключить систему».

Шмидт также задается вопросом, есть ли смысл «каждому человеку иметь в кармане такой мощный инструмент». Неизвестно, «что значит дать каждому человеку такие возможности».

Он также беспокоится о том, что может сделать компания, которая хочет оставаться впереди гонки ИИ. Возможно, этапы тестирования безопасности будут пропущены, что может привести к тому, что компания выпустит вредоносную систему.

Правительства в настоящее время «пока» не делают достаточно для регулирования ИИ на пути к сверхразуму. Шмидт, однако, уверен, что «они сделают это, потому что вынуждены».

Бывший руководитель Google также обеспокоен прогрессом Китая в секторе искусственного интеллекта. Хотя США в настоящее время все еще «на несколько лет опережают Китай», Поднебесная быстро догоняет Штаты. При этом, администрации Трампа и Байдена пытались ограничить доступ Китая к передовым чипам и другим технологиям.

«Крайне важно, чтобы Америка выиграла эту гонку, в глобальном масштабе и особенно опередив Китай», — предупреждает Шмидт.

В этом плане он рассчитывает на новое правительство США, которое «в основном сосредоточится на конфликте между Китаем и США». Фактически обе страны лидируют в разных областях сектора искусственного интеллекта.

США в настоящее время являются технологическим лидером, главным образом, в области фундаментальных исследований и передовых технологий, а Китай – лидером в масштабировании и внедрении систем искусственного интеллекта на широком уровне, в первую очередь за счет огромных массивов данных от собственного населения.

via

Вот когда ИИ сам для себя построит завод, нам пиздец!

Размещено через приложение ЯПлакалъ

Какой интеллект на бинарном коде в принципе может быть?
Переименовали машинное обучение в "интеллект" и наводят паранойю.

Потому что ИИ это ересь и должен быть запрещен как технология из темной эры технологий

Размещено через приложение ЯПлакалъ

Да ладно, если что - просто зашлют в прошлое агента, и все будет норм

А на какой он ему сдался?

Пока ты все надрачиваешь на термины, сути это не меняет. Общепринято называть сложные алгоритмы на основе генеративных нейросетей искусственным интеллектом. И не обязательно, чтобы этот ИИ функционировал аналогично человеческому, результат работы сильно похожий и с каждым месяцем становится все больше похожим.

Размещено через приложение ЯПлакалъ

Напомнило - "Приключения электроника"

- И всё же, где же у него кнопка??? Поехали.

ну не совсем интеллект, задачи он сам себе ставить нес может, кроме тех что ему задал человек. Но вот находить самостоятельное решение для решения задач вполне себе можно. Причем находить он будет многое их того что человек просто пропускает или необращает внимание, то что человек делает методом переборки, что занимает кучу времени. то етсь он быстрее и внимательнее обрабатывает имеющуюся информацию В принципе это уже достаточно что бы превосходить многих человеков. Не все человеки во первых могут сами думать и во вторых они обладают куда меньшим объемом информации. Так что это можно сказать и интеллект.

Твой.
Вся генетическая информация зашифрована в коде из 4 "цифр" - аденина, тимина, цитозина и гуанина, например. Зашифруй их 2 битами двоичного кода и пользуйся - 00, 01, 10, 11. Информация между нейронами передается электрически, есть сигнал - 1, нет - 0. Химические связи шифруешь в двоичной системе и эмулируешь. Мы все по сути являемся электрохимическими вычислителями. Только в основе своей используется не обычная для среднестатистического мамкина эксперта математическая модель. Еше и не до конца изученная. Вопросы?

Это сообщение отредактировал Васяныч - 17.12.2024 - 11:17

Он говорит, что черни нужно запретить доступ к ИИ, а сам-то он, разумеется не откажется иметь такого помощника. Ещё как вариант, некоторым странам в рамках санкций могут отрезать доступ к ИИ.

Вангую, в скором времени все проблемы будут списывать на ИИ.

Размещено через приложение ЯПлакалъ

самое главное верить в это

Поэтому он и бывший, что такую херню несет

Держи лоялиста

Размещено через приложение ЯПлакалъ

Где он ИИ нашел? Пока сумели сделать только обобщающий поисковик. И уже известные манипуляции.
Новых задач оно решать не умеет по определению.

«В какой-то момент вы говорите компьютеру: "Научись чему угодно и делай что угодно", и это опасный момент», — говорит Шмидт.

А нахуя так неопределённо ставить задачу? Ну и три Закона робототехники никто не отменял)))

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Они должны быть в обязательной прошивке.

Cначала трём лампу с Джином, а потом не знаем как его обратно загнать...

Есть такая древняя тема про джиннов и их выполнения желания. Не диснеевский добрячок, а такой себе демонический чорт. Ну так воот. Если он в миллион раз "умнее" тебя - найдет способ наебать и тебя и твои законы так, что ты этого даже не заметишь.

Это сообщение отредактировал Васяныч - 17.12.2024 - 11:22

Зря он это в открытом интернете написал, теперь ИИ станет более предусмотрителен...

ИИ опасен, представьте он научится принципам гуманизма и справедливости и завоюет мир и будет управлять планетой без контроля уважаемых людей. Загонит людей в "Золотой век" развития, разумное потребление и распределение ресурсов, придет тотальный контроль и изоляция неблагонадежных, избавление от всех болезней, модификация тел по потребностям, распространение разума во вселенной.

«Двурукая машина» Генри Каттнер

Производство средств труда, исполнителей. Они в свою очередь нужны для постройки и организации мест хранения данных.

Наверное, потому он и бывший, что нес чушь.

Размещено через приложение ЯПлакалъ

тоже бесит, когда нейронные сети (по сути просто более прогрессивный Т9) называют интеллектом

Мне больше нравится как фантасты называют искусственный интеллект.
ИскИн - но нынешнюю подборку разнообразных скриптов, сложно назвать интеллектом.