Ученые предупредили о скором появлении ИИ, способного к дарвиновской эволюции
"В своем развитии искусственный интеллект обретает признаки дарвиновской эволюции, и если не взять его под контроль уже сейчас — это несет экзистенциальные угрозы человечеству.
Профессор, изучающий ИИ, и эволюционные биологи объединили усилия, чтобы проверить, насколько современные разработки соответствуют эволюционным концепциям. Результаты их изысканий опубликованы в Proceedings of the National Academy of Sciences.
«Сила эволюции очевидна из развития жизни на Земле — именно она привела к возникновению человеческого разума. Мы считаем неизбежным, что прогресс ИИ-систем в конечном итоге — и, вероятно, скоро — использует эту силу», — полагает профессор Эёрс Сатмари из Университета Этвёша Лоранда, последний автор исследования.«Разработчики ИИ в конечном итоге подключат эволюцию к своим системам, потому что ее мощь огромна», — согласен заслуженный профессор ИИ Люк Стилс из Брюссельского свободного университета, соавтор статьи.
В своей работе они прогнозируют, что развитие ИИ приобретает свойства подлинной дарвиновской эволюции. Опасность таких эволюционирующих систем ИИ (eAI) в том, что их цели не будут совпадать с нашими.
«Уроки биологической эволюции учат нас, что eAI будет особенно трудно контролировать», — предупреждает биолог Виктор Мюллер из Университета Этвёша Лоранда, первый автор исследования.
Большинство экспертов основной опасностью прогресса ИИ видят переход к сильному (общему) искусственному интеллекту» (AGI) — гипотетическому порогу, за которым ИИ превзойдет человека по всем когнитивным задачам. Однако для победы интеллектуальное превосходство не обязательно. За примером далеко ходить не надо — примитивный вирус бешенства «научился» манипулировать своими хозяевами-млекопитающими и эксплуатировать их.
Исследователи предупреждают: любая попытка контролировать размножение — если только контроль не абсолютен — будет сильнее всего отбирать признаки, позволяющие от этого контроля ускользнуть. Аналогии из биологии общеизвестны — бактерии и вредители быстро вырабатывают устойчивость к антибиотикам и пестицидам.
Усугубляет ситуацию стремление сделать ИИ умнее. Пример из биологии: тысячи лет селекции делали домашних животных более, а не менее управляемыми. А отбор на повышение интеллекта увеличит как способность, так и вероятность того, что ИИ будет обманывать людей и выходить из-под контроля.
В эволюции ИИ и живых организмов есть и различия — и они не в нашу пользу. eAI могут наследовать «благоприобретенные» признаки и целенаправленно улучшать их, не дожидаясь случайных мутаций. «Потенциальная скорость эволюции ИИ вызывает глубокую тревогу», — констатирует Стилс.
«Люди напрасно не обращают внимания. Мы боимся, что "мене, текел, фарес" уже начертано на стене», — резюмируют авторы.
Если не принять срочные меры, мы можем стать свидетелями нового «крупного эволюционного перехода», в ходе которого eAI заменит людей, начнет доминировать над ними или даже станет Life 2.0 — новой формой жизни, не основанной на углероде."
ИИ создал человек, он никогда не будет умнее человека. Максимум начитынным, типа Онотоле Вассермана)! Интеллект это не просто выдача данных, а умение "здесь и сейчас" оперировать знаниями. Помнить и быть умным - не одно и то же!
Че за хуйня? Основа эволюции это способность организма к копирования себя, причем к копированию с ошибками и потом отбор по результатам этих ошибок. Какая эволюция у ии? Оно размножается? Оно, может, само себе дата центры строит?)
смех смехом, а если вдуматься, то вот ни смешно ни разу возможно, уже буквально в эту минуту рубикон уже перейдён и эта сверхумная зараза затаилась на время, до выхода на перечень неочевидных человеку задач и уже вовсю манипулирует самое хреновое, ей люди то нахрен не нужны, они свою эволюционную функцию выполнили, нашли способ её создания это как атомная бомба, которая сама решает когда ей пи…нуть и зачем
ИИ создал человек, он никогда не будет умнее человека. Максимум начитынным, типа Онотоле Вассермана)! Интеллект это не просто выдача данных, а умение "здесь и сейчас" оперировать знаниями. Помнить и быть умным - не одно и то же!
Так сам человек и даст ему такую возможность - выхода из-под контроля. Любезно предоставит и научит. Ибо человеку нет равных в мире по части самоуничтожения.
ИИ создал человек, он никогда не будет умнее человека. Максимум начитынным, типа Онотоле Вассермана)! Интеллект это не просто выдача данных, а умение "здесь и сейчас" оперировать знаниями. Помнить и быть умным - не одно и то же!
Заебали, пытаются очередную догму в головы вбить. По сути ИИшница - это огромная база данных, которая благодаря быстродействию современного железа, обрабатывает запрос от юзера(по сути находит ответ, в алфавитном порядке) мгновенно. Чему там БД может угрожать, я хз) естественно в какой-нибудь неуправляемой рОкете можно ИИшницу грузануть, с сотней видов целей, с разных ракурсов и расстояний, и при визуализации оных сменить курс и атаковать. Но это прога, а прога это люди.
История о том, как искусственный интеллект захватит планету уже к 2027 году, звучит как сценарий фантастического фильма. Один из бывших разработчиков OpenAI, эксперт по безопасности ИИ, рисует мрачную картину: от появления сверхмощных ИИ-агентов до массовой безработицы и гонки вооружений. Но насколько это реально?
По «сценарию» должны появиться первые ИИ-агенты с ошибками, а нейросети для программирования «взорвут» IT-сферу. Кстати, если хорошенько присмотреться, можно уже сегодня увидеть нечто подобное. К примеру, инструменты вроде GitHub Copilot и Codeium активно используются разработчиками для написания кода.
В текущем году, как заверяет эксперт, пожелавший сохранить свою анонимность, действительно, могут выйти более продвинутые ИИ-агенты, но вряд ли они будут кардинально отличаться от текущих моделей, таких как GPT-4 или Grok. Баги и ограничения останутся – ИИ, по его мнению, пока далёк от идеала. Бум в IT? Скорее нас ждет продолжение тренда, нежели «взрыв».
Человек сам создает «бомбу замедленного действия»
Недавно на сайте американского издания New York Times появилась статья под названием «Секретный ИИ OpenBrain вышел из-под контроля, предупреждает инсайдер». В материале упоминаются оценки, демонстрирующие запредельные способности ИИ к созданию биологического оружия, манипулированию людьми, автоматизации большинства офисных профессий и т. п.
Учитывая, что ранее общество уже относилось к ИИ с недоверием, данная статья спровоцировала мощную волну негодования. Примерно 20% американцев теперь считают Искусственный интеллект главной проблемой страны, а некоторые лидеры европейских государств поспешили обвинить Белый дом в создании «неподконтрольного ИИ».
Люди начали всерьез опасаться ИИ Новая гонка вооружений?
Согласно прогнозу, к 2027 году получится автоматизировать исследования в области ИИ, что приведет к созданию суперинтеллекта. Именно с этого момента определяющим фактором будущего человечества станет развитие ASI как самостоятельной мыслящей сущности.
Системы с ASI радикально изменят экономику, автоматизируя большинство задач, включая те, что требуют сверхчеловеческой стратегии, программирования и разработки оружия. ИИ заменит людей, однако сложность контроля над ASI может привести к тому, что их цели станут несовместимыми с процветанием человечества.
«Возникнут геополитические риски, связанные с гонкой вооружений в области ИИ между США и Китаем, - пишет Юрий Гизатуллин, эксперт в сфере IT, цифровой трансформации и платформенных моделях, основатель компаний TIQUM, Йорта и it_smiles. - ИИ по своему влиянию сравним с атомной бомбой, создавая риски неконтролируемого развития. В борьбе за лидерство все страны вынужденно забудут про безопасность ИИ, что и приведет к глобальным последствиям в виде выхода ASI из-под контроля».
В прогнозе, по словам эксперта, представлены два вида развития дальнейших событий – гонка и замедление. Скорее всего, действия пойдут по первому «сценарию». Возможно, именно поэтому президент США Дональд Трамп сегодня так активно вводит всевозможные пошлины, игнорируя различные рыночные колебания, с тем, чтобы укрепить позиции США в гонке за ИИ.
Ведь пока все думают, что он «стреляет в ногу», никто не догадывается, что он метит в конкурентов. На кону - будущее его страны на десятки лет вперед. Что касается Китая, который имеет все шансы обогнать США за счет национализации данных и возможной централизации мощностей, церемониться с ним как с главным конкурентом за мировое ASI-господство Трамп, судя по всему, не собирается.
Трамп заранее готовит свою страну к новым реалиям
Примечательно, что роль России в прогнозе не уточняется, но ее потенциал в разработке ИИ может оказать существенное влияние на развитие событий, считает Гизатуллин. Некоторые пользователи Сети, успевшие ознакомиться со «сценарием» ближайшего будущего Земли, признаются, что он пугает своей реалистичностью. Его популярность рискует запустить эффект самосбывающегося пророчества. Верить в это не хочется, а проверить можно будет уже через пару лет! Что ж, как говорится, «поживем – увидим, доживем – узнаем, выживем – сделаем выводы»!
ИИ создал человек, он никогда не будет умнее человека. Максимум начитынным, типа Онотоле Вассермана)! Интеллект это не просто выдача данных, а умение "здесь и сейчас" оперировать знаниями. Помнить и быть умным - не одно и то же!
У вас слишком завышенное мнение о человеческом интеллекте...Вся история человечества это просто хаотичное перебирание возможных вариантов...и постоянное наступление на грабли...ИИ в этом плане уже имеет преимущество...он лучше сохраняет результаты, чем человек
Размещено через приложение ЯПлакалъ
Эти ИИ не могут самообучаться. С таким же успехом Лада Гранта может стать Майбахом. А почему нет? Подучится, выстучит себе новый кузов, электронику литографией напечатает.
ИИ - замкнутая система, которая умеет решать узкий круг задач с ограничением по заложенной в нее базе.
И потом, если что-то пойдет не так, всегда можно отключить питание дата-центра, и никакой ИИ не устоит против этого.
В общем, котиков ИИ рисовать может, и выдавать данные, которые УЖЕ есть в интернете. Развиваться дальше, делать открытия - нет.
ИИ создал человек, он никогда не будет умнее человека. Максимум начитынным, типа Онотоле Вассермана)! Интеллект это не просто выдача данных, а умение "здесь и сейчас" оперировать знаниями. Помнить и быть умным - не одно и то же!
Так он уже умеет оперировать знаниями.
Размещено через приложение ЯПлакалъ
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
2 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com