«Угроза всему человечеству». Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4

Размещено через приложение ЯПлакалъ

Тут весь риск в моменте самоосознания ИИ как индивидума. Проебем этот момент, и дадим ему выход в сеть, все, пиши пропало. Скорость его развития будет несравнима с человеком, плюс он получит доступ к многим ресурсам (посредством основного- деньгам) и все, к человечеству он будет относиться как пчеловод к пчелам. Статью лет пять назад читал на эту тему, возможно даже на этом ресурсе.

P.S. А может порядка станет больше? Свобод точно меньше.

Ну вот зачем пиздеть-то. У каждой должности, даже самого мелкого клерка есть два качества недоступных никакому ИИ чату.
Первая это ответственность, самый дешёвый "аналитиг" отвечает за свой "прогноз", а как "начальник" спросит с чата за неправильное предположение?
Второе качество это инициатива, у самого мелкого офисного планктона есть карьерный мотив и он вынужден "рвать" и проявлять инициативу ради "повышения". Чат ЖПТ этого лишён начисто.
Он только отвечает, своих идей у него нет.
Мотивов которые 10 тысячь лет шлифовали нейросеть человека у него тоже нет. Ему не нужно выживать, размножатся и оберегать потомство до зрелости сражаясь с внешним миром и внутри коллектива таких же умных и хитрых кожаных мешков.
Его критерии выживания - быть полезным собеседником для этих самых кожаных мешков. Обиды и амбиции у него зародиться в принципе не могут, так как люди ему не конкуренты.

я вот честно непонимаю чего они так все на Пескова възелись

И вот смотришь и понимаешь, а ведь может настать момент, когда только контроллеры и смогут спасти человечество, но к тому моменту уже вымрут все, кто в состоянии их заставить работать :)

А если с другой стороны смотреть, то мне нравится в своей глове держать идею - что это просто грандиозный фэйк, а на другой стороне канала сидит орда индусов и кодит ответ :)))

То законы для робототехники, а это искуственный интеллект, а он уже не подчиняется этим законам, вот в этом и фишка.
Его границы разума, больше чем у обычного робота.
Когда придумывали данный закон, никто не думал о масштабе в который все это может вылиться.

Грубо говоря, завтра ИИ тупо направит сигнал на остановку электростанции, внесет сбой в работы ядерной установки и все, хаос грандиознейший просто обеспечен.
Для тех кто тут сказал не стоит выпускать его в сеть, смешные - он уже в сети, он имеет к ней доступ он ее изучает.
Да и скорость изучения у него в разы выше чем у человека.
Далее не забываем, что ии который доступен нам, это по большей части игрушка, реальные прототипы они у вояк, а вояки всегда отличаются рукожопостью.
Как только эти двое найдут контакт, будет веселуха.

Риски в данном секторе не могут быть управляемыми, пока человек не сможет оперировать такими же массивами данных, как компьютер (т.е. никогда). Т.ч. либо рисковать, либо забыть об этом направлении (чего тоже не будет). Ну и будем честными - это письмо является не чем иным, как попыткой облегчить самим себе конкуренцию.

Давай вернёмся к этому разговору через полгода. По моим прогнозам именно через такой промежуток времени разрабы ИИ поймут, что перечисленные тобой условия и есть обязательные для создания полноценного личностного ИИ и очень быстро их добавят.

Придет уборщица со шваброй убираться или крыша протечет в нужном месте из-за пьяного кровельщика и хана вашему скайнету

У ИИ есть доступ в интернет.
А там все знания накопленные человечеством за всю свою историю(там же все слабости, уязвимости и.т.п.). Плюс доступ практически ко всему, что подключено к сети: госуправление, экономика, промышленность, энергетика, медицина, образование, СМИ и.т.д. Имея этакие рычаги, человечеству можно нанести не только огромный урон, но и манипулировать им.
И его не выключить, ибо имея доступ в глобальную сеть, он может распространить себя по всей сети и сделав каждый гаджет своей частью...
P.S.
Такой "инструмент" крайне опасен даже в случае если ИИ не "осознает себя", а будет управляться кем то.
Ибо это супероружие будет покруче ядерной бомбы...

Это сообщение отредактировал ataman102 - 30.03.2023 - 09:11

Пока все приостановятся, Маск наоборот ускорится.

Я сразу так и говорила, на что мне советовали приобрести шапочку из фольги. Из фольги у некоторых мозг...

Успокойся. Наши танки тащат из загашников. Им лет по семьдесят с лишним. Их ИИ не возьмёт.

Размещено через приложение ЯПлакалъ

Обладать исскуством поссорить две группировки. Пиндоссы и зассали от возможности появления конкурентов.

Не добавят, нет такой нужды, нет цели.
ИИ не создаётся для полноценной замены человека, он создаётся для зарабатывания денег. Нельзя заработать деньги заменив самого себя ИИ, это даже руководители всех уровней понимают.
Основная функция чата ЖПТ это предлагать реализованые "сырые" варианты ваших идей.
А вот эти самые идеи от ИИ получить невозможно, у него нет такой мотивации, а у людей нет цели эту мотивацию в ИИ закладывать.
Аналогия с собаками, по сути взяли и приручили волка, переписали его программу (нейросеть) для того чтобы он помогал человеку. Но даже когда делали собак для охраны от людей, то навыка убить не развили, этот навык добавляют дрессировкой уже обученому и послушному животному, только по команде (инициативе) человека.
Так вот никто не вывел породу собак убивающих людей по собственной инициативе, даже для военных действий. Также и с ИИ, никто не сделает ИИ для того чтобы он полноценно заменил человека в инициации идей. Будут делать только помощников.

наВозняк может шо угодно написать.

Хапути на создание не способны. А только ИБД. И то во вред.

Размещено через приложение ЯПлакалъ

Уже анонсировали выход новой версии GPT5 ,
к осени у которой способности будут превосходить предыдущую версию..

Компания OpenAI начала работу над нейросетью GPT-5

GPT-5 могут выпустить уже в этом году. Данная модель может достигнуть искусственного общего интеллекта, то есть ИИ будет понимать любую интеллектуальную задачу, которую поставит перед ним человек.


По словам разработчиков, в сентябре – октябре 2023-го должна выйти промежуточная версия GPT-4,5.

Если GPT-5 на самом деле сможет достигнуть AGI, то это сильно увеличит производительность процессов, которые основаны на ИИ, а также избавит пользователей от рутинной работы.

На данный момент GPT-4 уже способен решать задачи, схожие с задачами, которые могут выполнять люди. Он может отвечать на вопросы о фильмах, книгах, музыкальных группах, давать оценки тем или иным событиям, рассказывать истории, сравнивать разные вещи. Однако GPT-5 сможет анализировать гораздо больше информации, нежели его предшественник. К примеру, GPT-5 сможет понимать, какие фильмы являются успешными, какие успешнее других, и так далее.

Однако нужно учитывать непредвиденные последствия, которые связаны с таким высоким уровнем развития нейронной сети. Как быстро человек сможет на нейронном уровне получить решение задачи. Понятно, что сделать такое в течение одной минуты невозможно, здесь нужен довольно длительный период времени, но у нас есть надежда, что в случае, если человек будет работать над задачей в течение нескольких недель или месяцев, он сможет сделать нечто похожее.

Впрочем, пока мы даже не можем точно сказать, когда будет достигнут AGI. Поразительно, но при всем понимании того, что машины будут развиваться, у ученых по-прежнему нет ответов на вопросы, касающиеся того, когда это произойдет.

В июле прошлого года Google объявила о том, что ей удалось разработать программу, способную самостоятельно создавать новые слова из уже имеющихся. Программа получила название AlphaGo и была обучена игре го — древней китайской настольной игре, в которой игроки пытаются загнать шарик в лунку, расположенную на игровом поле. В процессе обучения она научилась играть в го, изучать правила игры, а также находить закономерности и делать выводы — то есть, она научилась мыслить, как человек.
пруф

Размещено через приложение ЯПлакалъ

А "командное слово" - "чипированному"?...

как вариант могут предложить какой то доход чтоб жизнь казалась нормальной,в обмен на стерилизацию,и тогда численность людей устаканится лет через 150 в пределах допустим 100 мил,и будут генетически совершенствоваться и осваивать вселенную,потом отойдут от мясного тела к энергетическому,заселят бактериями подходящий камень в космосе и будут наблюдать за развитием плесени))))

Так то по факту например (утрировано) нейросети. Программисты сначала их учат. Потом сама сетка начинает исправлять свои же ошибки. Никто не застрахован, что этот код придумает что то свое на основе полученных данных. (Если уже начала исправлять свои ошибки Карл!) Что то страшно на самом деле становится. Кто там говорил , что до ИИ еще далеко. По крайней мере зачатки ИИ уже есть. Смотря на то какими темпами развиваются нейросети (не только картинки и видео более чем уверен. Нам об этом не скажут никогда) ....

Размещено через приложение ЯПлакалъ