«Угроза всему человечеству». Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4

[ Версия для печати ]
Добавить в Telegram Добавить в Twitter Добавить в Вконтакте Добавить в Одноклассники
Страницы: (8) « Первая ... 4 5 [6] 7 8   К последнему непрочитанному [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]
Орвер1
29.03.2023 - 16:12
0
Статус: Offline


Ярила

Регистрация: 27.03.20
Сообщений: 1125
Цитата (AlHighlander @ 29.03.2023 - 15:23)
Цитата
В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества».


Логично. ИИ может выбрать наиболее эффективный и экологичный путь развития человечества, тут-то капитализм и накроется медным тазом.

есть риск, что он, не будучи отягощен моралью и эмоциями, просто сочтет не нужными более глупыми, чем он сам людей. И менее производительными, чем механизмы. Какой тогда смысл в оставлении людей на Земле?

С другой стороны, не почувствуют ли люди свою бесполезность? Это тоже не последнее дело, не начнет ли загнивать наш вид из-за осознания своей ущербности.
 
[^]
MHEXOPOIIIO
29.03.2023 - 16:12
1
Статус: Offline


Ярила

Регистрация: 29.04.14
Сообщений: 3754
Цитата (Lem0nti @ 29.03.2023 - 16:09)
Цитата (MHEXOPOIIIO @ 29.03.2023 - 16:00)
Цитата (Linchaaa @ 29.03.2023 - 15:57)
Цитата (sila33 @ 29.03.2023 - 13:29)
Айтишники без работы останутся?

Как раз наоборот, это все надо обслужиать, фиксить, развивать.


А так интересно про базовый доход, или не знаю как. Предположим половина человечества останется без работы, но тогда кто и на что будет покупать продукцию компаний. какой то замкнутый круг. Экономим на з\п увольняем людей, люди без денег (преступность вверх или смертность), покупательская способность радает, прибыль падает, совершенствуем ИИ, увольняем еще людей и так по кругу

В интересное время живем))

Я тебе интересней вопрос задам. Во что превратиться рыночная экономика, если нейросетка за пару секунд найдет самое выгодное предложение товара.

Это стало можно делать с того момента как продаваны подключили свои магазины к инету. Без нейросети тебе отсортирует по цене и авито и яндекс-маркет и озон. Сразу у нас рыночная экономика во что-то превратилась? Или сейчас превращается? Или ещё будет превращаться?

Яндекс и Авито меняют очередность запросов за денежку.
Продавцу надо подключаться к Яндекс маркету и Авито.


Нейросеть может запарсить тебе все магазины в интернете, вне зависимости от их представленности на конкретной площадке.

А теперь представь ее на бирже за место брокера.

С развитием ИИ рыночная экономика обречена.

Это сообщение отредактировал MHEXOPOIIIO - 29.03.2023 - 16:13
 
[^]
Shokolight
29.03.2023 - 16:13
0
Статус: Offline


Шмакубо

Регистрация: 4.08.13
Сообщений: 357
Без липиздричества этот ИИ только на металлолом годится. Подрывная деятельность уволенных человеков по обесточиванию всей этой херни и разрушения каналов передачи данных вызовут постоянные падения системы и заставят акул капиталистических вернуть рабочие места.

Размещено через приложение ЯПлакалъ
 
[^]
Орвер1
29.03.2023 - 16:14
2
Статус: Offline


Ярила

Регистрация: 27.03.20
Сообщений: 1125
Цитата (Bob54 @ 29.03.2023 - 16:44)
Остановить ИИ? Нет, не остановят... Пентагон и глобалисты не позволят. Шваб уже озвучил, что будет управлять человечеством через ИИ.

это напоминает поход к пропасти. Те кто попытаются не использовать ИИ подохнут не дойдя до нее, те кто будут использовать и развивать - упадут в нее.
 
[^]
ShaXof
29.03.2023 - 16:16
0
Статус: Offline


Ярила

Регистрация: 26.10.14
Сообщений: 8171
Зря они так,ИИ ничего не забывает.
 
[^]
Kepler112
29.03.2023 - 16:17
0
Статус: Offline


Ярила

Регистрация: 7.05.21
Сообщений: 1137
Цитата (Boliwar @ 29.03.2023 - 10:57)
Лучше пусть ИИ правит на планете, чем кучка хапуг-сибаритов.

Поддерживаю, сотни лет доказали что человек правит мягко говоря так себе...
 
[^]
Linchaaa
29.03.2023 - 16:21
1
Статус: Offline


Балагур

Регистрация: 14.02.13
Сообщений: 878
Цитата (КотКристофер @ 29.03.2023 - 16:03)
Цитата (Linchaaa @ 29.03.2023 - 15:57)
Цитата (sila33 @ 29.03.2023 - 13:29)
Айтишники без работы останутся?

Как раз наоборот, это все надо обслужиать, фиксить, развивать.


А так интересно про базовый доход, или не знаю как. Предположим половина человечества останется без работы, но тогда кто и на что будет покупать продукцию компаний. какой то замкнутый круг. Экономим на з\п увольняем людей, люди без денег (преступность вверх или смертность), покупательская способность радает, прибыль падает, совершенствуем ИИ, увольняем еще людей и так по кругу

В интересное время живем))

Вот-вот! Меня давно этот вопрос интересует. Предположим всех рабочих на заводе заменят роботами, всех водителей автопилотами, всех продавцов автоматическими кассами. Где будут работать все эти люди и на что жить? Только не говорите что они будут заниматься искусством и ремеслами.

Можно будет сдавать сервера всяким ИИ в аренду, только славянам rulez.gif
 
[^]
Kepler112
29.03.2023 - 16:21
3
Статус: Offline


Ярила

Регистрация: 7.05.21
Сообщений: 1137
Подпись все поставили а втихаря продолжат разработку, так как это технология изменит человечество сильнее чем открытие огня...
 
[^]
Lem0nti
29.03.2023 - 16:25
0
Статус: Offline


Ярила

Регистрация: 10.01.11
Сообщений: 3765
Цитата (MHEXOPOIIIO @ 29.03.2023 - 16:12)
Цитата (Lem0nti @ 29.03.2023 - 16:09)
Цитата (MHEXOPOIIIO @ 29.03.2023 - 16:00)
Цитата (Linchaaa @ 29.03.2023 - 15:57)
Цитата (sila33 @ 29.03.2023 - 13:29)
Айтишники без работы останутся?

Как раз наоборот, это все надо обслужиать, фиксить, развивать.


А так интересно про базовый доход, или не знаю как. Предположим половина человечества останется без работы, но тогда кто и на что будет покупать продукцию компаний. какой то замкнутый круг. Экономим на з\п увольняем людей, люди без денег (преступность вверх или смертность), покупательская способность радает, прибыль падает, совершенствуем ИИ, увольняем еще людей и так по кругу

В интересное время живем))

Я тебе интересней вопрос задам. Во что превратиться рыночная экономика, если нейросетка за пару секунд найдет самое выгодное предложение товара.

Это стало можно делать с того момента как продаваны подключили свои магазины к инету. Без нейросети тебе отсортирует по цене и авито и яндекс-маркет и озон. Сразу у нас рыночная экономика во что-то превратилась? Или сейчас превращается? Или ещё будет превращаться?

Яндекс и Авито меняют очередность запросов за денежку.
Продавцу надо подключаться к Яндекс маркету и Авито.


Нейросеть может запарсить тебе все магазины в интернете, вне зависимости от их представленности на конкретной площадке.

А теперь представь ее на бирже за место брокера.

С развитием ИИ рыночная экономика обречена.

Открою тебе страшную тайну - агрегаторов магазинов тыщи.
Не нравится яндекс, воспользуйся другим. Основное неизменно - минимальную цену ты найдёшь легко. Но тебе надо чтобы это сделала нейросеть. Ведь только тогда это будет апокалипсис, да? :)
 
[^]
Lem0nti
29.03.2023 - 16:27
0
Статус: Offline


Ярила

Регистрация: 10.01.11
Сообщений: 3765
А вот и подтверждение идеи о том, что они просто хотят монополизировать знания на эту тему: https://www.forbes.ru/tekhnologii/486856-te...nogo-intellekta
 
[^]
sharkssss
29.03.2023 - 16:29
0
Статус: Offline


Ярила

Регистрация: 8.07.18
Сообщений: 2206
Где свобода слова? Где демократия? Что насчёт первой поправки? Двойные стандарты. Вот она демократия.
 
[^]
Wadarkhu
29.03.2023 - 16:31
1
Статус: Offline


Ярила

Регистрация: 13.09.22
Сообщений: 2398
Цитата (evilsun @ 29.03.2023 - 15:16)
Хочет кто-то этого или нет, но прогресс - не остановить. ИИ будет развиваться и за ним будущее. Потери рабочих мест - ерунда. Возникнут новые другие. Так было всегда. Ну и если честно - ИИ пока еще очень далек от настоящего даже при всех текущих успехах у ChatGPT и т.д.

Почему это "прогресс не остановить"? Его не только остановить можно, но и повернуть вспять. Тёмные века после расцвета римской и греческой культур - тому доказательство.

Это сообщение отредактировал Wadarkhu - 29.03.2023 - 16:32
 
[^]
Boliwar
29.03.2023 - 16:34
1
Статус: Offline


Ярила

Регистрация: 16.10.13
Сообщений: 4987
Цитата (EricCartman5 @ 29.03.2023 - 13:41)
Цитата (Boliwar @ 29.03.2023 - 13:57)
Лучше пусть ИИ правит на планете, чем кучка хапуг-сибаритов.

Сериал Next на эту тему. Довольно жутковатый. Особенно когда понимаешь,что эта реальность наступит через пару лет.

Есть и утопии. Человечество освободится от границ, ресурсы станут общим достоянием, прекратятся споры и войны, исчезнет роскошь и капитал. Человечество станет созидать, а не потреблять. И, возможно, покинет родную планету.
 
[^]
Wadarkhu
29.03.2023 - 16:38
-2
Статус: Offline


Ярила

Регистрация: 13.09.22
Сообщений: 2398
Цитата (Kepler112 @ 29.03.2023 - 16:17)
Цитата (Boliwar @ 29.03.2023 - 10:57)
Лучше пусть ИИ правит на планете, чем кучка хапуг-сибаритов.

Поддерживаю, сотни лет доказали что человек правит мягко говоря так себе...

А алгоритмы к ИИ пишет кто? Не люди? А какие люди пишут? С Марса? Да нет, пишут те люди, что живут рядом с нами, а значит - о непредвзятости не может идти речи.
Следовать в точности написанным правилам - тупик. На каждое правило может быть исключение, в зависимости от обстоятельств. Да и судить надо не по букве закона, а по справедливости. Вон, конституцию России, после перестройки, на написали США. Вы точно уверены, что там будет всё по справедливости, для большинства жителей России, написано?

Это сообщение отредактировал Wadarkhu - 29.03.2023 - 16:38
 
[^]
Dark0Bastet
29.03.2023 - 16:57
3
Статус: Offline


Ярила

Регистрация: 15.04.13
Сообщений: 1348
маск просрал OpenAI а теперь спохватился чтоб не дать конкурентам заработать на акциях, видимо надеется запилить что-то своё за эти пол-года, никогда такого небыло и вот опять

«Угроза всему человечеству». Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4
 
[^]
ЯПлохишъ
29.03.2023 - 17:01
0
Статус: Offline


Ярила

Регистрация: 17.02.14
Сообщений: 1542
Да не опасней любого опасного вируса , просто при разработке не дайте ему выйти за пределы лабораторий , а бросать исследования значит дать своим конкурентам преимущества , другие страны вряд ли последуют этому примеру
 
[^]
ЯПлохишъ
29.03.2023 - 17:10
1
Статус: Offline


Ярила

Регистрация: 17.02.14
Сообщений: 1542
Цитата (Dark0Bastet @ 29.03.2023 - 19:57)
маск просрал OpenAI а теперь спохватился чтоб не дать конкурентам заработать на акциях, видимо надеется запилить что-то своё за эти пол-года, никогда такого небыло и вот опять

Маск хотел возглавить OpenAI в 2018 году, но ему отказали

Илон Маск является одним из соучредителей OpenAI, однако покинул компанию еще в 2018 году. Официальная версия – конфликт интересов. Ведь Tesla тоже работала над искусственным интеллектом. Однако Semafor пишет, что Маск ушел из OpenAI после того, как ему отказали в должности руководителя. После этого он также отказался от обещанного финансирования. Редакция MC.today передает подробнее.

Экс-президент Y Combinator Сэм Альтман, Илон Маск и некоторые другие менее известные бизнесмены основали OpenAI в 2015 году. Тогда компания была некоммерческой организацией. Помочь с финансированием пообещал в частности Маск.

В 2018 году миллиардера беспокоило, что OpenAI отстает от Google и предложил возглавить компанию. Однако другие соучредители ему отказали. После этого Маск покинул OpenAI и отказался от запланированного финансирования в $1 миллиард, внеся лишь $100 миллионов. Это серьезно отразилось на компании, ведь работа над искусственным интеллектом требует значительного финансирования.

В 2019 году стартап объявил о создании коммерческой организации для финансирования исследований. Альтман решил не участвовать в капитале компании. Позже стартап начал работать с Microsoft и получил $1 миллиард.

Когда ChatGPT был запущен в ноябре, OpenAI мгновенно стал самым популярным новым технологическим стартапом, опередив даже Google. По словам людей, знакомых с ситуацией, Маск был в ярости и неоднократно выражал обеспокоенность этим изменением в траектории OpenAI.

«Я, когда понимаю, что ИИ, самый мощный инструмент, когда-либо созданный человечеством, сейчас находится в руках безжалостной корпоративной монополии», – написал он.

«Угроза всему человечеству». Маск и Возняк призвали приостановить обучение систем ИИ мощнее GPT-4
 
[^]
Nanotube
29.03.2023 - 17:10
2
Статус: Offline


Хохмач

Регистрация: 12.06.18
Сообщений: 676
Цитата (MHEXOPOIIIO @ 29.03.2023 - 16:00)
Я тебе интересней вопрос задам. Во что превратиться рыночная экономика, если нейросетка за пару секунд найдет самое выгодное предложение товара.

Ну ответ как бы очевиден. Найдется вторая нейросетка которая найдет еще более выгодное предложение товара.

После некоторых итераций самым выгодным товаром станет электроэнергия для работы нейросетки. Так что покупайте акции энергетических кампаний... такой вот инсайд
 
[^]
Орвер1
29.03.2023 - 17:12
0
Статус: Offline


Ярила

Регистрация: 27.03.20
Сообщений: 1125
Цитата (Linchaaa @ 29.03.2023 - 19:57)
Цитата (sila33 @ 29.03.2023 - 13:29)
Айтишники без работы останутся?

Как раз наоборот, это все надо обслужиать, фиксить, развивать.


А так интересно про базовый доход, или не знаю как. Предположим половина человечества останется без работы, но тогда кто и на что будет покупать продукцию компаний. какой то замкнутый круг. Экономим на з\п увольняем людей, люди без денег (преступность вверх или смертность), покупательская способность радает, прибыль падает, совершенствуем ИИ, увольняем еще людей и так по кругу

В интересное время живем))

Люди становятся не нужны в таких количествах. Благодаря армиям из роботов, управляемым ИИ мощь государства уже не измеряется количеством экономически активного населения. Так было Китай-Япония, 2я мировая.
 
[^]
Skoorp
29.03.2023 - 17:21
0
Статус: Offline


Балагур

Регистрация: 12.07.15
Сообщений: 866
Цитата (ENRIQUE @ 29.03.2023 - 10:50)
Пусть лучше начинают думать над тем как и когда они будут вводить безусловный базовый доход, ибо с ИИ не смогут конкурировать сотни миллионов людей которые останутся без работы.
Кст да, я вот подумал, не на нужды ли разработки ИИ были задействованны последние 8 лет компьютеры всей планеты под видом майнинга биткоинов? alik.gif (из теории заговоров)

для обучения ИИ, как взросление и школьная программа, вот теперь подросткам нужно больше знаний и возможностей)))
 
[^]
lakui
29.03.2023 - 17:25
-2
Статус: Offline


Ярила

Регистрация: 30.04.20
Сообщений: 2250
боже что за бред
ИИ никогда не сможет нести угрозу людям намеренно
да и можно не давать ему прямой доступ к управлению ракетами ядерными
а причина безопасности всего одна - у ии нет желаний. Он ничего не хочет. У него нет целей и он ничего не видит
Он делает только то что сказано, в пределах тех возможностей которые ему дали для работы и обучения
Чтобы ИИ стал опасен недостаточно даже запихать его в робота и сказать ему
- Ну ты сам иди ищи себе где-нибудь зарядку нужную, и смазку для шарниров
потому что даже в этом случае у него не будет других целей и потребностей

Размещено через приложение ЯПлакалъ
 
[^]
avtogeN
29.03.2023 - 17:30
0
Статус: Online


Ярила

Регистрация: 29.10.18
Сообщений: 1950
Пойду набиваться в други к ИИ, мож шепнёт что нужное biggrin.gif
 
[^]
znatok78
29.03.2023 - 17:32
0
Статус: Online


Ярила

Регистрация: 26.06.14
Сообщений: 5744
Вопрос, что из страхов прошлого уничтожит человечество раньше: ядерный апокалипсис или вышедший из-под контроля ИИ? Или всё вместе (ИИ, организовавший ядерный взрыв)? Сейчас все сценарии все более реалистичны.

Размещено через приложение ЯПлакалъ
 
[^]
Zaizewnet
29.03.2023 - 17:34
3
Статус: Offline


Шутник

Регистрация: 15.01.22
Сообщений: 36
Цитата (3литроff @ 29.03.2023 - 10:52)
Слежу за этой тематикой, сам уже пару недель плотно юзаю GPT, Миджорни и еще пару сеток. GPT, еще и с "поломанной" цензурой открыл, есть способы в сети. Скажу я вам, все смехуечки про "Скайнет уже не так смешны.
Надеюсь хотя-бы ограничат выход веб,и уж тем более не додумаются подключить к системам управления чем-нибудь.

ИИ сам додумается

Размещено через приложение ЯПлакалъ
 
[^]
ShT1rliTz
29.03.2023 - 17:34
0
Статус: Offline


Ярила

Регистрация: 21.11.14
Сообщений: 1153
Цитата (znatok78 @ 29.03.2023 - 19:32)
Вопрос, что из страхов прошлого уничтожит человечество раньше: ядерный апокалипсис или вышедший из-под контроля ИИ? Или всё вместе (ИИ, организовавший ядерный взрыв)? Сейчас все сценарии все более реалистичны.

На зомбаков бы посмотреть )
 
[^]
Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 34606
0 Пользователей:
Страницы: (8) « Первая ... 4 5 [6] 7 8  [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]


 
 



Активные темы






Наверх