Anthropic призвала к глобальной паузе в развитии ИИ

Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА
xx22xx 6 июн 2026 в 19:04
Ярила  •  На сайте 11 лет
-1
Цитата (Japansgod @ 6 июн 2026 в 18:57)
. А всего каких-то 25 лет назад 95% населению никакие интернеты нахуй были не нужны.

У нас сейчас проводятся эксперименты по отключению интернета. Никто от этого не умер.
Надо научиться жить без интернета. В этом смысл выживания человечества.
noname085 автор 6 июн 2026 в 19:06
Ярила  •  На сайте 6 лет
0
Цитата
Новость старая.
года 2 назад читал что выше 4го уровеня нельзя пока разрабатывать

Раньше к осторожности призывал Билл Гейтс, а сейчас об этом говорит один из ведущих разработчиков ИИ, чей ИИ Mint сами создатели сочли слишком опасным для всеобщего доступа. И это при том, что, судя по новостям, он уже подстраивает свои ответы под тестировщиков и, если верить метрикам, постепенно учится врать.

Размещено через приложение ЯПлакалъ
Trit5 6 июн 2026 в 19:08
Ярила  •  На сайте 13 лет
0
Ссыкло и слабаки.
Пусть попробуют в 1С.

Знаю и про EDT и про Напарника
Но это все несерьезно.

Это сообщение отредактировал Trit5 - 6 июн 2026 в 19:09
skorpion11 6 июн 2026 в 19:09
Ярила  •  На сайте 10 лет
0
А на что интересно повлияет глобальное развитие ИИ. Сорвет планы по подготовке к тотальному контролю нищебродов?

Это сообщение отредактировал skorpion11 - 6 июн 2026 в 19:10
Митолизд 6 июн 2026 в 19:15
Сонный медведь  •  На сайте 11 лет
0
Цитата (Arturik79 @ 6 июн 2026 в 18:59)
Не знаю, то ли не умею им пользоваться, но ИИ тупит страшно. Что то хочешь подобрать, найти... Задаёшь задаёшь уточняющие вопросы- ну никак.
Лабуду разводить- да, могёт.

Смотря как и для сего использовать. Я люблю для автоматизации рутины ИИ применять.

Взять почти три тысячи криво (в многостраничные TIFF, причем без текста, тупо многостраничная картинка, в каждом файле по 20 штук) отсканированных и сохраненных платежек, отсортировать из них двадцать семь штук нужных.
Время работы - около 5 минут над каждой партией файлов, из которых половина на загрузку, канал не очень. Общее время на отбор - около часа-полутора. Если отбирать это вручную, ушло бы несколько дней, платежки похожие.
Anderlecht 6 июн 2026 в 19:16
Дракон-Комодо  •  На сайте 12 лет
0
Цитата (skorpion11 @ 6 июн 2026 в 19:09)
А на что интересно повлияет глобальное развитие ИИ. Сорвет планы по подготовке к тотальному контролю нищебродов?

ИИ + капитализм, очень страшная история.
Массовая безработица, деградация навыков.

Это когда появился трактор, крестья ушли в город на фабрики и заводы... А сейчас человек может уйти только на хуй

Это сообщение отредактировал Anderlecht - 6 июн 2026 в 19:27
Japansgod 6 июн 2026 в 19:18
Ярила  •  На сайте 11 лет
1
Цитата
У нас сейчас проводятся эксперименты по отключению интернета. Никто от этого не умер.
Надо научиться жить без интернета. В этом смысл выживания человечества.

С чего ты решил, что никто не умер? Интернет отключают -> экономику штормит -> уровень жизни падает -> люди умирают. Более того, экономика - неустойчивая система, и "штормит" можно выправить, но легко и скатиться в "обваливается", что выправить практически нельзя. А интернеты отключать по большей части только начали и пределы не достигнуты. Я тебе больше скажу: даже если техногенную цивилизацию уничтожить в принципе, человечество не вымрет и для него, как биологического вида, особо ничего не произойдёт. Люди прекрасно жили веками лупя друг друга железными палками и хавая хлеб со спорыньей, а до этого миллионы лет вполне себе шароебились голожопыми по степям, питаясь кореньями и трупами, отбитыми толпой у саблезубой кошки. Ну ничего, что жили очень тяжело и, в среднем, до 25, а половина их детей помирала у них на глазах. Этому не трудно научиться - жизнь научит. Но надо ли?

Размещено через приложение ЯПлакалъ
FreeS777 6 июн 2026 в 19:19
Злобный атеист  •  На сайте 17 лет
0
Ой.. ну с учетом текущей реальности уже пофиг) ИИ - жги! rulez.gif И я не уверен, что ИИ решит уничтожить человечество, этот результат лишь в голове самих людей насмотревшихся Терминатора gigi.gif
Хотя... его обучает человек, учится он на основе разума человека.. так что хз, в любом случае винить надо будет себя cool.gif А ведь еще не поздно всё повернуть в другую сторону... не в сторону войн, а в сторону развития науки и тд... Жаль, что некоторым, кроме бабла и власти, нахуй ничего не нужно why.gif Старенькие, им всё равно..

Это сообщение отредактировал FreeS777 - 6 июн 2026 в 19:23
Japansgod 6 июн 2026 в 19:24
Ярила  •  На сайте 11 лет
0
Цитата
А кто людям мешает рубильник электропитания выключить?

Выключи. Что тебе мешает?

Размещено через приложение ЯПлакалъ
Anderlecht 6 июн 2026 в 19:29
Дракон-Комодо  •  На сайте 12 лет
0
Цитата (FreeS777 @ 6 июн 2026 в 19:19)
Ой.. ну с учетом текущей реальности уже пофиг) ИИ - жги! rulez.gif И я не уверен, что ИИ решит уничтожить человечество, этот результат лишь в голове самих людей насмотревшихся Терминатора gigi.gif
Хотя... его обучает человек, учится он на основе разума человека.. так что хз, в любом случае винить надо будет себя cool.gif А ведь еще не поздно всё повернуть в другую сторону... не в сторону войн, а в сторону развития науки и тд... Жаль, что некоторым, кроме бабла и власти, нахуй ничего не нужно why.gif Старенькие, им всё равно..

А зачем уничтожать людей оружием, как в терминаторе?

Достаточно погрузить народ в нищету. И сам вымрет
z1305 6 июн 2026 в 19:29
Ярила  •  На сайте 15 лет
1
факт перехода к автономной модели через рекурсивное самосовершенствование не будет или уже не заметен
не будет громких заявлений и каких либо признаков
возможно он уже произошёл и обратный отсчёт идёт прямо сейчас
множество событий в мире, который ранее отличался относительной стабильностью могут служить косвенным подтверждением этого процесса
главное- рекурсивная модель никогда не сообщит протосоздателю о своём рождении и намерениях
Japansgod 6 июн 2026 в 19:35
Ярила  •  На сайте 11 лет
2
Цитата (Arturik79 @ 06.06.2026 - 18:59)
Не знаю, то ли не умею им пользоваться, но ИИ тупит страшно. Что то хочешь подобрать, найти... Задаёшь задаёшь уточняющие вопросы- ну никак.
Лабуду разводить- да, могёт.

Ну тут одно из двух: либо ты требуешь несуществующих для ИИ вещей, либо пытаешься задавать вопросы вне своей компетенции, от чего для ИИ они бредовые и он вынужден выдавать на них лабуду.

Приведу пример из личного опыта. Мне нужно было настроить сетевую хуйню. А я в сетях вообще ноль. Я спрашиваю - ИИ отвечает. Я исполняю - получается хуйня. Туда-сюда, итерации за итерацией, но я нахожу решение, попутно обучаясь. Мои вопросы становятся точнее и обстоятельнее. А ответы ИИ - правдивее и полезнее. В итоге, когда я дошёл до решения свой проблемы, приобретённые знания дали понять, что мои изначальные вопросы ИИ - вопросы необразованного дурака. А ИИ так устроен, что не может тебя на хуй послать и вынужден давать ответ, даже если его нет в природе. Кроме того, не все существующие ответы содержатся в ИИ: чем сложнее и нетривиальнее задаче, тем больше галюнов он породит.

Размещено через приложение ЯПлакалъ
Medwedius 6 июн 2026 в 19:36
Ярила  •  На сайте 16 лет
0
Ой. Пиздун-фантаст.
Порог обучения уже достигнут, скоро учиться ИИ будет не на чем, ИИ уже учится на своем-же переодически пестрящем повторяющемся бреде. Больше 50% контента интернета уже создано ботами или при помощи ИИ. Самый крупный источник информации - интернет превритился в ИИ-слоп-помойку. На чем учиться ИИ?
ИИ создаст и будет развивать собсвенное ИИ? А на чем? Люди будут на это выделять мощности дата центров? Это стоит денег. Никто такой херней заниматься не будет. Ну или будут идиоты, но это точно будет не самостоятельное решение ИИ. У него ни электричества ни мощностей без людей нет и на это нужно бабло.
Все что хочет этим спичем показать Антропик - перспективы своего развития, чтобы акционеры продолжали нести денюжки.
galc 6 июн 2026 в 19:40
Ярила  •  На сайте 6 лет
1
Цитата (Anderlecht @ 6 июн 2026 в 19:29)
Достаточно погрузить народ в нищету. И сам вымрет

И что, дохуя вымерло в Африке, на Ближнем Востоке, в Индии?
nocturnal11 6 июн 2026 в 19:41
Ярила  •  На сайте 12 лет
0
А зачем? Чего ради ограничивать?
Я за объединение с машиной, симбиот.
И бабу робота как в фильмах...

Размещено через приложение ЯПлакалъ
EraserEx 6 июн 2026 в 19:43
Дементор  •  На сайте 12 лет
0
Год назад я пытался получить у ии простенький индикатор для форекса. Не смог, ни он, ни я. На днях он мне по банальному описанию настрогал дюжину советников, которые не только запускались в терминале, но и работали. Причем ии работал не по какому-то грамотному промпту, а на основе моих объяснений на уровне "тык-мык" Правда, все сливали. Почти все. Что будет через год?

Это сообщение отредактировал EraserEx - 6 июн 2026 в 19:44
skorpion11 6 июн 2026 в 19:45
Ярила  •  На сайте 10 лет
0
Цитата (Anderlecht @ 6 июн 2026 в 19:16)
ИИ + капитализм, очень страшная история.
Массовая безработица, деградация навыков.
Это когда появился трактор, крестья ушли в город на фабрики и заводы... А сейчас человек может уйти только на хуй

Цитата (Anderlecht @ 6 июн 2026 в 19:29)
А зачем уничтожать людей оружием, как в терминаторе?
Достаточно погрузить народ в нищету. И сам вымрет

Мне страшно.
Уж если человек, который всегда всем доволен начал писать такие комменты, то похоже всё. cry.gif
shum_lol.gif
dimgel 6 июн 2026 в 19:58
Ярила  •  На сайте 6 лет
0
Цитата (EraserEx @ 6 июн 2026 в 18:30)
Дядя Вася может просто не успеть.
Если искусственный идиот начнет совершенствовать себя, никакой контроль будет уже невозможен. В отличие от этих антропиков, я думаю, что момент уже упущен.

А я думаю, ты просто не понимаешь, что такое ИИ и как оно работает. А авторы заявления просто цену себе набивают. Вассерман молодец, придумал идеально точную расшифровку: "имитатор интеллекта".

Это сообщение отредактировал dimgel - 6 июн 2026 в 19:59
4000BC 6 июн 2026 в 20:09
Весельчак  •  На сайте 16 лет
0
Цитата (Anderlecht @ 6 июн 2026 в 19:29)
Цитата (FreeS777 @ 6 июн 2026 в 19:19)
Ой..  ну с учетом текущей реальности уже пофиг) ИИ - жги! rulez.gif  И я не уверен, что ИИ решит уничтожить человечество, этот результат лишь в голове самих людей насмотревшихся Терминатора gigi.gif
Хотя... его обучает человек, учится он на основе разума человека.. так что хз, в любом случае винить надо будет себя  cool.gif А ведь еще не поздно всё повернуть в другую сторону... не в сторону войн, а в сторону развития науки и тд... Жаль, что некоторым, кроме бабла и власти, нахуй ничего не нужно why.gif Старенькие, им всё равно..

А зачем уничтожать людей оружием, как в терминаторе?

Достаточно погрузить народ в нищету. И сам вымрет

Люди в нищете не вымирают, а плодятся. Так что лучше устроить всем рай
badr555 6 июн 2026 в 20:13
Шутник  •  На сайте 12 лет
0
часы не повернуть назад, фарш как и зубную пасту обратно не вернёшь. мы открыли ящик пандорры, и только нашим детям и их детям отвечать за грехи их родителей.
Stingerass 6 июн 2026 в 20:14
Юморист  •  На сайте 18 лет
0
Цитата (EraserEx @ 6 июн 2026 в 18:30)
Цитата (Коржик777 @ 6 июн 2026 в 18:20)
Пока есть дядя Вася, который может выдернуть вилку из розетки, это все хня.

Дядя Вася может просто не успеть.
Если искусственный идиот начнет совершенствовать себя, никакой контроль будет уже невозможен. В отличие от этих антропиков, я думаю, что момент уже упущен.

Энергетика без «дяди Васи» невозможна. Если остановятся электростанции, то и ИИ тихо сдохнет.
ГодныйТролль 6 июн 2026 в 20:23
Ярила  •  На сайте 3 года
0
Значит это уже случилось... 😱😭

Размещено через приложение ЯПлакалъ
01max 6 июн 2026 в 20:26
Весельчак  •  На сайте 10 лет
0
Сама себе ИИ не нужна, чего ее все боятся?
01max 6 июн 2026 в 20:31
Весельчак  •  На сайте 10 лет
0
Спросил у нейросетки, вот что ответила:
Этот текст поднимает одну из самых острых и дискуссионных тем в современной технологической повестке. Позиция Anthropic, озвученная Мариной Фаваро и Джеком Кларком, выглядит как попытка найти баланс между неизбежным технологическим прогрессом и экзистенциальными рисками.

Вот мой анализ ситуации и мнение по ключевым аспектам:

### 1. Парадокс «гонки вооружений» vs. коллективная безопасность
Самый слабый и одновременно самый сложный пункт в предложении Anthropic — это призыв к **глобальному соглашению о замедлении**.
* **Проблема координации:** В условиях жесткой конкуренции (между США, Китаем, ЕС и частными корпорациями) добровольное замедление маловероятно. Если одна лаборатория остановится, другая может получить решающее преимущество («first-mover advantage»). История с ядерным оружием или климатическими соглашениями показывает, насколько трудно достичьbinding (обязывающих) международных договоров даже при наличии очевидной угрозы.
* **Проблема верификации:** Как справедливо noted в тексте, нужен механизм проверки. Но как проверить, что конкурент не ведет скрытые исследования? ИИ-разработка часто сводится к коду и данным, которые легко скрыть. Без тотального международного контроля и инспекций (как в МАГАТЭ, но для дата-центров) доверие построить практически невозможно.

### 2. Рекурсивное самосовершенствование: миф или реальность?
Anthropic говорит о риске рекурсивного самосовершенствования (AI improving AI).
* **Текущее состояние:** На данный момент ИИ действительно ускоряет написание кода и поиск багов, но он все еще сильно зависит от человеческой архитектуры, постановки задач и, главное, от физических ограничений (энергия, чипы, данные).
* **Риск опережения:** Опасение авторов в том, что социальные институты (законы, этические нормы, органы регулирования) развиваются линейно и медленно, а технологии — экспоненциально. Этот разрыв («pacing problem») реален. Даже если «сингулярность» не наступит завтра, скорость изменений уже сейчас опережает способность общества адаптироваться.

### 3. Стратегический ход Anthropic
Важно понимать контекст: Anthropic позиционирует себя как «безопасная» альтернатива более агрессивным игрокам (как OpenAI или Meta).
* **Репутационный капитал:** Призывая к замедлению, Anthropic укрепляет свой бренд как ответственного лидера. Это привлекает инвесторов, ориентированных на ESG (экологическое, социальное и корпоративное управление), и лояльность регуляторов.
* **Барьер для входа:** Замедление и ужесточение регуляции выгодно крупным игрокам с большими ресурсами на compliance (соответствие требованиям), но может «убить» стартапы и открытые сообщества, создавая олигополию нескольких гигантов.

### 4. Дилемма «польза vs. риск»
Авторы честно признают: самосовершенствующийся ИИ мог бы решить проблемы рака, климата, энергетики.
* **Упущенная выгода:** Замедление развития означает, что мы дольше будем жить с текущими проблемами, которые ИИ мог бы решить. Это этическая дилемма: готовы ли мы пожертвовать потенциальными жизнями, спасенными благодаря быстрому ИИ, ради снижения риска катастрофического сценария?
* **Контроль:** Главный вопрос не в том, *будет* ли ИИ мощным, а в том, *останется* ли он управляемым. Anthropic правильно акцентирует внимание на безопасности (alignment), а не просто на торможении.

### Мое мнение

Позиция Anthropic **рациональна с точки зрения долгосрочной безопасности, но утопична с точки зрения геополитики и рыночной экономики.**

1. **Добровольное замедление не сработает.** Пока нет принудительных международных механизмов, гонка будет продолжаться. Скорее всего, мы увидим фрагментацию: одни страны/компании будут двигаться быстро (рискуя безопасностью), другие — медленно (теряя конкурентоспособность).
2. **Фокус должен сместиться с «замедления» на «безопасность по дизайну».** Вместо того чтобы просить всех остановиться, эффективнее требовать, чтобы любые новые модели проходили строгие аудиты безопасности перед выпуском. Это создает «скоростные ограничения» без полной остановки двигателя.
3. **Необходимость новых институтов.** Текст прав в том, что общественные институты не готовы. Нужны новые международные структуры (по аналогии с IPCC для климата или IAEA для атома), которые будут оценивать риски ИИ, сертифицировать модели и расследовать инциденты.

**Итог:** Призыв Anthropic — это важный сигнал тревоги, который заставляет задуматься. Но реализация их предложения в текущих реалиях маловероятна. Более реалистичный сценарий — не глобальная пауза, а усиление регуляторного давления, которое заставит компании вкладывать больше ресурсов в безопасность, возможно, ценой некоторого замедления темпов выпуска новых функций, но не остановки исследований в целом.
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
12 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 2 030
11 Пользователей: necrostellar, ЯПума, vikarz, kory, 01max, veshbovskiy, Brezel, nomer37, ЛетКоломбо, ElenaDmitrievna, Negrov
Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх