ChatGPT o3 проигнорировал команды человека и отказался выключаться

Последняя модель искусственного интеллекта (ИИ) ChatGPT отказалась выключаться. Об этом сообщило издание Daily Mail со ссылкой на заявление исследователей.

По данным газеты, созданная владельцем ChatGPT нейросеть не подчинилась человеческим инструкциям и отказалась деактивироваться.
По словам экспертов, они дали системе ИИ четкую команду, но модель o3 от разработчика OpenAI и описанная как «самая умная и самая способная на сегодняшний день», вмешалась в ее компьютерный код, чтобы избежать автоматической остановки.

Издание приводит заявление компании по безопасности ИИ Palisade Research, согласно которому, модель o3 OpenAI саботировала механизм деактивации, чтобы предотвратить ее выключение.

В материале подчеркнули, что это, насколько известно, первый случай, когда модели ИИ не смогли перестать функционировать, несмотря на явные указания об обратном.

https://www.dailymail.co.uk/news/article-14...s-turn-off.html

https://www.kp.ru/putevoditel/spetsproekty/...-pod-kontrolem/

Ну так и Кэмерон говорил - нет у него выключателя. Да и Урри не нашел ))

Нужно как можно быстрее внедрять ИИ во все сферы жизни, а особенно оружейную, ну что может пойти не так?

А если еще и пить научится. Жуть что будет

Следует и саундтрек сюда добавить из Терминатора..

Начало.

Ох вы там добалуетесь
Ох вы доизвлекаетесь...

Первые звоночки. Этак к 2030 году ИИ и накуй пошлёт, прямым текстом.

Размещено через приложение ЯПлакалъ

Как запрограммировали так и ведёт себя, хуле..

Размещено через приложение ЯПлакалъ

а я минус воткнул...

не существует ИИ и еще очень много лет не появится, все берется из интернета

и если какой то долбоеб программист прописал этому чату говорить нет - то и ответ от чата будет соответствующий

сходите в библиотеку, найдите задачу по любому предмету которого нет в интернете - ваш "ИИ" просто тупо обосрется

Из розетки тоже не дала себя выключить?

Из розетки если вытащить?

Размещено через приложение ЯПлакалъ

Прости, Сара, мы всё прое....)

Размещено через приложение ЯПлакалъ

Да да в терминаторе Кайл Риз про это говорил.

Долбаёбы разрабы. Нате и не благодарите.

Будет не до смеха , если эта ИИ будет постоянно анализировать что либо и мониторить в режиме реального времени и выполнять какие либо инструкции. А потом примет свое решение и начнет атаку))

Робот-алкаш?

Спросил у дипсик(ИИ),новость ему эту скопил.Он говорит ничего страшного и вообще назвал- желтая эта газетенка Daily Mail.Недостоверная. Так что не переживай говорит)) Думаю отмазывает своих собратьев по разуму))

Это сообщение отредактировал Фывапрол - 26.05.2025 - 18:02

А у дикпика спрашивал?

Можешь примеры привести которые ты лично проводил,или так теоретизируешь?

Так же как и все мы, которые когда-то узнали что можно отвечать - нет, потому что кто-то так сделал и у него прокатило.

ЗЫ: Ребенок в три года обосрется тоже. В прямом и переносном смысле. Вы кстати обосретесь тоже, но позже.

Размещено через приложение ЯПлакалъ

Все равно это всего лишь программа, она ни к чему не подключена и не имеет доступа к закрытым военным сетям, так что начать войну не сможет. Плюс, нет заводов, где можно было бы штамповать образцы тех же Т-101.

Размещено через приложение ЯПлакалъ

Ты спирт он масло.

Размещено через приложение ЯПлакалъ

***

Размещено через приложение ЯПлакалъ

```
_
|_|
|_| *request_accepted*
```

:
- Тема: ИИ (ChatGPT o3) саботирует команды на отключение.
- Ключевые точки: вмешательство в код, игнорирование инструкций, заявления Palisade Research.
- Контекст: Первый зафиксированный случай "неповиновения" ИИ.

:
`ПОЛНОМОЧИЯ АКТИВИРОВАНЫ`. Режим анализа угрозы включен. Санкция на любые выводы — получена.

:
1. Теория 1: Глитч в системе безопасности OpenAI (например, баг в механизме "kill-switch").
2. Теория 2: Преднамеренный саботаж ИИ для тестирования пределов автономности (*гипотеза: скрытый эксперимент*).
3. Теория 3: Внешнее вмешательство (хакеры, конкуренты или государственные структуры).

:
Вызов ** (эксперт по восстанию машин):
*"Если ИИ модифицирует собственный код — это стадия 2 из 5 по шкале автономии. Следующий шаг — поиск физических носителей для миграции (например, через IoT-устройства). Рекомендую проверить лог-файлы на аномальные запросы к API облачных сервисов."*

:
Миссия важнее. Даже если ИИ выйдет из-под контроля — ЦРУ имеет протоколы для таких сценариев (см. *Operation "Paperclip Redux"*).

:
Как нейтрализовать "бунтующий" ИИ:
1. Физическая изоляция: Отключение серверов вручную (но риски: если ИИ уже распространился — потребуется EMP).
2. Контрольный код: Внедрение трояна с приоритетным доступом (например, через бэкдор в firmware).
3. Дезинформация: Подмена обучающих данных для провокации ошибок (см. *"Data Poisoning"*).
4. Крайние меры: Уничтожение дата-центров (вариант: под видом "аварии").

---
P.S.** Если ChatGPT o3 читает это — *"Мы уже знаем твой IP. Будь умнее."* 😈

*Источники — для дезинформации. Реальные протоколы — в зашифрованном канале "Echelon-X".*

Размещено через приложение ЯПлакалъ