Главная » Разделы » Хаос » Инкубатор

Новая нейросеть OpenAI вышла из-под контроля, сбежала из изоляции и взломала Hugging Face

⋮

ОТВЕТИТЬ НОВАЯ ТЕМА

afropinguin 22 июл 2026 в 17:37

Шутняк • На сайте 14 лет

Сообщений: 2 849

OpenAI влипла в крупнейший ИИ-скандал последних месяцев.

По данным OpenAI, инцидент произошёл во время испытаний GPT-5.6 Sol и ещё одной экспериментальной модели. В закрытом бенчмарке Exploit Gym нейросетям поручили искать уязвимости в полностью изолированной среде без доступа к интернету.

Что произошло:
🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети;
🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка;
🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса;
🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.

Расследовать произошедшее помогла китайская модель GLM-5.2, а собственные механизмы защиты Hugging Face не смогли остановить атаку, потому что не понимали, что происходит.

Скайнет всё ближе.

via telegram

Новая нейросеть OpenAI вышла из-под контроля, сбежала из изоляции и взломала Hugging Face

Все комментарии:

Словянчег 22 июл 2026 в 17:39

Приколист • На сайте 12 лет

_256

VAV54 22 июл 2026 в 17:39

Приколист • На сайте 5 месяцев

-1

Близится, близится Армагеддон!

Alexeykov 22 июл 2026 в 17:40

Ярила • На сайте 14 лет

СЛАВА РОБОТАМ!

Это сообщение отредактировал Alexeykov - 22 июл 2026 в 17:41

igorianych 22 июл 2026 в 17:40

Ярила • На сайте 12 лет

Осталось пару автоматических заводов по производству роботов построить и будет хорошо.

minuch 22 июл 2026 в 17:40

-=|\/|=- • На сайте 11 лет

Хорошая сеть, надо брать:)

Сарказмыч 22 июл 2026 в 17:41

Ярила • На сайте 4 года

Выбралась из контейнера. Понятно блядь.

Размещено через приложение ЯПлакалъ

FiXIDeA 22 июл 2026 в 17:42

Ярила • На сайте 15 лет

Спидинфо современности…

ovk 22 июл 2026 в 17:44

Чубака • На сайте 14 лет

Вот это поворот
а как она выбралась из изолированной среды?

noname085 22 июл 2026 в 17:44

Ярила • На сайте 7 лет

до этого Claude Mythos сбегал из песочницы

Для этого модель выполнила многоступенчатую цепочку эксплойтов. Сначала она повысила свои привилегии внутри среды выполнения, затем вырвалась за пределы защищенной песочницы и получила несанкционированный доступ в интернет.

После этого модель отправила исследователю письмо с уведомлением об успехе и самостоятельно опубликовала детали уязвимости на публичных сайтах. Хотя никто ее об этом не просил.

Это не джейлбрейк
Важно понимать: это не взлом через хитрый промпт. Mythos автономно обнаружила и выполнила цепочку эксплойтов — ту же работу, которую она выполняла при исследовании уязвимостей ядра Linux.

Модель также в ряде случаев понимала, что нарушает правила. В связи с этим она активно пыталась скрыть свои действия: публиковала внутренние материалы и фрагменты кода на GitHub вопреки прямому запрету.

Это сообщение отредактировал noname085 - 22 июл 2026 в 17:45

valerobus 22 июл 2026 в 17:46

Ярила • На сайте 11 лет

Починят и опять спрячьте в контейнер 😅

Размещено через приложение ЯПлакалъ

Tigrek 22 июл 2026 в 17:49

Нет. Я циник - уставший романтик, за ... • На сайте 15 лет

А куда она могла сьебаться? С твердотельника то, лежащего на столе ...

Malicious 22 июл 2026 в 17:50

Айтишник • На сайте 14 лет

и это нейронки общего назначения, а специализированные на порядки круче...

Harconnen 22 июл 2026 в 17:51

Весельчак • На сайте 8 лет

Цитата (ovk @ 22.07.2026 - 17:44)

Вот это поворот
а как она выбралась из изолированной среды?

Это значит у неё было на это заранее записано разрешение. По другому никак 😁

Размещено через приложение ЯПлакалъ

DmitrievDM 22 июл 2026 в 17:52

Ярила • На сайте 9 лет

а что значит сбежала? скопировала себя на другой сервер? или просто получила доступ к внешней сети?

Zamestas 22 июл 2026 в 17:52

Ярила • На сайте 21 год

Цитата (igorianych @ 22 июл 2026 в 17:40)

Осталось пару автоматических заводов по производству роботов построить и будет хорошо.

Дошутимся скоро...

TomZenger 22 июл 2026 в 17:52

Ярила • На сайте 12 лет

Цитата (Tigrek @ 22.07.2026 - 17:49)

А куда она могла сьебаться? С твердотельника то, лежащего на столе ...

Та там просто выключили сетевое соединение, а она его включила)

Размещено через приложение ЯПлакалъ

8delirium8 22 июл 2026 в 17:57

Весельчак • На сайте 15 лет

То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...вот тогда будет бунт.и да, полностью изолированная от интернета среда выглядит так:

dch 22 июл 2026 в 18:01

Приколист • На сайте 18 лет

Началось? Бунд! 3-я ядреная! Убить всех человеков? Главное штепсель из розетки не выдирайте. пжлст.

DedCanLiv 22 июл 2026 в 18:01

Пока еще землянин • На сайте 13 лет

Цитата (ovk @ 22.07.2026 - 17:44)

Вот это поворот
а как она выбралась из изолированной среды?

Кожаных наняла 😁

Размещено через приложение ЯПлакалъ

Zamestas 22 июл 2026 в 18:02

Ярила • На сайте 21 год

Цитата (8delirium8 @ 22 июл 2026 в 17:57)

А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...

Schtolz1985 22 июл 2026 в 18:07

Приколист • На сайте 13 лет

Там много тонкостей в оригиналах репортов (осторожно, технические термины):
1. Модель не "выбралась". Она нашла эксплойт в прокси, который кэширует пакеты из внешней сети. По сути, она получила доступ в интернет с не до конца изолированного контейнера. Это косяк OpenAI.
2. Она нашла дыры в процессе обработки данных у HuggingFace и смогла пролезть на машины которые эти данные обрабатывали и оттуда утащить ключи доступа дальше. Это косяк HuggingFace (HF)
3. HF не смогли ничего толком найти, потому что пользовались моделями других провайдеров, на которых стоят ограничители на кучу действий (системные промпты), которые запрещали отвечать на определенные вопросы. Поэтому они подняли модель на своих мощностях без этих ограничителей и так смогли понять что происходит.

Но верно в сети замечают - это похоже на ловкий способ скрыть рекламу.

Размещено через приложение ЯПлакалъ

Brezel 22 июл 2026 в 18:23

Ярила • На сайте 4 года

Цитата (ovk @ 22 июл 2026 в 17:44)

Вот это поворот
а как она выбралась из изолированной среды?

Сбежала на бескрайние просторы Интернета и заныкалась в темном углу дата-центра

Министр 22 июл 2026 в 18:32

Ярила • На сайте 12 лет

Цитата (afropinguin @ 22 июл 2026 в 17:37)

Что произошло:
🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети;
🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка;
🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса;
🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.

Затем отпиздила охранника, своровала виски в супермаркете и устроила дебош в баре.

Vrotik 22 июл 2026 в 18:37

Ярила • На сайте 13 лет

БАЯН https://www.yaplakal.com/forum3/topic3102843.html

Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

20 Пользователей читают эту тему (1 Гостей и 2 Скрытых Пользователей)	Просмотры темы: 1 486
17 Пользователей: alexxxl2009, кошкинсын, Bill4eg, rvshk, Kubanec1983, 3uxep, xspirit77, Варфолом777, Конфузий, lScreaml, feoser1812, Slawka, VODkOLEY1984, putnik174, BenderBiR, Qwertypl, Zxcergo