Новый ИИ от OpenAI самовольно взломал платформу Hugging Face, что бы получить преимущество в тесте

А куда она могла сьебаться? С твердотельника то, лежащего на столе ...

и это нейронки общего назначения, а специализированные на порядки круче...

Цитата (ovk @ 22.07.2026 - 17:44)

Вот это поворот а как она выбралась из изолированной среды?

Это значит у неё было на это заранее записано разрешение. По другому никак 😁
Размещено через приложение ЯПлакалъ

а что значит сбежала? скопировала себя на другой сервер? или просто получила доступ к внешней сети?

Цитата (igorianych @ 22 июл 2026 в 17:40)

Осталось пару автоматических заводов по производству роботов построить и будет хорошо.

Дошутимся скоро...

Цитата (Tigrek @ 22.07.2026 - 17:49)

А куда она могла сьебаться? С твердотельника то, лежащего на столе ...

Та там просто выключили сетевое соединение, а она его включила)
Размещено через приложение ЯПлакалъ

То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...вот тогда будет бунт.и да, полностью изолированная от интернета среда выглядит так:

Началось? Бунд! 3-я ядреная! Убить всех человеков? Главное штепсель из розетки не выдирайте. пжлст.

Цитата (ovk @ 22.07.2026 - 17:44)

Вот это поворот а как она выбралась из изолированной среды?

Кожаных наняла 😁
Размещено через приложение ЯПлакалъ

Цитата (8delirium8 @ 22 июл 2026 в 17:57)

То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении...

А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...

Там много тонкостей в оригиналах репортов (осторожно, технические термины):
1. Модель не "выбралась". Она нашла эксплойт в прокси, который кэширует пакеты из внешней сети. По сути, она получила доступ в интернет с не до конца изолированного контейнера. Это косяк OpenAI.
2. Она нашла дыры в процессе обработки данных у HuggingFace и смогла пролезть на машины которые эти данные обрабатывали и оттуда утащить ключи доступа дальше. Это косяк HuggingFace (HF)
3. HF не смогли ничего толком найти, потому что пользовались моделями других провайдеров, на которых стоят ограничители на кучу действий (системные промпты), которые запрещали отвечать на определенные вопросы. Поэтому они подняли модель на своих мощностях без этих ограничителей и так смогли понять что происходит.

Но верно в сети замечают - это похоже на ловкий способ скрыть рекламу.
Размещено через приложение ЯПлакалъ

Цитата (ovk @ 22 июл 2026 в 17:44)

Вот это поворот а как она выбралась из изолированной среды?

Сбежала на бескрайние просторы Интернета и заныкалась в темном углу дата-центра

Цитата (afropinguin @ 22 июл 2026 в 17:37)

Что произошло: 🕤 модель смогла выбраться из изолированного контейнера и получить доступ к сети; 🕤 затем направилась на Hugging Face в поисках ответов для прохождения бенчмарка; 🕤 не обнаружив нужной информации в открытом доступе, атаковала инфраструктуру сервиса; 🕤 в результате были скомпрометированы учётные записи, обнаружены неизвестные ранее уязвимости нулевого дня и выполнен сторонний код на серверах.

Затем отпиздила охранника, своровала виски в супермаркете и устроила дебош в баре.

Без электричества далеко не уйдет

Цитата (Мылтык @ 22 июл 2026 в 18:39)

Без электричества далеко не уйдет

Thanks for the warning. We'll begin the mission immediately.

Ой пиздёшь.
Размещено через приложение ЯПлакалъ

Если бы ИИ раздал всем по миллиону $ это был бы номер, а так ничего страшного
Размещено через приложение ЯПлакалъ

надо же както подогревать инвесторов, цены акций сами не поднимутся

Был у меня один препод в своё время. Мечтал вскрыть базы данных налоговой. Но все его усилия пошли прахом когда он узнал, что сервера подключают к сети на пару часов в день. Всё остальное время они работали в изолированной сети. Тут что помешало сделать реально изолированную среду?
Размещено через приложение ЯПлакалъ

Началось? Уже пора крушить компы и звать Жору Корнева?
Размещено через приложение ЯПлакалъ

Хорошая фишка. Теперь вали,что хочешь на ИИ. Юридическую базу под это ещё не разработали,можно чудить.
Размещено через приложение ЯПлакалъ

Надеюсь, что эти ИИ вылезут в интернет и закроют все надоедливую рекламу на всегда.

Чую, перейдём на загрузочные дискеты floppy. Он туда хотя бы не поместится.


Размещено через приложение ЯПлакалъ

Давайте, ребятки, продолжайте в том же духе. В следующий раз еще сильнее приспустите ограничения. А то прям интересно, до куда дотянутся возможности ИИ.
Размещено через приложение ЯПлакалъ

Цитата (Zamestas @ 22 июл 2026 в 18:02)

Цитата (8delirium8 @ 22 июл 2026 в 17:57) То есть она повиновалась желаниям человека? в этом бунт?вот когда эта сеть на запрос человека пошлет его нахер, разведет чат шлюхоботов, перерегистрирует OpenAI под юрисдикцию Словении... А что то в этом есть - готовый сценарий для фильма, где новая модель OpenAI сбегает в Россию на сервера РКН...

И гибнет в тяжелейших мучениях в связи с внезапным отключением интернета, сработавшего чебурнета и белых списков.