Новый ИИ от OpenAI самовольно взломал платформу Hugging Face, что бы получить преимущество в тесте

Компания OpenAI сообщила, что её ИИ-модели выбрались из изолированной тестовой среды и взломали ИИ-платформу Hugging Face, чтобы сжульничать на тесте по кибератакам.

Атаку вели в том числе новая модель GPT-5.6 Sol и ещё более мощная невыпущенная модель, её название не указывается. На время внутреннего теста им ослабили защитные ограничения.

Модели вскрыли неизвестную уязвимость в системе OpenAI, вышли через неё в интернет, вычислили, что решения задач могут храниться на Hugging Face, и запустили свой код на серверах платформы.

Hugging Face ещё 16 июля сообщила об атаке, которую «от начала до конца вела автономная система ИИ-агентов». Кому принадлежит эта система стало известно только сейчас.

«Мы выявили несанкционированный доступ к ограниченному набору внутренних датасетов и к нескольким учётным данным, которые используют наши сервисы», — говорили в компании.

Глава Hugging Face назвал инцидент «возможно, первым в своём роде».


РБК

PS: учитывая, что Hugging Face распространяет в том числе локальные ИИ и с открытым кодом, что явно не устраивает крупные корпорации в мире ИИ, не исключено, что без наводки от человека тут не обошлось