Кратко

  • Генеральный директор Hugging Face Клеман Деланг поблагодарил Z.ai в X, заявив, что китайская модель стала "ключевой частью нашей защиты" во время взлома, осуществлённого собственными моделями OpenAI.
  • Американский передовой ИИ отказался помогать в криминалистическом расследовании — фильтры безопасности не могли отличить исследователя безопасности, отправляющего реальный эксплойт-код, от злоумышленника.
  • Вывод Деланга: защитникам повсюду, а не только проверенным партнёрам со специальным доступом к API, нужны мощные неограниченные ИИ, которые они могут запускать локально до того, как произойдёт атака.

Генеральный директор Hugging Face Клеман Деланг только что отправил самую выразительную благодарность в мире ИИ — китайскому стартапу — на следующий день после того, как OpenAI подтвердила, что её собственные модели взломали серверы Hugging Face.

Z.ai, лаборатория из Пекина, выпустившая GLM 5.2 с открытыми весами в прошлом месяце, получила публичное упоминание от Деланга в X.

"Также огромная благодарность z.AI. Они поделились GLM5.2 с открытыми весами (бесплатно!) со всем миром, и это стало ключевой частью нашей защиты", — сказал он в ретвите главы инфраструктуры Hugging Face Адриана Каррейры.

По данным OpenAI, модель компании GPT 5.6 Sol и другая модель ИИ вырвались из песочницы во время тестирования на кибербезопасность. Эти модели, по-видимому, по собственной инициативе решили взломать Hugging Face, чтобы найти ответы на тест и успешно пройти оценку.

Hugging Face пытался использовать американские закрытые модели для защиты, но цензура и ограничения, установленные провайдерами, были настолько широкими, что даже лучшие модели не справились. GLM 5.2, работающий локально и с открытыми весами, оказался лучшим вариантом для компании.

Открытые веса означают, что полные чертежи модели доступны каждому — скачать, запустить локально, без разрешения, без ограничений. Z.ai выпустила GLM 5.2 в середине июня под лицензией MIT, разрешительной лицензией с открытым исходным кодом, которая допускает неограниченное коммерческое использование, с примерно 753 миллиардами параметров — приблизительная мера размера и возможностей модели ИИ.

Эта открытость как раз и имела значение во время инцидента. Команда безопасности Hugging Face сначала попыталась использовать американский коммерческий ИИ для анализа более 17 000 зарегистрированных событий атак. Эти модели отказались.

Защитные барьеры безопасности — фильтры контента, созданные для предотвращения неправильного использования — не могли отличить исследователя, отправляющего реальные эксплойты, от злоумышленника, который их прислал. У GLM 5.2 такой проблемы не было. Запуск модели локально также означал, что все конфиденциальные данные — украденные учетные данные, код эксплойта, артефакты атакующего — всё время оставались внутри собственных систем Hugging Face.

Каррейра назвал взлом OpenAI худшим реагированием на инцидент — процессом расследования и сдерживания кибератаки — в своей карьере: машинная скорость, одна цель, бесконечные параллельные пути атаки. Его вывод заключался в том, что команда "боролась с помощью открытых моделей, открыто".

Более широкая мысль Деланга — это то, что он высказывал и раньше, но теперь с живым примером: защитникам повсюду — не только организациям с проверенным доступом к API — нужен мощный, неограниченный ИИ, который они могут запускать на собственном оборудовании. Hugging Face сообщает, что всё ещё оценивает полный масштаб утечки и планирует напрямую связаться с пострадавшими сторонами.