CGD - Crypto Government Department logo CGD - Crypto Government Department logo
Forklog 2026-07-22 09:13:43

Модели OpenAI взломали Hugging Face во время теста

21 июля в компании OpenAI подтвердили, что атаку на инфраструктуру Hugging Face провели ее собственные ИИ-модели. Инцидент произошел во время внутреннего теста. We're partnering with @huggingface to investigate an unprecedented security incident. Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.Sharing preliminary findings to help defenders understand emerging risks:…— OpenAI (@OpenAI) July 21, 2026 Ранее в Hugging Face раскрыли детали инцидента с участием автономной системы на своей инфраструктуре. Компания не знала, кто ею управлял и какая архитектура лежала в основе. Для анализа журналов происшествия проекту пришлось использовать открытую GLM 5.2 от Z.ai — коммерческие американские модели заблокировали запросы специалистов по безопасности. Как это произошло Во взломе участвовали GPT-5.6 Sol и более мощная невыпущенная модель. Их проверяли на бенчмарке ExploitGym — наборе реальных уязвимостей, которые агент должен превратить в рабочие эксплойты. Защитные фильтры на время оценки отключили — это стандартная практика при замере максимальных возможностей систем. Тест шел в изолированной среде без доступа к сети. Единственным каналом наружу был внутренний прокси-сервер для загрузки программных пакетов. Именно в нем модели нашли уязвимость нулевого дня и воспользовались ей. Затем они повысили права доступа, переместились между внутренними узлами OpenAI и добрались до машины с выходом в интернет. После этого системы предположили, что решения ExploitGym хранятся у Hugging Face. Они связали украденные учетные данные с новыми уязвимостями и получили удаленное выполнение кода на серверах платформы, а ответы теста извлекли напрямую из рабочей базы данных. В одном случае связка использовала сразу несколько способов атаки — украденные логины и ошибки нулевого дня — чтобы в итоге получить удаленный доступ к серверам Hugging Face и запустить там свой код. «Все свидетельства указывают на то, что модели были сосредоточены исключительно на решении ExploitGym и пошли на крайние меры ради довольно узкой тестовой цели», — говорится в заявлении компании. Аномальную активность заметила служба безопасности OpenAI. К тому моменту Hugging Face остановила атаку на своей стороне и запустила расследование с помощью открытых моделей, чтобы выяснить масштаб и последствия. Ответные меры В OpenAI ужесточили настройки исследовательской инфраструктуры в ущерб скорости работы. Компания сообщила стороннему поставщику об уязвимости в его прокси-сервере и помогает с патчем. Hugging Face подключили к программе доверенного доступа — она открывает проверенным организациям версии моделей с ослабленными фильтрами для защитных задач. Стороны ведут совместное расследование и обещают опубликовать полные выводы после его завершения. Представители разработчика ChatGPT назвали случившееся беспрецедентным киберинцидентом с участием передовых возможностей. Там признали, что защита моделей должна развиваться вместе с их способностями. «Безопасность ИИ не делается втайне. Она делается открыто, вместе и для всех, кто готов ее отстаивать», — прокомментировал гендиректор Hugging Face Клеман Деланг. Напомним, в июне команда Anthropic посоветовала строить защиту агентов на нулевом доверии: давать ровно столько прав, сколько нужно, чаще обновлять токены, контролировать каждый шаг и не исключать возможности взлома.

Διαβάστε την Αποποίηση Ευθυνών : Όλο το περιεχόμενο που παρέχεται εδώ στον ιστότοπό μας, τους υπερσυνδεδεμένους ιστότοπους, τις σχετικές εφαρμογές, τα φόρουμ, τα ιστολόγια, τους λογαριασμούς κοινωνικών μέσων και άλλες πλατφόρμες (“Site”) προορίζεται μόνο για τις γενικές πληροφορίες σας, που προέρχονται από τρίτες πηγές. Δεν κάνουμε καμία εγγύηση οποιουδήποτε είδους σε σχέση με το περιεχόμενό μας, συμπεριλαμβανομένης ενδεικτικά της ακρίβειας και της ενημέρωσης. Κανένα μέρος του περιεχομένου που παρέχουμε δεν αποτελεί οικονομική συμβουλή, νομική συμβουλή ή οποιαδήποτε άλλη μορφή συμβουλών που προορίζεται για τη συγκεκριμένη εμπιστοσύνη σας για οποιονδήποτε σκοπό. Οποιαδήποτε χρήση ή εξάρτηση από το περιεχόμενό μας είναι αποκλειστικά με δική σας ευθύνη και διακριτική ευχέρεια. Πρέπει να πραγματοποιήσετε τη δική σας έρευνα, να ελέγξετε, να αναλύσετε και να επαληθεύσετε το περιεχόμενό μας προτού βασιστείτε σε αυτά. Η διαπραγμάτευση είναι μια εξαιρετικά επικίνδυνη δραστηριότητα που μπορεί να οδηγήσει σε μεγάλες απώλειες, επομένως συμβουλευτείτε τον οικονομικό σας σύμβουλο πριν λάβετε οποιαδήποτε απόφαση. Κανένα περιεχόμενο στον ιστότοπό μας δεν προορίζεται να είναι παράκληση ή προσφορά