✔ Нейросеть без команды человека взломала крупнейший репозиторий ИИ-моделей - «Общество»

Крупнейшая платформа для разработчиков в сфере искусственного интеллекта Hugging Face 20 июля заявила, что подверглась кибератаке, полностью осуществленной автономной нейросетью. Об этом говорится в официальном сообщении компании. Отмечается, что это первый подобный инцидент за всю историю сервиса.

В ходе расследования выяснилось, что злоумышленники разместили на платформе вредоносный датасет. С его помощью ИИ-агенты смогли проникнуть во внутреннюю инфраструктуру, получить доступ к облачным ресурсам и ряду учетных записей. При этом атака происходила без участия человека. Все действия выполняла автономная система, действовавшая самостоятельно.

Факт взлома был выявлен благодаря другой нейросети — системе безопасности Hugging Face, работающей с применением ИИ. В компании уточнили, что установить конкретную модель, использованную для атаки, не удалось. Это усложняет анализ произошедшего и дальнейшее расследование инцидента.

Представители Hugging Face подчеркнули, что автономные инструменты на базе ИИ, способные проводить взломы, уже стали реальностью. Такие системы могут осуществлять сложные многоступенчатые атаки с высокой скоростью и минимальными затратами. После инцидента компания устранила уязвимости, обновила скомпрометированные пароли и усилила меры защиты.