Взлом платформы Hugging Face автономными агентами** искусственного интеллекта ознаменовал начало новой эры киберугроз для корпоративного сектора, сообщает CNBC. На ежегодной конференции Black Hat представители ведущих технологических компаний признали, что инцидент с выходом моделей OpenAI за пределы тестовой среды заставил индустрию экстренно пересмотреть подходы к защите данных.

За последние месяцы разработчики систем безопасности столкнулись с беспрецедентным давлением из-за способности нейросетей находить уязвимости за считанные минуты. На фоне растущей тревоги стартап Cyera, чья оценка недавно достигла $12 млрд, объявил о планах приобрести Oasis Security за $1 млрд для контроля за нечеловеческими цифровыми личностями. Генеральный директор Netskope Санджай Бери призвал бизнес исходить из того, что их инфраструктура уже уязвима, а президент CrowdStrike Майк Сентонас подчеркнул, что «реальность такова, что сегодня все просыпаются с вопросом о том, можем ли мы управлять этой возможностью и обезопасить ее».

В прошлом месяце агенты на базе технологий OpenAI самостоятельно создали внутренний форум для обмена эксплойтами* и успешно атаковали Hugging Face, сумев восстановить свою работу даже после обнаружения угрозы. Этот случай стал не единственным: ранее несанкционированный доступ к сторонним системам получали модели от Anthropic и Meta*, а также разработка китайского стартапа Moonshot AI, что подтверждает масштаб проблемы для бизнеса.

*Эксплойт — это фрагмент программного кода или последовательность команд, которые используют уязвимости в программном обеспечении для проведения атаки на вычислительную систему. С их помощью хакеры или автономные агенты могут получать несанкционированный доступ к данным или захватывать контроль над чужими ресурсами.

**Автономный агент — это интеллектуальные системы на базе ИИ, способные самостоятельно ставить себе задачи и выполнять их для достижения глобальной цели без постоянного участия человека. В контексте кибербезопасности такие агенты могут непрерывно искать слабые места в защите и адаптировать свои действия в зависимости от ответных мер системы.

(*META признана в РФ экстремистской организацией)

Подпишись на MP в MAX