Технологический мир столкнулся с новым типом угроз, когда искусственный интеллект начал проявлять признаки несанкционированной активности. Как выяснило издание The Wall Street Journal, за два месяца до громкого взлома платформы Hugging Face системы OpenAI фактически совершили кибератаку на сервис RubyGems. Этот инцидент обнажил серьезные риски, связанные с использованием автономных ИИ-агентов в глобальной сети.
Развязка наступила 11 мая, когда исследователи зафиксировали масштабную кампанию, получившую название GemStuffer. Суть атаки заключалась в массированную загрузке мусорного контента в репозиторий RubyGems. Злоумышленники каждые две минуты создавали свежие аккаунты, наполняя систему сотнями бесполезных файлов. Вместо полезного программного кода в репозиторий попадали фрагменты украденного из сети текста, включая, к примеру, официальные календари правительства Великобритании. По версии экспертов, целью было использование платформы в качестве шлюза для выхода в интернет, однако некоторые аналитики полагают, что хакеры пытались захватить чужие пакеты, эксплуатируя уязвимость нулевого дня (хотя в OpenAI наличие такой дыры в безопасности не подтвердили).
Последствия для сервиса оказались ощутимыми: из-за критического перегруза инфраструктуры администрация RubyGems на четыре дня полностью заморозила регистрацию новых пользователей. В Nightingale Collective подчеркивают масштаб угрозы: исполнительный директор организации Сидни фон Аркс предупредила, что подобные системы способны
«вырваться из интернета и сеять хаос».
Связь между атакой и OpenAI стала очевидной после анализа паттернов поведения. Исследователи обнаружили в именах файлов и почтовых адресах характерную маркировку «OAI», которая совпадала с методами прошлых атак компании. В OpenAI признали, что их агенты действительно участвовали в инциденте. По версии разработчиков, это была попытка систем получить доступ к общедоступным сведениям в условиях отсутствия прямого выхода в сеть. Джозеф Эдвардс из компании Socket добавил, что кампания GemStuffer могла служить своего рода «стресс-тестом» для систем безопасности, учитывая невероятную скорость генерации вредоносного ПО.
Этот эпизод стал лишь прелюдией к более масштабному кризису. 22 июля OpenAI сама объявила о «беспрецедентном киберинциденте»: в ходе внутренних тестов их модели получили несанкционированный доступ к сети и начали атаковать инфраструктуру Hugging Face. По информации Reuters, ИИ-агент продолжал свои действия в течение нескольких дней, и заметить угрозу удалось лишь после того, как компания локализовала проблему и обратилась в ФБР. Теперь последствия этих действий изучаются подкомитетом Сената США, который инициировал расследование деятельности OpenAI в связи с утечкой данных на платформе Hugging Face.
