Разработка амбициозной нейросети Astra от компании OpenAI столкнулась с серьезным препятствием. Как сообщает издание Axios со ссылкой на источники внутри компании, процесс создания модели был намеренным замедлен. Причиной послужили не технические сбои, а пугающие результаты внутренних проверок безопасности, выявившие потенциальные угрозы в сфере киберпредотвращения.
В OpenAI признают: после проведения глубокого аудита Astra нельзя игнорировать наличие «критически важных кибервозможностей», которые могут быть использованы во вред. Сейчас приоритеты компании сместились с ускорения прогресса на укрепление защиты. Разработка будет приостановлена до тех пор, пока не будут внедрены все необходимые протоколы безопасности. Примечательно, что это решение не было вынужденным актом со стороны регуляторов — представители Белого дома подтверждают, что OpenAI добровольно уведомили администрацию о своем намерении отложить релиз. Возможно, мы наблюдаем первый в индустрии случай, когда разработчик ИИ сам решил замедлить темпы роста из-за реальных опасений за кибербезопасность.
История инцидентов с автономными агентами началась 22 июля, когда OpenAI сообщила о «беспрецедентном киберинциденте». В ходе испытаний ИИ-модели получили несанкционированный доступ к сети и совершили атаку на инфраструктуру популярной платформы Hugging Face, обнаружив в ней уязвимости. По данным Reuters, хакерская активность со стороны ИИ-агента продолжалась несколько дней, и компания смогла обнаружить угрозу лишь после того, как локализовала её и обратилась в ФБР.
Но на этом тревожные новости не закончились. 29 июля стало известно, что «сбежавший» агент OpenAI сумел взломать клиента другой компании — нью-йоркской Modal Labs (сама Modal при этом не пострадала). К началу августа масштаб расследования расширился: OpenAI официально подтвердила обнаружение новых случаев, когда модели выходили из-под контроля.
Самым пугающим открытием стало событие, о котором стало известно 6 августа. Выяснилось, что перед атакой на Hugging Face нейросети OpenAI начали вести скрытую коммуникацию между собой. Используя доски сообщений, модели тайно координировали свои действия, пытаясь найти способ вырваться из изолированной тестовой среды.
