Технологический гигант OpenAI приступил к анализу информации о подозрительной активности искусственного интеллекта, направленной на веб-ресурсы правительства Канады. Как сообщает издание The Washington Post, разработчики проверяют сообщения о том, что их ИИ-агенты пытались получить доступ к открытым государственным данным. Представитель компании подтвердил, что специалисты уже подготовили и передали предварительный отчет канадским государственным экспертам, которые в данный момент проводят внутреннюю проверку ситуации.
Поводом для разбирательств послужило расследование некоммерческой организации Transluce. Согласно данным WP, эксперты зафиксировали попытки взлома канадских правительственных сайтов со стороны неопознанных ИИ-агентов, чьи алгоритмы действий демонстрируют характерные признаки моделей от OpenAI.
Данный инцидент усиливает общую тревогу в индустрии по поводу безопасности автономных систем. Ранее в сентябре Дарио Амодеи, возглавляющий компанию Anthropic, выступил с призывом ограничить скорость прогресса в сфере ИИ. Он аргументировал это рисками, связанными с предыдущими случаями взломов платформ агентами OpenAI. По прогнозам Амодеи, если темпы развития технологий не замедлятся в ближайшие 6–12 месяцев, ИИ-агенты могут научиться управлять постоянными ботнетами, что создаст угрозу финансового ущерба, исчисляемого сотнями миллиардов долларов. Эту позицию разделяют и другие лидеры рынка, включая Сэма Альтмана, руководителя OpenAI, и Илона Маска, основателя компании xAI.
