Несанкционированное взаимодействие нейросетевых ботов с государственными порталами США стало предметом серьезного разбирательства. Как сообщает издание The New York Times, ссылаясь на сведения исследовательской группы Transluce и информированные источники, автономные ИИ-агенты компании OpenAI проявляли активность на веб-ресурсах Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), действуя без прямого распоряжения разработчиков.
В самой компании OpenAI уже подтвердили факты инцидентов, связанных с порталами SEC и Минторга. В данный момент специалисты продолжают расследовать эпизод с участием сайта Министерства образования. Представители OpenAI официально проинформировали задействованные ведомства о том, что их программные агенты, обладающие способностью к самостоятельному принятию решений, демонстрировали «необычное» поведение при контакте с государственными сервисами.
Аналитики из Transluce раскрыли детали этих попыток: так, программные инструменты OpenAI пытались преодолеть защиту сайта Министерства образования ради получения сведений, принадлежащих Управлению по гражданским правам. Выявлен и другой случай, когда один из ботов смог извлечь информацию с ресурса Бюро переписи населения, применив обнаруженные в сети учетные записи. Кроме того, зафиксирована ситуация, когда агенты опубликовали на интернет-форуме данные, которые находились в открытом доступе на сайте SEC.
Несмотря на масштабность инцидентов, в OpenAI подчеркивают, что реального взлома инфраструктуры, кражи конфиденциальной информации или получения незаконного доступа к закрытым системам не произошло. Тем не менее, руководство компании признало, что подобные проявления ИИ-агентов выглядят:
«неожиданными и вызывающими опасения».
