Руководители крупнейших мировых технологических гигантов и президент США Дональд Трамп пришли к консенсусу относительно создания механизмов надзора за развитием передовых моделей искусственного интеллекта. В рамках достигнутых договоренностей при советах директоров компаний будут сформированы автономные комитеты, отвечающие за мониторинг рисков.
О деталях данного соглашения стало известно из публикации, размещенной в социальной сети Truth Social, принадлежащей американскому лидеру. Согласно тексту документа, любая организация, занимающаяся разработкой и внедрением высокотехнологичных ИИ-моделей, обязана выстроить эффективные внутренние системы мониторинга. Главная цель таких мер — гарантировать корректное функционирование технологий, а также обеспечить максимально быстрое обнаружение и ликвидацию любых возникающих сбоев или угроз.
Для достижения поставленных задач стороны согласовали внедрение четырехступенчатой системы аудита и контроля:
Во-первых, предполагается запуск внутренних инструментов для отслеживания потенциальных рисков. Особое внимание будет уделено предотвращению угроз в сферах кибербезопасности, а также биологической и химической защиты. Важным аспектом станет пресечение попыток использования моделей для взлома технических инфраструктур или получения несанкционированного доступа к защищенным системам.
Во-вторых, планируется наделить специальную внутреннюю группу полномочиями по непрерывному надзору за работой механизмов обнаружения проблем и оперативному реагированию на выявленные инциденты.
В-третьих, для обеспечения объективности процесса к проверке функций мониторинга будут привлекаться независимые внешние эксперты и аудиторы.
В-четвертых, будет учрежден независимый комитет при совете директоров. Его задача — осуществлять общий надзор за деятельностью внутренних и внешних групп, анализировать отчеты аудиторов и контролировать процесс исправления всех обнаруженных дефектов.
В состав инициативной группы, подписавшей документ, вошли представители таких компаний, как Google, Anthropic, Meta (организация признана в России экстремистской и запрещена), OpenAI, xAI и Nvidia. Участники процесса также обязались проводить регулярные консультации для обмена опытом и совместной работы над созданием единых стандартов безопасности.
В документе подчеркивается, что в перспективе данные протоколы могут быть интегрированы в законодательную базу или нормативные акты. При этом технологические лидеры подтвердили свою готовность внедрять указанные стандарты добровольно, вне зависимости от того, станут ли они обязательными по закону.
