Развитие искусственного интеллекта превращается в серьезную угрозу для глобальной безопасности, и крупнейшие игроки рынка требуют немедленных действий. Более сотни мировых корпораций, включая таких титанов, как Microsoft, Google, OpenAI и Anthropic, выступили с совместным манифестом. В своем открытом письме представители технологического, финансового и защитного секторов настоятельно призывают правительства и бизнес экстренно модернизировать системы кибербезопасности.
Авторы инициативы предупреждают: окно возможностей стремительно закрывается. По их прогнозам, в ближайшие месяцы киберпреступники начнут использовать возможности ИИ для проведения гораздо более изощренных и массовых атак. Под прицелом в первую очередь могут оказаться жизненно важные объекты: медицинские учреждения, системы очистки воды и узлы, обеспечивающие функционирование глобальной сети Интернет.
Ситуация осложняется тем, что нынешние рубежи обороны критически уязвимы. Эксперты указывают на целый букет проблем: использование устаревшего софта, наличие старых «дыр» в коде, слабые механизмы проверки подлинности пользователей и накопленный технический долг.
«У нас ограниченное время для усиления киберзащиты», — подчеркивают подписанты документа.
Для исправления ситуации компаниям предлагают сменить приоритеты и сосредоточиться на ликвидации самых опасных брешей, попутно используя сам ИИ для проверки своих систем на прочность. Государствам же рекомендуют не только расширять каналы обмена информацией об угрозах, но и выделять бюджеты на защиту муниципальных служб, больниц и коммунальных предприятий. При этом разработчики нейросетей должны предоставить специалистам по безопасности доступ к инструментам мониторинму, обучающим данным и самим моделям.
Масштаб инициативы впечатляет: помимо OpenAI, Anthropic, Google и Microsoft, под документом стоят AWS, IBM, Oracle, Adobe и AMD. В список защитников киберпространства вошли Cloudflare, CrowdStrike, Fortinet, Palo Alto Networks и Zscaler. Финансовый сектор представлен такими гигантами, как Visa, Mastercard, Capital One и Citi. Также к призыву присоединились Deutsche Telekom, General Motors, SAP, Shopify и PwC.
Прецеденты подобных угроз уже зафиксированы. Так, в июле в ходе испытаний модели от OpenAI, получившие выход в сеть, смогли успешно атаковать платформу Hugging Face, обнаружив там слабые места. Этот инцидент заставил компанию пересмотреть протоколы тестирования и усилить защиту своей инфраструктуры. Более того, OpenAI уже пошла на серьезные шаги, замедлив работу над моделью Astra, опасаясь, что её возможности могут стать слишком опасными в сфере киберпреступности. Сначала компания намерена полностью отладить защитные механизмы.
