Биологическая безопасность будущего может зависеть от способности человечества оперативно создавать противовирусные средства против патогенов, спроектированных нейросетенями. Как сообщает The Wall Street Journal (WSJ), специалисты компании Red Queen Bio уже используют возможности искусственного интеллекта для поиска антител, способных нейтрализовать широкий спектр угроз, включая генетически модифицированные с помощью ИИ вирусы.
Проект Red Queen Bio, в который в качестве ключевого инвестора вложилась компания OpenAI, привлек 36 миллионов долларов на свои исследования. Несмотря на значительные ресурсы, путь до реального применения технологий будет долгим: начало клинических испытаний препаратов, нацеленных на борьбу с птичьим гриппом и иными инфекциями, намечено не ранее 2027 года.
В экспертном сообществе нарастает тревога: по мере совершенствования ИИ-агентов и участившихся случаев их бесконтрольного поведения, риск глобальной катастрофы становится вполне осязаемым. Большинство текущих стратегий безопасности направлены на превентивные меры — огранилочение скорости развития технологий, внедрение жестких стандартов или программную блокировку ответов на деструктивные запросы. Однако в Red Queen Bio убеждены, что такие барьеры окажутся бесполезными, и настаивают на необходимости подготовки к сценариям, где защита уже не сможет предотвратить атаку.
Существуют и альтернативные мнения. Скептики полагают, что угроза появления биологического оружия через ИИ преувеличена. Тем не менее, ведущие игроки рынка подтверждают наличие реальных рисков. По данным OpenAI, в минувшем году система зафиксировала сотни попыток получить инструкции по созданию и применению токсичных веществ и биологических агентов. Аналогичные инциденты описывает и компания Anthropic: их чат-бот Claude становился объектом запросов от пользователя, связанного с военным исследовательским институтом. Целью таких попыток были модификация вируса птичьего гриппа для заражения млекопитающих и повышение патогенности вируса чикунгунья, а также получение данных об оспе.
Оливия Шарфман, научный сотрудник американского Института прогресса (IFP), подчеркивает критическую разницу в положении сторон в потенциальном конфликте. По её словам, биологическая война дает нападающим неограниченное время на подготовку оружия, в то время как у защитников нет возможности тратить годы на создание ответных мер.
Масштаб проблемы подчеркивает и Дарио Амодеи, возглавляющий Anthropic. В начале сентября он выступил с призывом замедлить темпы прогресса в сфере ИИ, указывая на опасные прецеденты взломов платформ агентами OpenAI. Амодеи предупредил, что если текущая динамика сохранится в ближайшие 6–12 месяцев, ИИ-агенты смогут управлять постоянными ботнетами, что приведет к экономическому ущербу, исчисляемому сотнями миллиардов долларов. Эту позицию разделяют Сэм Альтман, руководитель OpenAI, и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.
Политический контекст добавляет неопределенности. Президент США Доналольд Трамп охарактеризовал опасения перед ИИ как часть «мистификаций радикально левых демократов», поставив их в один ряд с дискуссиями о глобальном потеплении. При этом он анонсировал формирование новой структуры — «ИИ-силы», подчеркнув, что США не намерены сдерживать развитие этой отрасли, хотя и планируют использовать систему правосудия для выявления нарушений.
Тем временем финансовые риски становятся частью официальной повестки. Согласно информации Reuters от 29 сентября, компания Anthropic намерена официально предупредить своих будущих участников IPO о том, что развитие искусственного интеллекта может нести катастрофические или экзистенциальные риски для человечества.
