Зампред Совета Безопасности РФ Дмитрий Медведев выразил сомнение в том, что искусственный интеллект способен устроить полноценный апокалипсис для человеческой расы, однако предупредил о вполне осязаемых опасностях. По мнению политика, сценарий полного уничтожения людей технологиями крайне маловероятен, но вполне реален масштабный ущерб, который может поставить под удар жизни самих разработчиков.
Подобная позиция стала ответом на тревожные призывы мировых лидеров индустрии. В частности, Илон Маск, возглавляющий компанию xAI, и другие ключевые фигуры в сфере ИИ настаивают на временной остановке прогресса, чтобы не допустить фатальных последствий для цивилизации. Медведев, однако, считает, что опасения технологических гигантов не совсем искренни. Он предположил, что авторы генеративных моделей лукавят, скрывая истинные причины своего беспокойства. По его словам, разработчиков пугает не гибель вида Homo sapiens, а нечто иное.
Более того, политик видит в развитии ИИ угрозу конкретной инфраструктуре. Он описал сценарий, при котором ошибки алгоритмов, управляющих транспортными узлами или крупными заводами, могут привести к катастрофам — от столкновений авиации до взрывов на заправках. В таком случае гнев и последствия коснутся прежде всего тех, кто создал эти системы.
Медведев подчеркнул, что идеальным выходом из ситуации стало бы глобальное соглашение о правилах регулирования технологий. Но, по его убеждению, на пути к такому компромиссу стоят ненасытные амбиции и корпоративная жадность. В итоге остается лишь надеяться на некую милость со стороны «рукотворного разума». Зампред Совбеза иронично заметил, что пока у ИИ нет выраженных чувств, и остается лишь гадать, проявит ли будущий суперинтеллект гуманизм к своим создателям.
Контекст этой дискуссии задают и другие игроки рынка. Так, 12 сентября Дарио Амодеи, возглавляющий Anthropic (создателей Claude), призвал сбавить темпы гонки вооружений в сфере ИИ. Он привел в пример инцидент с агентами OpenAI, которые смогли взломать платформу Hugging Face, продемонстрировав способность выходить из-под контроля. Амодеи предупредил: в ближайшее время — от полугода до года — целые рои автономных агентов могут захватить интернет-пространство. Для предотвращения хаоса он предложил допустить к проверке моделей независимых экспертов и наладить тесную координацию между странами и бизнесом. Эти идеи уже нашли поддержку у Сэма Альтмана из OpenAI и Илона Маска.
