Экспертное сообщество в области искусственного интеллекта разделилось на два лагеря, однако масштаб описываемых угроз внушает серьезную тревогу. С одной стороны, лидеры индустрии и ученые с мировым именем заявляют о возможности беспрецедентной цифровой агрессии и физической гибели человечества. С другой — политические деятели и руководители крупнейших техгигантов скептически относятся к подобным прогнозам, называя их либо теорией заговора, либо необоснованным преувеличением.
Позиция сторон: угроза существованию и риск потери управления
Прогнозы о грядущих переменах звучат пугающе. Дарио Амодеи, возглавляющий компанию Anthropic, предупреждает, что уже через полгода-год появление автономных групп ИИ-агентов может привести к захвату глобальной сети через устойчивые бот-сети, что нанесет мировой экономике ущерб в сотни миллиардов долларов.
Более радикальные оценки высказывают исследователи. Джеффри Хинтон, чье имя неразрывно связано с созданием основ современного ИИ и за которое он был удостоен Нобелевской премии, считает крайне опрометчивым создание суперинтеллекта в условиях отсутствия научной уверенности в методах его контроля. По его мнению, если мы создадим систему, превосходящую наш разум, последствия могут стать фатальными для всего человечества.
Эван Хубингер из Anthropic разделяет этот пессимизм, оценивая вероятность гибели человечества в течение ближайших десяти лет более чем в 10%. Подтверждает это и Пол Кристиано, представляющий совет директоров фонда OpenAI, который полагает, что отсутствие глобальной координации при создании сверхинтеллекта приведет к безвозвратной утрате контроля над технологией, что повлечет массовую гибель людей.
Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, подчеркивает, что страх перед ИИ — это не элемент пиар-стратегий. По его словам, в закрытых беседах ведущие ученые выражают глубокую тревогу, считая, что нынешняя гонка разработчиков — это игра человеческими жизнями, поскольку ни одна из существующих компаний не демонстрирует ответственного подхода. Схожую позицию занимает и Билал Чугкатай, бывший специалист по безопасности в Google DeepMind, утверждая, что время для предотвращения возможной катастрофы стремительно истекает.
Сэм Альтман, стоящий во главе OpenAI, выделяет два критических сценария: передачу управления будущим искусственному разуму и возникновение беспрецедентной концентрации власти в одних руках.
Контраргументы и политический контекст
Не все разделяют этот апокалиптический настрой. Дональд Трамп, президент США, открыто называет подобные опасения частью «безумного заговора», который может быть выгоден Китаю, и утверждает, что обсуждаемые угрозы оторваны от реальности. В этом же ключе высказывается Дэвид Сакс, экс-советник Трампа по вопросам ИИ и криптоактивов, который призывает Альтмана и Амодеи не скрывать свои истинные интересы за маской альтруизма.
Интересна позиция главы Nvidia Дженсена Хуанга. В недавнем разговоре с американским лидером он охарактеризовал подобные предсказания как не имеющие под собой научной базы, хотя и выразил уважение к смелости Джейкоба Коксона в его высказываниях. Поддерживает скепсис относительно чистоты мотивов разработчиков и Илон Маск, основатель Tesla и SpaceX.
Фон событий демонстрирует, что индустрия находится в состоянии острого кризиса доверия. Пока одни исследователи видят в ИИ инструмент для создания неконтролируемого сверхинтеллекта, другие пытаются перевести дискуссию из плоскости страхов в русло прагматичного технологического соперничества.
