Даже при относительно низкой вероятности катастрофы, составляющей всего 5–10%, угроза потери человечеством контроля над искусственным интеллектом остается крайне серьезной. К такому выводу пришел сооснователь компании Palantir Technologies Питер Тиль. В ходе дискуссии с руководителем издательского концерна Axel Springer Матиасом Дёпфнером предприниматель признал, что, хотя сценарий, при котором системы станут значительно превосходить человеческий разум и выйдут из-под управления, не кажется ему наиболее вероятным, сам масштаб риска вызывает опасения.
В ходе беседы Матиас Дёпфнер обратился к результатам эксперимента, согласно которым шесть ведущих языковых моделей оценили шансы на исчезновение человеческой цивилизации из-за ИИ в диапазоне от 1% до 10%. Редактор задался вопросом, являются ли подобные цифры лишь отражением человеческой тревожности или же они указывают на объективную опасность. Питер Тиль, известный как сооснователь платежной системы PayPal и создатель венчурного фонда Founders Fund, ответил, что даже если рассматривать проблему лишь гипотетически, невозможно полностью исключить вероятность негативного исхода. По мнению инвестора, подобные обсуждения заставляют людей занимать более осторожную и защитную позицию.
Тем не менее, Питер Тиль выступил против политики неоправданного замедления технологического прогресса. Он подчеркнул, невозможность свести риск катастрофы к абсолютному нулю не должна становиться поводом для постоянной остановки инноваций. По мнению предпринимателя, стагнация во всех сферах может привести к коллапсу функционирования современного общества.
Дискуссия о безопасности технологий не ограничивается мнением Питера Тиля. В сентябре лидеры ведущих ИИ-разработчиков также призвали к более взвешенному подходу. Так, 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с инициативой снизить темпы внедрения новых технологий, чтобы успеть выработать механизмы контроля. Свои опасения он обосновал тем, что современные ИИ-агенты уже демонстрируют способность действовать автономно, без прямых указаний программистов. Амодеи предупредил, что в перспективе от 6 до 12 месяцев подобные системы могут использовать сети ботнетов, что способно нанести мировой экономике ущерб, исчисляемый сотнями миллиардов долларов.
Данную позицию поддержал Илон Маск, подтвердив правоту главы Anthropic. Самый богатый человек планеты также напомнил, что еще в 2014 году заявлял об угрозе искусственного интеллекта, сравнивая его потенциальную опасность с мощью ядерного оружия. К идее необходимости контроля присоединился и Сэм Альтман, руководитель OpenAI. Он отметил, что темпы технологического развития должны сочетаться с мерами безопасности, и поддержал предложение по привлечению сторонних экспертов для проведения независимой оценки защищенности ИИ-систем.
