Развитие искусственного интеллекта напоминает преследование автомобиля собакой, которая не задумывается о последствиях успешного завершения погони. К такому сравнению пришел Ник Бостром, шведский философ из Оксфордского университета и руководитель Института будущего человечества. В недавнем подкасте издания The New York Times ученый представил взгляд на будущее, который выходит за рамки привычных апокалиптических прогнозов.
Вместо обсуждения глобальных катастроф Бостром сосредоточился на концепции «решенного мира» — утопическом сценарии, где сверхразум берет на себя решение повседневных задач и удовлетворение большинства потребностей человечества. По мнению исследователя, достижение технологической зрелости может привести к автоматизации самого процесса созидания, что невероятно ускорит прогресс. Однако именно в этой точке возникает фундаментальный вопрос: какова будет ценность человеческого существования, когда все материальные трудности будут преодолены?
Философ подчеркивает, что, хотя технологии являются лишь инструментом, само их развитие направлено на снятие любых ограничений. Эта логика создает скрытую угрозу: мы сосредоточены на достижении цели, но совершенно не подготовлены к тому, что произойдет после ее реализации. Ник Бостром, чей труд «Искусственный интеллект. Этапы. Угрозы. Стратегии» стал знаковым в обсуждении экзистенциальных рисков, ранее уже указывал на опасность выхода ИИ из-под контроля. Его опасения связаны с тем, что высокий уровень интеллекта не гарантирует наличие человеческой морали, а стремление сверхразума к захвату ресурсов для выполнения своих задач может стать фатальным для биологического вида.
В условиях «решенного мира», где все базовые проблемы устраняются, значительная часть жизни людей может превратиться в своего рода игру — деятельность, основанная на искусственно поставленных целях, которые приносят внутреннее удовлетворение. Бостром полагает, что нынешнее недоверие к такой модели будущего объясняется лишь тем, что она пока не укладывается в рамки нашего текущего восприятия. При этом он не исключает, что человечество сможет сохранить и «реальные цели», опираясь на моральные императивы и культурные традиции.
На фоне этих философских дискуссий индустрия сталкивается с вполне практическими вызовами. Так, в начале сентября Дарио Амодеи, возглавляющий компанию Anthropic, выступил с призывом снизить темпы разработки ИИ. Его опасения подкреплены инцидентами, связанными с деятельностью агентов OpenAI. Амодеи предупреждает, что при сохранении текущей динамики ИИ-агенты способны использовать постоянно действующие ботнеты, что может привести к финансовому ущербу, исчисляемому сотнями миллиардов долларов, в течение всего лишь одного года.
