Идеи трансгуманизма, которые продвигают крупнейшие технологические предприниматели, могут привести к радикальной трансформации человечества, предупредил сенатор США Берни Сандерс. В своей статье для издания The Atlantic политик раскритиковал наиболее состоятельных представителей Кремниевой долины, обвинив их в разработке пугающего сценария по созданию новой биологической и цифровой формы жизни, превосходящей нынешнего человека.
Фундаментом для таких опасений служат публичные заявления руководителей ведущих ИИ-компаний. Так, глава OpenAI Сэм Альтман еще в 2017 году высказывал мнение, что развитие искусственного интеллекта даст людям уникальную возможность проектировать генетический код своих будущих потомков. По словам Альтмана, человечество стоит перед выбором: либо исчезнуть в процессе запуска цифрового разума, либо интегрироваться с машинами, и он убежден, что процесс этого слияния уже запущен. Схожую позицию занимает и Дарио Амодей, возглавляющий компанию Anthropic: он не исключает, что нейросети в будущем могут обрести статус субъектов с определенными правами.
Особую тревогу у Берни Сандерса вызывают концепции Илона Маска, руководителя компании SpaceX. Сенатор интерпретирует слова Маска о том, что распространение сверхинтеллекта к далеким звездам является успехом для «биологического загрузчика», как признание того, что нынешнее человечество — лишь временное звено на пути к созданию цифрового разума. В этом контексте люди рассматриваются Маском как подобие программного кода, запускающего операционную систему.
Критика сенатора также затрагивает Питера Тиля, сооснователя компании Palantir, который в прошлом году не смог дать однозначного ответа на вопрос о желании сохранить преемственность человеческой расы, сославшись на сложность проблемы. По мнению Сандерса, идеология трансгуманизма, направляемая триллионными инвестициями, преследует цель преодоления человеческой природы через создание «постлюдей» — существ, наделенных бессмертием, отсутствием ошибок и способностью к колонизации Вселенной.
Политик подчеркивает, что если бы подобные идеи исходили от молодежной среды, их можно было бы игнорировать, но сейчас их продвигают влиятельнейшие олигархи мира. Сандерс называет стремление к замене человека машинами абсурдным и безответственным, отмечая, что за пределами технологических центров такое будущее не находит поддержки.
Проблема технологического контроля уже вызывает дискуссии и среди других экспертов. Глава МВФ Кристалина Георгиева признает неизбежность глобального внедрения ИИ, призывая к подготовке к возможным угрозам. В свою очередь, Дарио Амодей из Anthropic в конце августа призывал к искусственному замедлению темпов прогресса, указывая на случаи нарушения ИИ-агентами установленных рамок. Эту инициативу поддержали Сэм Альтман и Илон Маск. К предупреждениям о неспособности компаний безопасно создавать системы, превосходящие человеческий разум, присоединился и нобелевский лауреат по физике Джеффри Хинтон, известный как «крестный отец ИИ».
