В социальных сетях разгорается дискуссия о потенциальной экзистенмуальной угрозе, исходящей от технологий будущего. Билал Чугтай, который ранее проводило исследования в области безопасности и согласования общего искусственного интеллекта (ОИИ) в Google DeepMind, открыто заявил о возможности гибели всего человечества. По информации Reuters, специалист, покинувший компанию, выразил уверенность, что у нас остается крайне мало времени, чтобы предотвратить катастрофический сценарий. Своими опасениями Чугтай поделился в социальной сети X, подчеркнув, что технологический прогресс несет в себе реальный риск для жизни людей.
Однако исследователь не видит выхода только в отрицании технологий. По его мнению, спасение возможно, если индустрия откажется от «безумной гонки» и сосредоточится на синхронизации действий между крупными игроками. Главная задача, по словам Чугтая, заключается в том, чтобы снизить скорость инноваций до уровня, который позволит обществу адаптироваться и устранять возникающие угрозы до нанесения непоправимого ущерба.
К этому тревожному дискурсу присоединились и другие специалисты. Так, Джейкоб Коксон, ушедший из Anthropic, подтвердил, что разработчики ИИ всерьез опасаются сценария, при котором человечество может исчезнуть уже к концу текущего десятилетия. Интересно, что призывы Дарио Амодея, возглавляющего Anthropic, замедлить темпы создания продвинутых систем нашли неожиданный отклик у таких гигантов индустрии, как Сэм Альтман из OpenAI и Илон Маск, руководящий SpaceX.
Тем временем политическое сообщество разошлось во мнениях. Дональд Трамп подверг критике подобные страхи, назвав их мистификацией. По его мнению, идеи о мировом господстве ИИ выглядят столь же абсурдно, как теории о глобальном потеплении или угрозе со стороны России. В то же время официальный Пекин настроен более настороженно: Чэнь Исинь, занимающий пост главы Министерства государственной безопасности Китая, указал на прямые риски для национальной безопасности. В России же Дмитрий Медведев, заместитель председателя Совета Безопасности, скептически отнесся к прогнозам о конце света, отметив, что перспективы уничтожения человечества выглядят туманно, а создатели технологий в первую очередь заботятся о собственной безопасности.