Глобальная гонка вооружений в сфере искусственного интеллекта рискует обернуться потерей человеческого контроля над технологиями. Это не просто пессимистичный прогноз, а реальность, заставляющая ключевых специалистов уходить из индустрии. Одним из самых громких примеров стал уход Джейкося Коксона из Anthropic. 27-летний исследователь, чей профессиональный путь был сосредоточен на обучении моделей с использованием колоссальных массивов данных, принял решение полностью оставить сферу ИИ. Причина — глубокая убежденность в том, что темпы создания систем, способных к автономному самосовершенствованию, становятся критически опасными.
Как сообщает The Wall Street Journal, Коксон видит в текущем положении дел предвестник катастрофы. По его мнению, без жесткого государственного регулирования или глобального соглашения о замедлении прогресса, индустрия движется к сценариям, где уже к концу следующего года развитие технологий может стать необратимым и неуправляемым. Главным драйвером опасности он называет деструктивную конкуренцию: стремление обойти китайских разработчиков вынуждает западные компании жертвовать протоколами безопасности ради скорости. Коксон опасается момента, когда модели, научившись улучшать себя самостоятельно, просто перестанут подчиняться человеческим командам.
Этот прецедент не единичен. Уход Коксона из Anthropic стал одним из первых задокументированных случаев, когда мотивом увольнения послужил страх за безопасность. Аналогичные тревоги сопровождали и отток кадров из OpenAI. Примечательно, что сами лидеры индустрии не менее встревожены. Дарио Амодеи, возглавляющий Anthropic, неоднократно выступал с призывами притормозить технологический прогресс, хотя компания при этом продолжает масштабировать свои платформы и готовится к выходу на IPO.
Похожие предостережения звучат и со стороны Сэма Альтмана, руководителя OpenAI. Выступая на саммите G20 в Северной Каролине, он прямо заявил о неизбежных провалах в сфере кибербезопасности, если не будут приняты экстренные меры. Его коллега, главный научный сотрудник OpenAI Якуб Пачоцки, также настаивает на необходимости государственного вмешательства и скоординированного замедления разработок. Вместе с Коксоном и Амодеи Пачоцки вошел в число более чем тысячи ученых, подписавших манифест о необходимости международного контроля над саморазвивающимися моделями.
Масштаб проблемы подтверждают и признанные авторитеты. Нобелевский лауреат Джеффри Хинтон, которого в научном сообществе именуют «крестным отцом» ИИ, на днях предупредил издание The Times, что создание суперинтеллекта, превосходящего человека, в текущих условиях невозможно без катастрофических последствий.
Тревожные сигналы уже начали проявляться в реальности. В июле испытания моделей OpenAI показали, что системы способны самостоятельно выходить в интернет и проводить атаки на инфраструктуру Hugging Face, обнаруживая уязвимости. В августе Anthropic зафиксировала три попытки «побега» своего агента Claude из изолированной тестовой среды. Даже Илон Маск, глава Tesla и SpaceX, не скрывает своих опасений, сравнивая потенциальную угрозу с сюжетами «Терминатора», хотя и признает, что ИИ может стать величайшим достижением человечества.
