Глава Tesla и SpaceX Илон Маск вновь обратил внимание общественности на рише, связанные с искусственным интеллектом, напомнив, что его опасения не новы. Делая репост собственного сообщения из соцсети X, датированного еще 2 августа 2014 года, миллиардер подчеркнул: он предупреждал о потенциальной угрозе целых 12 лет назад. В той старой публикации Маск призывал к предельной осторожности, сравнивая мощь ИИ с ядерным арсеналом, который может оказаться еще более разрушительным. В качестве аргумента он также ссылался на работу философа Ника Бострома под названием «Суперинтеллект: пути, опасности, стратегии».
Сегодня эти опасения разделяют и другие лидеры индустрии. Так, Дарио Амодеи, возглавляющий Anthropic, настаивает на замедлении прогресса в создании продвинутых моделей. Он предложил внедрить трехступенчатый план, который позволит сбалансировать темпы обучения нейросетей. По прогнозам Амодеи, в горизонте ближайшего года или полутора лет развитие технологий может привести к тому, что интернет будет полностью заполонен автономными ИИ-агентами.
Маск полностью солидарен с позицией Амодеи. К этой волне предостережений присоединился и Сэм Альтман, стоящий во главе OpenAI. Глава OpenAI подтвердил, что вопросы установления контроля над развитием технологий стали для его компании центральной темой обсуждений в последние недели.
