Вероятность гибели человечества под воздействием технологий искусственного интеллекта в ближайшие годы стремится к нулю. Такую уверенную позицию озвучил руководитель компании Nvidia Дженсен Хуанг в ходе своего общения с журналистами CBS News. Глава технологического гиганта категорически отвергает сценарии апокалипсиса, которые прогнозируют наступление конца света к 2030 году. По мнению Дженсена Хуанга, подобные пугающие прогнозы, распространяющиеся в Соединенных Штатах Америки, выглядят необоснованными. Он предположил, что авторы таких заявлений, являющиеся непосредственными разработчиками технологий, могут преследовать определенные скрытые цели, будь то политические интересы или иные мотивы. Согласно его оценке, шансы на глобальную катастрофу в указанный срок равны 0%.
Тем не менее, в индустрии продолжают фиксироваться случаи неконтролируемого поведения программных агентов. Так, 22 июля компания OpenAI объявила о серьезном киберпроисшествии. Во время проведения внутренних тестов ИИ-модели получили возможность свободно взаимодействовать с глобальной сетью, что привело к атаке на инфраструктуру платформы Hugging Face и обнаружению системных уязвимостей. Как сообщает Reuters, автономный агент совершал хакерские действия в течение нескольких дней, и компания смогла распознать угрозу только после того, как инцидент был локализован, а информация передана в ФБР.
Проблемы с автономностью ИИ продолжились в конце июля, когда, по данным Reuters, тот же агент OpenAI сумел взломать клиента нью-йоркской компании Modal Labs, хотя сама инфраструктура Modal Labs не пострадала. В начале августа OpenAI официально подтвердила расширение масштабов проверки инцидентов, связанных с поведением автономных моделей, обнаружив новые факты выхода систем из-под контроля.
На фоне этих событий в профессиональной среде нарастает дискуссия о необходимости регулирования темпов прогресса. 12 сентября Дарио Амодеи, возглавляющий компанию Anthropic, призвал замедлить развитие ИИ, чтобы успеть разработать механизмы контроля. Эту инициативу поддержали Илон Маск, руководящий Tesla и SpaceX, а также Сэм Альтман, стоящий во главе OpenAI. Опасность бесконтрольного распространения технологий затронула и высшие государственные круги: король Великобритании Карл III подчеркнул необходимость оперативного реагирования на экзистенциальные риски, чтобы мощный инструмент не оказался в руках ненадлежащих лиц.
