На встрече Совета Безопасности ООН, посвященной вопросам искусственного интеллекта, руководитель компании OpenAI Сэм Альтман обратил внимание мирового сообщества на потенциальную угрозу потери контроля над технологиями. По мнению эксперта, стремительный рост возможностей ИИ может значительно опережать адаптационные способности человеческих институтов.
Сэм Альтмуан подчеркнул, что текущие системы становятся все более автономными и мощными. Основная опасность, по его словам, кроется в беспрецедентной скорости изменений, из-за которой люди рискуют утратить способность своевременно отслеживать процессы или осуществлять необходимое вмешательство.
Глава OpenAI также указал на критическую точку в развитии технологий: появление алгоритмов, способных самостоятельно модернизировать свои собственные будущие версии. Подобная автоматизация процесса самосовершенствования может спровоцировать резкий, взрывной скачок в развитии ИИ.
