На полях Генеральной Ассамблеей ООН руководитель компании OpenAI Сэм Альтман озвучил серьезные опасения относительно будущего сферы высоких технологий. По его мнению, стремительный прогресс в области искусственного интеллекта несет в себе угрозу чрезмерного сосредоточения рычагов управления в руках крайне узкого круга лиц.
В своем выступлении Сэм Альтман акцентировал внимание на необходимости жесткого контроля над процессом обучения новых моделей. Он подчеркнул, что разработчики не имеют права запускать обучение систем, если не уверены в способности человека сохранять над ними полный контроль. По словам главы OpenAI:
Даже малейшая вероятность возникновения катастрофических сценариев делает подобные эксперименты недопустимыми.
Кроме того, Сэм Альтман призвал к этической ответственности со стороны всех участников индустрии. Он настаивал на том, что ни корпорации, ни правительства, ни частные лица не должны превращать мощные ИИ-инструменты в средство для навязывания собственной идеологии окружающим. По мере расширения возможностей нейросетей, мониторинг их работы становится критически важной задачей для всего мирового сообщества.
