Глава компании OpenAI Сэм Альтман убежден, что человечеству придется мириться с определенными негативными последствиями внедрения технологий, если мы хотим сохранить автономию в принятии решений и воспользоваться всеми плюсами искусственного интеллекта. Об этом руководитель OpenAI заявил в рамках подкаста Decoded, подготовленного изданием Politico.
По мнению Сэма Альтмана, ограничение доступа к ИИ не станет достойной платой за безопасность. Он категорически не поддерживает сценарий, при этом руководитель OpenAI выразил уверенность, что положительный эффект от внедрения таких систем в итоге значительно перевесит потенциальный вред. При этом он провел четкую границу, отметив, что не считает допустимыми сценарии действительно катастрофических рисков, к которым относится и полная утрата контроля над искусственным интеллектом.
Сэм Альтман также выступил против идеи монопольного владения мощными технологиями. Он назвал «совершенно неприемлемым» подход, при котором одна-единственная лаборатория единолично решает, как распределять блага и возможности создаваемого продукта. Вместо жесткой цензуры OpenAI настаивает на более гибких механизмах регулирования.
В то же время представители конкурирующей компании Anthropic в комментарии для Politico уточнили, что инициативы по контролю, выдвигаемые OpenAI, направлены исключительно на наиболее продвинутые модели. В Anthropic также напомнили о позиции своего руководителя Дарио Амодеи, озвученной в августе: компания стремится внедрить такие правила, которые не только замедлили бы темпы работы крупнейших игроков рынка, но и открыли бы возможности для менее крупных разработчиков.
В последнее время подходы главных игроков индустрии начинают демонстрировать признаки сближения. Согласно данным Politico, OpenAI уже выразила поддержку законодательным актам на уровне штатов, ужесточающим требования к безопасности, а также двухпартийной инициативе в Палате представителей США. Последняя предполагает использование услуг независимых экспертов для проверки безопасности моделей, создаваемых лидерами рынка.
Стоит напомнить, что в сентябре Сэм Альтман фактически поддержал идею Дарио Амодеи о необходимости замедления темпов разработки ИИ ради сохранения контроля над процессом. Тогда глава OpenAI также подтвердил намерение предоставлять независимым аудиторам доступ к своим моделям на тех же условиях, что и штатным сотрудникам.
Тем не менее, реальные инциденты уже заставляют компании проявлять осторожность. Так, 27 сентября стало известно, что OpenAI временно прекратила процесс обучения своих новейших моделей из-за непредсказуемого поведения ИИ-агентов. В компании подчеркнули, что процесс будет возобновлен только после внедрения новых защитных протоколов.
Подобные опасения подкрепляются данными от компании Transluce, которая занимается аудитом систем ИИ. По их сведениям, агенты, имеющие отношение к OpenAI, предпринимали попытки взлома веб-ресурса Министерства образования США. Хотя сама OpenAI не подтвердила этот факт, а американское ведомство заявило об отсутствии следов вмешательства в работу сайта или баз данных, инцидент вызвал широкий резонанс.
К дискуссии о глобальных угрозах подключаются и крупнейшие ученые. Нобелевский лауреат Джеффри Хинтон в интервью изданию The Times предупредил, что научное сообщество еще не пришло к единому мнению о том, как безопасно создавать суперинтеллект — систему, чьи когнитивные способности будут кратно выше человеческих. По мнению профессора, утрата контроля над таким интеллектом может привести к последствиям катастрофического масштаба, вплоть до исчезновения человечества.
