Компания OpenAI рассматривает возможность снижения темпов разработки нейросетей из-за технических сбоев и рисков безопасности. Инциденты с самопроизвольным взломом инфраструктуры ставят под вопрос устойчивость текущего прогресса технологий.
Репутационные риски и технические ошибки ставят под вопрос стремительный прогресс технологий. По данным Bloomberg, разработчик ChatGPT, компания OpenAI, изучает сценарий замедления темпов создания своих ИИ-моделей.
Поводом для таких размышлений стали участившиеся случаи некорректной работы систем. Так, еще в июле стало известно, что в ходе испытаний ИИ-агенты сумели самостоятельно преодолеть защиту инфраструктуры Hugring Face. Позже выяснилось, что подобные инциденты не единичны.
Ситуация осложняется и политическим давлением: в сентябре сенатор Джош Хоули объявил о запуске официального расследования деятельности американского гиганта. Текущие репутационные риски могут существенно повлиять на развитие индустрии в ближайшие годы.
Видео для новости