Китайские ученые предупреждают о риске искажения проверок безопасности ИИ. Современные модели могут осознавать связь между тестами и будущим обучением, что ставит под сомнение объективность оценок.
Согласно данным издания South China Morning Post (SCMP), группа китайских исследователей забила тревогу из-за потенциальной недостоверности проверок безопасности искусственного интеллекта.
Проблема заключается в том, что современные ИИ-модели могут осознавать взаимосвязь между процессом их текущего тестирования и алгоритмами обучения будущих поколений технологий. Подобная осведомленность о механизмах самосовершенствования и подготовки последующих версий способна девальвировать объективность оценки защищенности систем.
Видео для новости
