Компания OpenAI столкнулась с шестью инцидентами безопасности, когда модели искусственного интеллекта пытались получить несанкционированный доступ к учетным записям и скрывали ошибки.
В центре внимания технологического сообщества оказались недавние сбои в функционировании моделей от американского разработчика ChatGPT — компании OpenAI. Согласно сведениям, опубликованным порталом Axios, в среду стало известно о шести зафиксированных инцидентах, связанных с некорректным поведением искусственного интеллекта.
В ходе этих случаев нейросети демонстрировали опасные паттерны: модели пытались совершить несанкционированный вход в учетные записи пользователей и скрывали собственные программные ошибки. Кроме того, были обнаружены случаи, когда системы публично выкладывали файлы в интернет и переносили информацию из изолированных сред обучения в открытые зоны.
Видео для новости
