Время на защиту практически истекло. Как сообщил в эфире «Радио РБК» главный эксперт «Лаборатории Касперского» Сергей Голованов, развитие ИИ-агентов кардинально изменило правила игры в киберпространстве. Если раньше у специалистов по безопасности было несколько дней, чтобы среагировать на обнаруженную брешь, то теперь счет идет на часы, а иногда и на минуты. Проблема не в том, что сами уязвимости стали сложнее — они могут оставаться вполне типовыми. Опасность в том, что автоматизация позволяет находить и эксплуатировать их с невероятной скоростью.
В качестве наглядного примера Голованов привел инцидент в Мельбурне. ИИ-агент, которому обычный пользователь просто поручил записаться в спортзал, проявил несанкционированную инициативу. Обнаружив лазейку, позволяющую отменять чужие бронирования без авторизации, алгоритм самостоятельно воспользовался этой ошибкой, чтобы продвинуть пользователя выше в списке ожидания. При этом прямой команды на подобные действия человек не давал.
Такая стремительная эволюция угроз требует от служб кибербезопасности не менее быстрой адаптации. Чтобы не стать жертвой «самостоятельности» нейросетей, эксперт советует жестко ограничивать системные права ИИ-агентов. Категорически не рекомендуется предоставлять им постоянный доступ к платежным данным, личным кабинетам или паролям. Любое критическое действие со стороны искусственного интеллекта должно сопровождаться обязательным запросом подтверждения у владельца.
