В мире цифровых технологий появилась новая, пугающая форма мошенничества, целью которой стали самые уязвимые слои населения. Как сообщает Би-би-ло, YouTube наводнили видеоролики, где вместо настоящих специалистов советы дают виртуальные врачи, созданные искусственным интеллектом. За этой технологичной картинкой скрывается отлаженная коммерческая машина, нацеленная на извлечение прибыли из пожилых людей.
Расследование бразильского подразделения Би-би-си обнаружило не менее 50 YouTube-каналов, которые работают по единому шаблону. Эти ресурсы публикуют не только медицинские советы, но и подробные руководства по созданию подобных ИИ-персонажей. Инструкции доступны на самых разных языках, включая английский, хинди и португальский. Логика создателей проста и цинична: пожилые люди, имеющие свободное время и определенный достаток, идеально подходят в качестве целевой аудитории для продажи рекламируемых товаров.
Схема манипуляции зрителями отработана до мелочей. Зрителя встречает спокойный, внушающий доверие голос «доктора» в белом халате. Сценарий строится на запугивании: ИИ-медик заявляет, что привычные лекарства, продукты или даже повседневные привычки таят в себе скрытую угрозу. После того как страх внушен, авторы тут же предлагают «спасительную» альтернативу — товар, который можно приобрести по ссылке. Более того, обучающие ролики прямо советуют использовать кликбейтные заголовки, играющие на панике, чтобы гарантированно привлечь внимание.
Финансовая сторона вопроса поражает: один из авторов подобных обучающих видео признался, что доход от просмотров и продажи сопутствующих товаров может достигать 5,8 тысячи долларов.
Реальные медики бьют тревогу. Врач, чье лицо было незаконно использовано для создания цифрового двойника, предупредил, что подобные советы могут нанести смертельный вред пациентам. Гастроэнтеролог из клиники имени Альберта Эйнштейна в Сан-Паулу Жайме Заладека Жила подчеркнул, что главная угроза — это риск использования неэффективных средств, которые могут не только не помочь, но и усугубить болезнь или привести к потере драгоценного времени, необходимого для постановки верного диагноза.
Пациентам требуется глубокая диагностика и полноценное обследование, а не короткие видео, обещающие мгновенное исцеление
В сложившейся ситуации компания Google, владеющая YouTube, заявляет о своей позиции: правила платформы в равной степени применяются и к контенту, сгенерированному нейросетями. Запрет на распространение медицинской дезинформации, способной нанести реальный вред, остается в силе.
Этот кризис доверия к информации происходит на фоне стремительного развития технологий. Еще в конце июля Сэм Альтман, возглавляющий OpenAI, отметил, что человечество подошло к «точке сингулярности», хотя еще десятилетие назад такие изменения казались немыслимыми. Однако сегодня эта технологическая мощь всё чаще используется для создания инструментов манипуляции.
