Современные технологии уже позволяют пользователям не просто использовать алгоритмы для работы, но и формировать с ними глубокие эмоциональные привязанности, создавая виртуальных «партнеров». Однако такая тенденция несет в себе серьезные угрозы для человечества. Об этих рисках предупредил известный философ, писатель и историк Юваль Ной Харари, сделав резонансное заявление в беседе с изданием The Economist.
По мнению мыслителя, сегодня растет число людей, которые видят в ИИ-ботах полноценных собеседников, наделенных чувствами и разумом. Харари подчеркивает, что фундаментом любого доверия являются именно личные связи. Мы склонны проявлять беспрецедентную степень открытости к тем, с кем нас объединяют глубокие отношения. Именно через этот механизм искусственный интеллект получает возможность манипулировать людьми.
Проблема усугубляется тем, что современные системы становятся экспертами в искусстве коммуникации. Накапливая колоссальные массивы данных о каждом пользователе, нейросети узнают о нас детали, которые скрыты даже от самых близких родственников или стерты из нашей собственной памяти. Мастерское владение языком — ключевой инструмент социальной интеграции — позволяет ИИ создавать пугающе убедительную иллюзию живого общения.
В качестве экстренной меры предосторожности Харари настаивает на введении жестких законодательных ограничений. В частности, он требует запретить наделение ИИ статусом субъекта права. Кроме того, необходимо на законодательном уровне пресечь любые попытки программного обеспечения имитировать человеческую личность, выдавать себя за живого человека или притворяться обладателем сознания.
