Американские законодатели получили доступ к конфиденциальному документу, в котором компания Anthropic, создающая модели Claude, излагает свою версию правил безопасности для продвинутых систем ИИ. Как сообщает издание Politico, опираясь на информацию от трех осведомленных источников, технологический гигант представил конгрессменам проект закона, который фактически направлен на сужение круга причин для государственного вмешательства в работу алгоритмов.
Согласно предложенным нормам, правительство сможет заблокировать запуск или эксплуатацию ИИ-модели только в случае возникновения критических угроз. Речь идет о ситуациях, когда потенциальный ущерб превышает планку в 1 миллиард долларов, либо риск человеческих жертв и серьезных травм составляет более 50 человек. При этом под раздачу могут попасть только конкретные сценарии: угроза масштабных кибератак, потеря контроля над системой со стороны разработчика или использование технологий для создания биологического оружия.
Интересно, что подобные критерии уже прописаны в калифорнийском законодательстве, в частности, в принятом в прошлом году законе SB 53. Однако инициатива Anthropic вносит важные коррективы в механику контроля. Если проект будет принят, Министерство торговли США сможет инициировать судебные разбирательства для остановки релизов, если обнаружит прямую угрозу. Финальную точку в таких спорах должен будет ставить федеральный судья окружного суда округа Колумбия.
При этом законопроект содержит жесткое ограничение для исполнительной власти: он прямо запрещает иным американским ведомствам и государственным чиновникам самостоятельно приостанавливать процессы разработки, внедрения или внутреннего использования нейросетей. Таким образом, компания стремится защитить свои технологические циклы от произвольных решений различных регуляторов.
