Американские разработчики работают над созданием системы защиты от вышедшего из-под контроля искусственного интеллекта. В качестве предохранителя планируется использовать специализированные ИИ-инструменты.
Попытки создать программный «предохранитель» для нейтрализации вышедших из-под контроля нейросетей стали приоритетной задачей для ведущих разработчиков США, пишет Axios. В качестве защитного механизма планируется использовать специализированные ИИ-инструменты. На фоне этих разработок дискуссии о безопасности технологий вновь обострились.
Поводом послужило громкое заявление Джейкоба Коксона, исследователя из Anthropic, который принял решение покинуть индустрию. По словам специалиста, из-за стремительного соперничества корпораций человечество рискует достичь «точки невозврата», что способно спровоцировать катастрофические последствия уже к 2027 году.
Видео для новости
