Развитие искусственного интеллекта может обернуться катастрофическими убытками в сотни миллиардов долларов, если индустрия продолжит игнорировать реальные риски. К такому тревожному прогнозу пришел Дарио Амодеи, возглавляющий компанию Anthropic. В своем недавнем общении с CBS News топ-менеджер прямо обвинил технологических гигантов в замалчивании опасностей, которые несет в себе прогресс в сфере ИИ.
По мнению Амодеи, разработчики слишком долго старались поддерживать иллюзию безопасности, рисуя лишь позитивные сценарии использования новых технологий. Глава Anthropic подчеркнул, что его компания сознательно избегала подобной политики, и настаивает: пришло время честного диалога об угрозах. При этом сам Амодеи признался, что даже он не был готов к столь стремительному скачку возможностей нейросетей. Скорость, с которой технологии меняют мир, оказалась выше, чем можно было представить изначально.
Однако призыв к осторожности не означает требования немедленно прекратить все исследования. Амодеи выступает против паники и полной остановки разработок, но называет текущую ситуацию серьезным предостережением. По его словам, индустрии необходима пауза для переосмысления подходов.
В качестве решения проблемы глава Anthropic предложил конкретную стратегию из трех шагов. Его план включает внедрение независимого аудита ИИ-моделей, создание единого правового поля для разработчиков в демократическом мире и заключение глобальных соглашений, охватывающих даже Китай. Спешка в этом вопросе опасна: Амодеи предупреждает, что уже через полгода-год появление автономных ИИ-агентов без надлежащих систем контроля может привести к созданию неуправляемых ботнетов, способных нанести колоссальный экономический ущерб.
Интересно, что инициатива Амодеи нашла отклик у ключевых фигур рынка. Сэм Альтман, стоящий во главе OpenAI, поддержал идею открытости, заявив, что его компания готова предоставить внешним экспертам расширенные права для проверки безопасности своих систем. Илон Маск, основатель SpaceX, кратко, но емко подтвердил правоту коллеги, написав:
Дарио прав.
Тем не менее, политический контур дискуссии выглядит иначе. Спикер Палаты представителей США Майк Джонсон выразил опасения, что чрезмерное регулирование и замедление темпов создания языковых моделей могут привести к тому, что Америка уступит технологическое лидерство Китаю. Таким образом, перед мировым сообществом встает сложнейшая дилемма: как обеспечить безопасность человечества, не проиграв в глобальной технологической гонке.