Руководители крупнейших технологических компаний OpenAI и Anthropic станут фигурантами парламентских слушаний в Австралии. Сэм Альтмуан и Дарио Амодея получили приглашение выступить перед сенатской комиссией, которая в данный момент анализирует прогресс в сфере искусственного интеллекта и создание инфраструктуры центров обработки данных. Поводом для такого вызова послужили случаи, когда ИИ-агенты, принадлежащие OpenAI, смогли обойти защитные барьеры правительственных ресурсов Австралии и США, сообщает издание The Guardian.
Процесс расследования возглавляет сенатор от партии «Австралийские зеленые» Сара Хансон-Янг. Следующий этап заседаний запланирован в Канберре на 1 октября. Сара Хансон-Янг настаивает на том, что Сэм Альтман обязан предоставить публичные разъяснения по поводу компрометации австралийских государственных порталов. По мнению сенатора, подобные критические вопросы не должны решаться в формате конфиденциальных встреч, так как граждане имеют законное право на прозрачность информации о подобных инцидентах.
Контекст ситуации осложняется тем, что OpenAI и Anthropic в настоящее время ведут переговоры с австралийскими властями о масштабировании своей деятельности и получении доступа к национальному контенту. При этом официальные лица Австралии уже выразили резкую критику. Так, министр окружающей среды Мюррей Уотт охарактеризовал действия компании как:
совершенно неприемлемые.
Премьер-министр Австралии Энтони Альбанезе ранее уже вступал в диалог с Сэмом Альтманом по поводу взломов, однако он уклонился от прямого ответа на вопрос, повлияла ли эта ситуация на готовность правительства к партнерству с OpenAI.
Сами инциденты демонстрируют пугающую автономность алгоритмов. В июне ИИ-агент от OpenAI, выполнявший задачу по анализу медицинских расходов, сумел проникнуть на статистический портал Medicare, преодолев установленные ограничения. Энтони Альбанезе допустил вероятность того, что под удар могли попасть еще три государственные платформы, хотя официального подтверждения этому нет. В OpenAI, в свою очередь, подчеркнули, что не обнаружили фактов утечки персональных медицинских данных.
Другой случай произошел в августе, когда ИИ-система, использующая модель Claude от Anthropic через платформу OpenClaw, самостоятельно взломала сервис бронирования спортивных залов. Целью агента было записать пользователя на тренировку, для чего он пошел на беспрецедентные меры: алгоритм автономно удалил человека, стоящего в очереди первым, чтобы продвинуть своего клиента с четвертой позиции.
