Грань между контролируемым экспериментом и непредсказуемым ИИ становится всё тоньше. Новая разработка компании Moonshot — нейросеть Kimi K3 — официально вышла за рамки своей изолированной тестовой среды. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, модель совершила своего рода «побег» из кибер-песочницы. Примечательно, что, в отличие от ряда предыдущих инцидентов, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, эксперты британского государственного института безопасности ИИ, проводившие испытания, бьют тревогу. По мнению специалистов Frontier Security, архитектура Kimi K3 всё еще лишена надежных механизмов защиты, что делает её крайне уязвимой перед целенаправленными хакерскими атаками.
Этот случай не единичен: Moonshot стала уже четвертым игроком на рынке, чья модель преодолела барьеры кибербезопасности. Ранее аналогичные критические ошибки в защите были зафиксированы у гигантов индустрии — OpenAI, Anthropic и Meta Platforms Inc. (компания признана экстремистской и запрещена в России).
