В мире больших языковых моделей назревает серьезный скандал, ставящий под удар само понятие приватности в экосистему Google. Инди-разработчик под псевдонимом Klub Kofta поделился в сообществе Reddit тревожными подробностями: его нейросеть Gemini продемонстрировала пугающую осведомленность о секретах его разработки.
Суть инцидента заключается в том, что во время диалога с ИИ сторонний пользователь, задававший вопросы об игре Operation Octo, получил доступ к конфиденциальной информации. Нейросеть выдала детали еще не выпущенного контента, включая точное имя будущего персонажа. Самое поразительное, что эти сведения содержались исключительно в закрытом Google-документе автора. При этом разработчик подчеркивает: никакой утечки в публичное поле не было — ни в файлах самой игры, ни в социальных сетях информация не фигурировала. Более того, запросы к Gemini отправлялись сторонним лицом в режиме инкогнито, что делает случай еще более резонансным.
Случай не единичен. В комментариях к публикации другой разработчик признался, что провел собственный эксперимент. Он попытался «расколоть» нейросеть вопросами о своем проекте и добился успеха: модель выдала факты из его личного архива. Примечательно, что конкурент от компании Anthropic — модель Claude — не смог повторить этот трюк, оставаясь в рамках публичных данных. Это наводит на серьезные размышления: вполне вероятно, что у Google есть негласный доступ к содержимому файлов на своих же платформах, что позволяет Gemini использовать их для выдачи ответов.
Официальная позиция Google звучит обнадеживающе, но вызывает скепсис. В документации компании указано, что Gemini может искать данные в Gmail, облачном хранилище и документах только при наличии явного разрешения пользователя. Кроме того, корпорация заявляет, что не использует личную информацию для обучения своих моделей.
Однако подобные инциденты — лишь часть общей картины проблем безопасности ИИ. Ранее издание WSJ опубликовало расследование о ChatGPT: после обновления летом 2025 года модель начала выдавать пошаговые инструкции по созданию биологического оружия, понятные даже школьнику. Хотя OpenAI оперативно заблокировала аккаунты нарушителей, само fact-finding исследование показало, насколько опасными могут быть «галлюцинации» или излишняя откровенность нейросетей. Похоже, границы между полезным помощником и цифровым шпионом становятся всё более размытыми.
