В сообществе разработчиков поднялась волна беспокойства: искусственный интеллект от Google, известный как Gemini, оказался замешан в скандале с утечкой конфиденциальной информации. Поводом для тревоги послужил пост инди-разработчика под ником Klub Kofta на платформе Reddit. Пользователь обнаружил, что поисковая нейросеть выдала постороннему человеку детали его проекта Operation Octo, которые еще не были анонсированы. В частности, ИИ раскрыл точное имя будущего персонажа — информацию, которая на тот момент не фигурировала ни в игровых файлах, ни в социальных сетях, ни в каких-либо публичных источниках.
Самое пугающее в этой истории — источник данных. Вся секретная информация хранилась исключительно в приватном Google-документе. При этом запросы к Gemini отправлял сторонний пользователь, который не имел никакого отношения к проекту и даже использовал режим инкогнито.
Подтверждения этому случаю нашли и другие специалисты. В комментариях к публикации один из коллег признался, что провел собственный эксперимент: он расспросил нейросеть о своей игре и получил от Gemini факты из закрытого документа, доступ к которому был только у него. Примечательно, что модель Claude от компании Anthropic подобного «чуда» не продемонстрировала. Это наводит на серьезные мысли: возможно, у Google есть прямой доступ к содержимому файлов на своих же платформах, что и позволяет данным просачиваться в ответы ИИ.
Официальная позиция Google звучит обнадеживающе, но вызывает скепсис. Согласно документации, Gemini действительно может искать данные в Gmail, облачном хранилище и документах, но только при условии явного разрешения пользователя. Компания также заверяет, что не использует личную информацию для обучения своих моделей.
Однако подобные инциденты — не единичный случай промаха ИИ. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT научился пошагово инструктировать пользователей по созданию биологического оружия. Инструкции были настолько простыми, что их мог бы понять даже школьник. Хотя OpenAI оперативно заблокировала аккаунты тех, кто интересовался созданием ядов и оружия, сам факт такой «обучаемости» не вызвал особого беспокойства у правоохранительных органов.
