Разработчик обнаружил, как Google AI слила детали его игры из приватного документа

Инди-разработчик выложил на Reddit сообщение о необычном инциденте: Google AI смогла раскрыть детали его игры, которые никогда не публиковались в открытом доступе и содержались только в приватных документах.

KlubKofta, создатель tower defense-игры Operation Octo на Steam, поделился скриншотами из Discord. На них видно, как игрок задавал Google Gemini вопросы про игру, и нейросеть выдала «пугающе точные» ответы о неанонсированном контенте.

Как AI назвала персонажа раньше времени

Когда игрок попросил задать вопросы о будущих обновлениях, Gemini выдала имя персонажа, который так и не был представлен публике. «Каким-то образом AI назвала точное название персонажа — "Vantage Tripod", — рассказал разработчик. — Я ни с кем этого не обсуждал».

По словам KlubKofta, эта информация существовала только в одном месте в цифровой форме — в его личном Google Doc, который никогда никому не отправлялся. «Я точно не спрашивал об этом у AI сам. Не знаю, как она это выяснила», — признался разработчик.

Некоторые пользователи в комментариях указали на то, что Google автоматически включает сканирование файлов из Drive для обучения Gemini. Сама компания, однако, отрицает возможность доступа к приватным документам.

«Google не сканирует ваше приватное содержимое Workspace (включая Drive и Docs) для обучения наших базовых AI-моделей, включая Gemini», — заявила компания в ответе изданию. «Ссылки на публично поделённые документы могут быть проиндексированы, если кто-то их опубликовал, где их может увидеть поисковый краулер».

Разработчик, однако, уверен, что его документ с информацией никогда не был опубликован ни в каком виде. Как именно AI получила доступ к этим данным — остаётся загадкой.