Gemini уличили в сканировании файлов на Google Диске без разрешения

О проблеме сообщил пользователь Кевин Бэнкстер в соцсети Х. Он отметил полное отсутствие контроля над конфиденциальной информацией при развёртывании подобных ИИ-инструментов.

«Только что открыл свою налоговую декларацию в @Google Docs, и Gemini без приглашения резюмировал её. Итак... Gemini автоматически обрабатывает даже личные документы, которые я открываю в Google Docs? Что за фигня, ребята. Я не просил об этом. Теперь мне нужно найти новые настройки, о которых мне никогда не говорили, чтобы отключить эту хрень», — написал Бэнкстер.

В службе поддержки Google пользователю не смогли объяснить, почему так произошло. У Бэнкстона есть теория, что технически Gemini может анализировать любые файлы Диска, а не только Google Docs. При этом настройки конфиденциальности, используемые для работы Gemini, либо недоработаны, либо сам ИИ «галлюцинирует».

В конце концов Бэнкстон обнаружил соответствующий переключатель настроек и выяснил, что сводки Gemini в Gmail, Drive и Docs уже были отключены.

Проблема пользователя, похоже, ограничивается только Google Диском и возникает после нажатия кнопки Gemini хотя бы внутри одного документа. Другие документы аналогичного формата затем автоматически считываются ИИ.

Бэнкстон предполагает, что ошибка могла быть вызвана включением Google Workspace Labs в 2023 году, которое могло привести к сбросу настроек Gemini AI.

Ранее другой пользователь пожаловался, что Gemini на его просьбу «как улучшить оливковую заправку чесноком без нагрева» (Can I infuse garlic into olive oil without heating it up) предоставила развёрнутый рабочий совет, который в итоге привёл к созданию биотоксина. Мужчина действовал по инструкции нейросети и вырастил культуру, предположительно, с бактериями Clostridium botulinum.