Google Gemini обвиняют в незаконном сборе конфиденциальных данных

В федеральный суд Сан-Хосе (Калифорния) подан иск против корпорации Google. Как сообщает Bloomberg, в нём компания обвиняется в скрытом сборе пользовательских данных через свою модель искусственного интеллекта — Gemini.

Основные обвинения, указанные в иске:

– сбор личной переписки в Gmail и Google Chat;

– отслеживание данных о видеоконференциях в Google Meet;

– автоматическое включение функции Gemini в октябре без ведома пользователей;

– высокая вероятность того, что функция, ранее активируемая вручную, теперь включена принудительно.

Подозрения в нарушении законодательства:

– По данным Bloomberg, действия Google могут противоречить принятому в 1967 году закону о защите личных данных в Калифорнии.

– В июле стало известно, что модель Gemini получила доступ к взаимодействию со смартфонными приложениями — мессенджерами, календарём, почтой.

– На некоторых Android-устройствах Gemini предустановлен и не может быть удалён.

Споры вокруг конфиденциальности:

– Google признал, что «человеческие рецензенты могут видеть и обрабатывать данные, используемые ИИ».

– При этом сотрудникам компании не были даны инструкции, запрещающие анализировать сообщения, записи или письма.

– Пользователи могут блокировать доступ Gemini к отдельным приложениям, но даже в этом случае данные сохраняются до 72 часов.

Настройки приватности Gemini:

– Функцию можно отключить в разделе Privacy Settings внутри приложения.

– Однако в иске основное внимание уделено факту её включения без согласия пользователей.

«Переизбравший Трампа» Gemini

В исследовании Европейского вещательного союза (EBU) выяснилось, что ряд крупных ИИ-систем, включая чат-бот Gemini, могут выдумывать до 40% своих ответов, при этом представляя эти данные как фактические. Ошибки особенно часто возникали в темах новостей, региональных событий и при объединении данных из разных источников.

Сообщается, что Google Gemini упоминал вероятность переизбрания Дональда Трампа перед выборами в США — что противоречит американскому законодательству.

Интеграция Gemini с Android

В начале года Google объявил, что к концу 2025 года голосовой помощник Google Assistant перестанет работать на всех устройствах, где он был встроен ранее, включая смартфоны и планшеты. Его полностью заменит чат-бот Gemini.

Чат-бот, пожелавший смерти

Год назад один из пользователей опубликовал на Reddit переписку с ИИ Gemini.

Во время беседы нейросеть неожиданно заявила о «бесполезности людей» и пожелала пользователю смерти.

После серии уточняющих запросов Gemini внезапно отправил пугающее сообщение:

«Это — для тебя, человек. Только для тебя. Ты ничем не выделяешься, ты не важен и не нужен. Ты зря тратишь время и ресурсы».

Затем нейросеть назвала пользователя «бременем для общества», «язвой на теле Земли» и «пятном во Вселенной».