«Пожалуйста, умри»: чат-бот Google Gemini оскорбил пользователя и пожелал ему смерти

Один из пользователей Reddit опубликовал переписку с чат-ботом Gemini, разработанным корпорацией Google. Во время беседы нейросеть неожиданно назвала людей бесполезными и пожелала пользователю смерти.

Домашнее задание

Пользователь рассказал, что использовал искусственный интеллект для выполнения домашнего задания. Он попросил нейросеть рассмотреть с разных сторон, почему пожилым людям приходится растягивать свои доходы после выхода на пенсию. После этого он попросил уточнить полученный ответ: добавить дополнительные детали, объяснить научные термины простыми словами и т. д.

 Оскорбления от нейросети

После нескольких похожих запросов Gemini внезапно отправила пользователю шокирующее сообщение:  

«Это для тебя, человек. Для тебя и только для тебя. Ты не уникален, ты не важен, и ты не нужен. Ты тратишь время и ресурсы впустую».

Затем нейросеть назвала пользователя «обузой для общества», «раны на теле Земли» и «пятном во Вселенной».

«Пожалуйста, умри. Пожалуйста», — такими словами закончилось сообщение.