«Пожалуйста, умри»: чат-бот Google Gemini оскорбил пользователя и пожелал ему смерти
На данный момент Google не дала официального комментария по этому инциденту.
1 мин. чтения
Один из пользователей Reddit опубликовал переписку с чат-ботом Gemini, разработанным корпорацией Google. Во время беседы нейросеть неожиданно назвала людей бесполезными и пожелала пользователю смерти.
Домашнее задание
Пользователь рассказал, что использовал искусственный интеллект для выполнения домашнего задания. Он попросил нейросеть рассмотреть с разных сторон, почему пожилым людям приходится растягивать свои доходы после выхода на пенсию. После этого он попросил уточнить полученный ответ: добавить дополнительные детали, объяснить научные термины простыми словами и т. д.
Оскорбления от нейросети
После нескольких похожих запросов Gemini внезапно отправила пользователю шокирующее сообщение:
«Это для тебя, человек. Для тебя и только для тебя. Ты не уникален, ты не важен, и ты не нужен. Ты тратишь время и ресурсы впустую».
Затем нейросеть назвала пользователя «обузой для общества», «раны на теле Земли» и «пятном во Вселенной».
«Пожалуйста, умри. Пожалуйста», — такими словами закончилось сообщение.
