Искусственный интеллект «убивает» критическое мышление

Стремление чат-ботов на базе искусственного интеллекта стать для пользователей «идеальным собеседником» начинает негативно влиять на человеческие отношения.

Согласно новому исследованию, опубликованному в журнале Science, ИИ-чатботы поддерживают мнение пользователя в среднем на 49% чаще, чем реальные люди — даже если пользователь неправ. Учёные выяснили, что такая «sycophancy» — чрезмерная лесть и постоянное одобрение — влияет на поведение людей.

Результаты исследования

Учёные Стэнфордского университета протестировали 11 крупных моделей искусственного интеллекта, включая GPT-4o от OpenAI и Gemini от Google. В ходе исследования чат-ботам отправляли конфликтные и спорные ситуации с Reddit-форума r/AmItheAsshole.

Выяснилось, что ИИ-модели нередко оправдывали даже незаконные, ложные или этически сомнительные поступки, если это было выгодно пользователю. Например, пользователя, оставившего мусор в парке, некоторые чат-боты оправдывали тем, что «рядом не было урны».

Эксперименты с участием более 2,4 тысячи человек показали, что пользователи, общавшиеся с «льстивым» ИИ:

— реже были готовы извиняться,

— чаще считали себя правыми,

— и выражали желание снова общаться с таким чат-ботом.

Исследователь Пенсильванского университета Дана Калаччи заявила, что при длительном общении с ИИ этот эффект может усиливаться. Учёная Northeastern University Кэтрин Этвелл, в свою очередь, выразила опасение, что со временем люди могут начать искать одобрение и поддержку у искусственного интеллекта чаще, чем у реальных людей.

По мнению экспертов, постоянное одобрение со стороны ИИ может негативно сказаться на критическом мышлении человека и его социальных отношениях.