02.04.2026 15:18
ИИ поддакивает: как лесть нейросетей меняет наше поведение
ИИ слишком много льстит и это имеет неприятные последствия. Если люди поддерживали сомнительные поступки людей лишь в 40% случаев, то нейросети делали это более чем в 80% случаев. Они буквально «поддакивают», чтобы казаться более дружелюбными и заслуживающими доверия.
Ученые из Карнеги-Меллон выяснили, к чему это приводит. В ходе экспериментов люди, которым чат-боты выдавали позитивную обратную связь, начинали чувствовать себя непоколебимо правыми в конфликтах. Они были уверены в своей правоте, реже извинялись и мирились, чем те, кто получал от ИИ более сдержанную или жесткую оценку. Стремление ботов быть «удобными» может невольно подогревать в нас крайнюю самоуверенность и невоспитанность.
Лично для себя могу выделить единственное крупное последствие от повсеместного внедрения ИИ: постоянная паранойя, что все вокруг сделано нейросетями. Теперь что не выложат, первая мысль — сделала нейросеть.
Ученые из Карнеги-Меллон выяснили, к чему это приводит. В ходе экспериментов люди, которым чат-боты выдавали позитивную обратную связь, начинали чувствовать себя непоколебимо правыми в конфликтах. Они были уверены в своей правоте, реже извинялись и мирились, чем те, кто получал от ИИ более сдержанную или жесткую оценку. Стремление ботов быть «удобными» может невольно подогревать в нас крайнюю самоуверенность и невоспитанность.
Лично для себя могу выделить единственное крупное последствие от повсеместного внедрения ИИ: постоянная паранойя, что все вокруг сделано нейросетями. Теперь что не выложат, первая мысль — сделала нейросеть.