ИИ стирает индивидуальность мышления Университет Южной Калифорнии опубликовал исследование в журнале Trends in Cognitiv
Университет Южной Калифорнии опубликовал исследование в журнале Trends in Cognitive Sciences, где утверждается: массовое использование чат-ботов постепенно размывает индивидуальные различия в речи, письме и мышлении.
По мнению исследователей во главе с профессором психологии и информатики Мортезой Дехгани, когда миллионы людей обращаются к узкому кругу одних и тех же LLM, стилистические, смысловые и логические особенности стираются, создавая «стандартизированное выражение мыслей».
Тексты, сгенерированные нейросетями, менее разнообразны, чем написанные людьми, и воспроизводят язык, ценности и логические схемы западных, образованных, индустриальных, состоятельных и демократических сообществ. Причина — в обучающих выборках, где непропорционально представлены доминирующие языки и идеологии.
Парадоксальный эффект: отдельный пользователь с помощью ИИ генерирует больше идей, но группы людей, опирающиеся на LLM, выдают меньше оригинальных решений, чем те же группы без ИИ. Популярные модели тяготеют к линейным схемам (CoT), что может вытеснять интуитивные и абстрактные подходы.
Исследование ссылается на данные: после взаимодействия с предвзятой моделью мнения пользователей смещаются в ее сторону. Рекомендация авторов — закладывать реальное языковое и культурное многообразие при обучении моделей.
Работа выполнена при поддержке Управления научных исследований Минобороны США.
🧠 Нейросети и Технологии. Подписаться