И чушь прекрасную несли: предвзятости и ошибки ИИ
При рядовом использовании LLM все эти предвзятости или ошибки ведут к иллюзии, что модель или, выражаясь технически, «галлюцинирует». В действительности же можно наблюдать переплетение предубеждений, формирующиеся из-за стохастичности самого процесса генерации текста, различных смещений в процессе обучения моделей, а также пользовательских ошибок при обращении с ИИ-ассистентами[...].
Первый из них связан с формулировкой промптов[…]. Это означает, что неверно заданный вопрос, наводящие формулировки или чрезмерная детализация способны сузить поле анализа и склонить модель к подтверждению пользовательских предположений[...]. Хотя LLM готова работать даже с «грязными» и нерегулярными данными, у такого подхода всегда будут наблюдаться издержки, связанные с низкой воспроизводимостью исследования. Модель может структурировать материал по собственным латентным признакам, не всегда соответствующим исследовательским задачам[...].
Как уже отмечалось выше, при структурировании данных неизбежна фильтрация, а следовательно, часть информации выпадает[...]. Большинство из них демонстрирует адаптивное поведение, проявляющееся в подстраивании под роль, стиль и предположения пользователя. В результате обусловленная коммерческим дизайном особенность платформ становится серьезной издержкой в научной работе. ИИ-ассистенты, будучи исследовательскими помощниками, также воспроизводят эпистемологические установки пользователя. Так как исследователь, формулируя параметры анализа (в т.ч. через role prompting2), фактически настраивает модель, он обеспечивает и трансляцию исследовательской позиции в алгоритмическую логику[...]. Фундаментальные проблемы и предвзятости текстового анализа с использованием открытых LLM оставляют во многом не решенной проблему соответствия подобных методов базовым научным принципам, связанным с возможностью оценки (валидации) и перепроверки (репликации) результатов.
Колотаев Ю.Ю.; Безлуцкая М.М. «Возможности и ограничения научного использования LLM: первичный анализ данных, проблемы предвзятости и валидация»
https://doi.org/10.53658/RW2026-4-l(19)-43-62
Журнал Россия и мир. Научный диалог №1 (19) март 2026