11.05.2026 06:23
Trendslop: почему нейросети выбирают модные решения
💬 Слово дня: trendslop
Ученые из Гарварда провели масштабное исследование, чтобы определить — насколько на самом деле непредвзяты нейросетки. Взяли все самые-самые (от ChatGPT до DeepSeek) и дали им одну и ту же задачу: выстроить бизнес-стратегию.
👉 По идее, обучение на большом корпусе источников должно было привести все результаты к золотой середине. На деле нейронки склонялись к одному мнению, вне зависимости от вводных. Будто бы чат-боты прошли обучение у одного и того же бизнес-тренера.
Ученые назвали это trendslop (дословно: «модно-помои») — склонность нейросетей к самым популярным решениям. И причина у него простая: самый доступный корпус текстов — комментарии и форумы. Нейронка = усредненный обитатель комментов!
Это — кошмар для бизнеса, инвестиций и других задач «на стратегию».
1️⃣ Любой чат-бот стоит воспринимать как ветку форумных комментариев: с зашитыми внутрь заблуждениями и устаревшими данными форумчан.
2️⃣ Разница в «воспитании»: в отличие от комментаторов, нейросеть долго и настойчиво учили при любых обстоятельствах быть любезной, вежливой и выполнять все просьбы пользователя (ваше внимание — главная валюта).
👉 Важный момент, воспитанием занимается менеджмент нейро-компаний. Так что они транслируют ценности и установки, принятые в создавшей их корпорации.
3️⃣ Как и комментаторы, нейронка может выдать нечто прорывное, но только для человека не знакомого с «матчастью». Стоит закопаться глубже в какую-то тему, и полезут галлюцинации.
⚠️ Речь идет обо всех свежих моделях и даже агентах, и, по мнению ученых — правильные промты могут смягчить ситуацию, но не способны ее поправить.
При этом админ не против пообщаться на форумах или спросить что-то у нейросети. Только с учетом информационной гигиены:
➖ Помнить, что нейросеть — «восхищенный троечник», воспитанный корпоративными менеджерами. Не ждать от ИИ ничего экстраординарного.
➖ Просить у нейронки ссылки, проверять их и вычитывать оригиналы. Еще лучше — проверять по нескольким источникам с разной позицией.
➖ Не открывать новости об очередной нейросети, которая нас всех поработит или взломает. С таким же успехом вас поработит T-9 или Siri.
Последнее — чистый «апокалиптичный пиар»: его использует руководитель OpenAI Сэм Альтман, и с энтузиазмом применяют в PR-отделе Anthropic (они подарили нам нейросеть-программиста Claude — тоже троечника).
✍️ Михаил
Max VK
Ученые из Гарварда провели масштабное исследование, чтобы определить — насколько на самом деле непредвзяты нейросетки. Взяли все самые-самые (от ChatGPT до DeepSeek) и дали им одну и ту же задачу: выстроить бизнес-стратегию.
👉 По идее, обучение на большом корпусе источников должно было привести все результаты к золотой середине. На деле нейронки склонялись к одному мнению, вне зависимости от вводных. Будто бы чат-боты прошли обучение у одного и того же бизнес-тренера.
Ученые назвали это trendslop (дословно: «модно-помои») — склонность нейросетей к самым популярным решениям. И причина у него простая: самый доступный корпус текстов — комментарии и форумы. Нейронка = усредненный обитатель комментов!
Это — кошмар для бизнеса, инвестиций и других задач «на стратегию».
1️⃣ Любой чат-бот стоит воспринимать как ветку форумных комментариев: с зашитыми внутрь заблуждениями и устаревшими данными форумчан.
2️⃣ Разница в «воспитании»: в отличие от комментаторов, нейросеть долго и настойчиво учили при любых обстоятельствах быть любезной, вежливой и выполнять все просьбы пользователя (ваше внимание — главная валюта).
👉 Важный момент, воспитанием занимается менеджмент нейро-компаний. Так что они транслируют ценности и установки, принятые в создавшей их корпорации.
3️⃣ Как и комментаторы, нейронка может выдать нечто прорывное, но только для человека не знакомого с «матчастью». Стоит закопаться глубже в какую-то тему, и полезут галлюцинации.
⚠️ Речь идет обо всех свежих моделях и даже агентах, и, по мнению ученых — правильные промты могут смягчить ситуацию, но не способны ее поправить.
При этом админ не против пообщаться на форумах или спросить что-то у нейросети. Только с учетом информационной гигиены:
➖ Помнить, что нейросеть — «восхищенный троечник», воспитанный корпоративными менеджерами. Не ждать от ИИ ничего экстраординарного.
➖ Просить у нейронки ссылки, проверять их и вычитывать оригиналы. Еще лучше — проверять по нескольким источникам с разной позицией.
➖ Не открывать новости об очередной нейросети, которая нас всех поработит или взломает. С таким же успехом вас поработит T-9 или Siri.
Последнее — чистый «апокалиптичный пиар»: его использует руководитель OpenAI Сэм Альтман, и с энтузиазмом применяют в PR-отделе Anthropic (они подарили нам нейросеть-программиста Claude — тоже троечника).
✍️ Михаил
Max VK