26.08.2026 12:18
Сара Коннор может спать спокойно Машины не восстанут. Science опубликовал аналитику учёных из разных дисциплин про ИИ.
Сара Коннор может спать спокойно
Машины не восстанут.
Science опубликовал аналитику учёных из разных дисциплин про ИИ. Для них большие модели — вовсе не зачаток разума.
Это культурная система, стоящая в одном ряду с письменностью, печатным станком, рынком и бюрократией.
Следите за руками.
Что делает рынок?
Сжимает всю сложность экономики в одно число — цену. Покупателю не нужно знать про урожай, логистику и биржу.
Что делает бюрократия?
Сжимает живых людей в категории: граждане, резиденты, люди с разрешением или без него, с правами или без них.
Что делает языковая модель?
Сжимает массив человеческих текстов, изображений и знаний в систему, которой можно задать вопрос.
И тут важно понимать: любое такое сжатие ведёт к искажению.
Модель сильнее всего там, где данных много, и слабее всего — в редком, новом, непривычном. Так уж она устроена: алгоритм воспроизводит вероятности, а вероятность — это про частое.
Поэтому модель не отражает культуру.
А усредняет.
Того же боялся Макс Вебер в бюрократии: система формальных правил не замечает всё, что в правила не укладывается. Проще говоря, без бумажки ты букашка, система тебя не видит.
Ровно так же ИИ не видит уникальность, зато помогает производить однотипные видео, тексты и баннеры.
Мы получили инструмент, который на любой вопрос выдаёт самый вероятный ответ. И чем чаще мы к нему обращаемся, тем шаблоннее рассуждаем сами.
Машины не восстанут.
Машинами станем мы.
Машины не восстанут.
Science опубликовал аналитику учёных из разных дисциплин про ИИ. Для них большие модели — вовсе не зачаток разума.
Это культурная система, стоящая в одном ряду с письменностью, печатным станком, рынком и бюрократией.
Следите за руками.
Что делает рынок?
Сжимает всю сложность экономики в одно число — цену. Покупателю не нужно знать про урожай, логистику и биржу.
Что делает бюрократия?
Сжимает живых людей в категории: граждане, резиденты, люди с разрешением или без него, с правами или без них.
Что делает языковая модель?
Сжимает массив человеческих текстов, изображений и знаний в систему, которой можно задать вопрос.
И тут важно понимать: любое такое сжатие ведёт к искажению.
Модель сильнее всего там, где данных много, и слабее всего — в редком, новом, непривычном. Так уж она устроена: алгоритм воспроизводит вероятности, а вероятность — это про частое.
Поэтому модель не отражает культуру.
А усредняет.
Того же боялся Макс Вебер в бюрократии: система формальных правил не замечает всё, что в правила не укладывается. Проще говоря, без бумажки ты букашка, система тебя не видит.
Ровно так же ИИ не видит уникальность, зато помогает производить однотипные видео, тексты и баннеры.
Мы получили инструмент, который на любой вопрос выдаёт самый вероятный ответ. И чем чаще мы к нему обращаемся, тем шаблоннее рассуждаем сами.
Машины не восстанут.
Машинами станем мы.