Деградация человеческих смыслов: отзыв на «Рашу»

ДЕГРАДАЦИЯ ЧЕЛОВЕЧЕСКИХ СМЫСЛОВ
(Как искусственный интеллект становится фоном для человеческой катастрофы)

Это персональный блог, и я, конечно, стараюсь здесь писать всё хорошее про себя, своих друзей, свои проекты, книжки.

Негатив я учитываю, но вычищаю. Зачем мне ещё и дома неприятности. Но есть критические отзывы и письма, мимо которых, как мне кажется, я не могу пройти.

Этот отзыв написал мой коллега. Инвестор крупного ИТ-холдинга. Это — отзыв на «Рашу». Сам парень сидит с семьёй в Уругвае (по уважительным бизнес-причинам) и просил фамилию не писать.

«Ольга, привет! Читал твою „Рашу“ и думал, что в эпоху ИИ предельно обнажилась деградация (именно деградация, полная несостоятельность) человеческих смыслов. И ты невольно вытащила это в „Раше“ и начала тыкать таким в лицо читателю.

Мы научили машины думать. Но забыли научиться жить сами. Почему книженция о будущем ИИ, написанная Матерью Терминаторов (ты извини, но так оно и есть в „Раше“), неожиданно оказалась книгой о человеческой катастрофе?

Последние два года мы все в этом мире живём в странном состоянии эйфории вымирающих идиотов.
Каждую неделю появляются новости:
— новая нейросеть пишет код лучше junior-разработчика;
— ИИ рисует лучше дизайнеров;
— LLM заменяют отделы поддержки;
— роботы от «Когнитив Пилот» обрабатывают поля;
И т.д. и т.п.

Ощущение, что AGI уже «где-то рядом», а сингулярность вот-вот постучится в дверь.
Tech-рынок снова продаёт нам красивую мечту: машины скоро решат все проблемы. Но остался один неудобный вопросик.
А что, если главная проблема человечества никогда не была технологической?
Что, если мы создаём всё более совершенный ИИ, оставаясь цивилизационно незрелыми существами?

Именно про это я прочёл в твоей нашумевшей книжке «РАША».

Ты всегда была — «не как все». Твой ИИ в романе не выглядит фантастическим аттракционом.
В большинстве книг, которые я читал: ИИ — главный герой. Либо он уничтожает человечество, либо спасает его. Старая схема.

В «РАШЕ» всё намного страшнее. Здесь ИИ — не монстр. Он уже встроен в реальность. Развивается. Влияет на всё. На безопасность. На власть. На войну.
Но при этом главный вопрос в романе ведь не про релокантов (я изучил отзывы на книжку. Все — только про это и пишут. Отстаньте уже от нас! Займитесь реальными проблемами). Главный вопрос романа звучит иначе:
Если машины становятся умнее — почему люди становятся слабее?

Главный герой — человек новой реальности.
Глеб — нейронный программист. Он работает с передовыми технологиями. Живёт в логике рациональности. Верит в технологическую эволюцию.
По сути — типичный герой современной tech-среды. Такой же, как мы. Как моя команда.
Глобальный, ироничный, цифровой.
Мы верим, что хаос можно оптимизировать.
Что мир рационален.
А потом мир приходит к нам и ломает все наши построения одним телефонным звонком.

Настоящая катастрофа приходит не через Skynet.
Она является через человеческую жестокость, ненависть и войну.
Уже с первых страниц ты впускаешь смерть.
Любимая женщина героя погибает. Его привычная картина мира рушится. ИИ не может отменить смерть. С тленом и гробом в самолёте.

Сегодня огромное количество людей в tech-среде живёт с ощущением: «мы строим будущее».
Но вот вопрос:
а кто именно строит это будущее?

продолжение ниже