❓ Кажется, Оруэлл опять написал книгу про сегодняшний день.
Статистика книжных магазинов выглядит как точный диагноз современному обществу. Роман «1984» внезапно взлетел на третье место в топе продаж, причем издательства рапортуют о сотнях тысяч напечатанных экземпляров за первые полгода. Покупатели смели с полок почти двадцать тысяч книг только в одной крупной сети и вернули полузабытую классику на вершину рейтинга впервые за несколько лет.
Книгоделы напрямую связывают ажиотаж с тем, как быстро умнеют машины. Нейросети научились создавать пугающе правдоподобные тексты и искусно подделывать лица, пока корпорации жадно выкачивают личные данные. Граница между фактами и качественной фальшивкой окончательно стерлась, поэтому народ ищет в старой фантастике ответы на вполне реальные угрозы массовой слежки.
Мы слишком увлеклись разработкой сложных систем и забыли про доверие. Людям нужны не просто эффективные алгоритмы, им нужны алгоритмы, которым можно доверять. Если мы не сможем сделать искусственный интеллект предсказуемым и безопасным, то страх перед технологиями окончательно затормозит технический прогресс. Нам предстоит научиться объяснять логику работы ИИ простым языком, иначе Оруэлл так и останется в топе продаж, как напоминание о том, как быстро цивилизация может скатиться в цифровой ад.
#антиутопия, #оруэлл, #контрольданных @SecLabnews