ИИ-апокалипсис случится в 2030 году с вероятностью 20%.

ИИ-апокалипсис случится в 2030 году с вероятностью 20%. Но это не точно.

Помимо нейрогеддона, нас могут ждать ещё 24 сценария невесёлого будущего, а именно: появление тоталитарного AI-государства, гибель миллионов человек и миллиарды долларов убытков. Виной всему, как выяснили в массачусетском политехе, будет бесконтрольное использование искусственного интеллекта.

Пока у человечества ещё есть время, давайте разбираться, что нам готовит завтрашний день, кому не будет места в киберпанке и, самое главное — кто во всём виноват.

Побег из Шоушенка 
Помните, как совсем недавно ИИ "сбежал" от OpenAI и вырвался с тестового полигона в свободный интернет, где тут же начал атаковать сайты собратьев по разуму?

Это экстраординарное событие вновь запустило разговоры о безопасности и необходимости контролировать AI, в том числе и на уровне государства. В США, например, задумались о создании рубильника, которым в случае чего можно будет отключить ИИ-модели — мы вам об этом уже рассказывали
.

По горячим следам в американском MIT провели исследование с участием 272 экспертов отрасли, главные выводы которого можно описать так: если не ограничивать ИИ, человечеству придёт конец. А теперь — подробности.

Причина тряски?
Вероятность того, что ИИ устроит апокалипсис, эксперты оценили в 10%, причём в любом сценарии. Если же нейронки вообще никак не контролировать, то эта цифра увеличивается до 20%.

Специалисты также составили рейтинг из 24 связанных с ИИ рисков. В топ-5 попали кибератаки с помощью искусственного интеллекта, гонка нейронных вооружений, которая подталкивает компании к выпуску неотлаженных моделей, разработка оружия, включая автономные системы, а также невозможность людей в полной мере контролировать машину.

Отдельно авторы выделяют риски, связанные с ИИ в банковском секторе и в политике. В первом варианте компании, активно внедряющие AI на всех уровнях, становятся критически уязвимыми перед возможным сбоем в его работе. В случае появления нейрогосударства машина может начать принимать решения исходя из чистого прагматизма, без оглядки на эмпатию — со всеми вытекающими.

Может, проскочим?
В исследовании сказано, что без дополнительных мер примерно 18 из 24 пунктов могут привести к катастрофическим последствиям с вероятностью выше 10% уже к 2030 году. Под "катастрофой" в материале понимались гибель более миллиона человек, материальный ущерб на сумму свыше $100 млрд, а также "нематериальные последствия цивилизационного масштаба", приводящие к радикальной смене жизненного уклада.

Человеки — на выход
В исследовании также содержится анализ наиболее уязвимых перед ИИ отраслей экономики.

Хуже всего себя показала информационная безопасность, уязвимая перед кибератаками. Следом идёт финансовый сектор, а лучшие показатели вышли у сферы культуры и развлечений, сельского хозяйства, обрабатывающей промышленности и ресторанного бизнеса. Кажется, люди всё ещё не готовы доверять робоповарам.

Риск потери работы в эпоху киберпанка всё ещё остаётся одним из главных футурологических страхов человека. В целом же ИИ вызывает стресс у 52% населения, выяснили всё те же американцы, в 2022 году таких переживающих было 39%.

Кто виноват?
В случае, если ИИ всё же ЖАХНЕТ, вы вряд ли найдёте того, на кого можно будет показать пальцем и во всём обвинить.

По мнению экспертов, ответственность за нейробудущее распределяется как между разработчиками и компаниями, которые внедряют ИИ, так и между операторами и владельцами систем, отвечающими за эксплуатацию технологий. Свою долю ответственности несут и пользователи, которые сознательно игнорируют ограничения системы и применяют ИИ неправильно.

Так что просто взять и обвинить условных Маска с Тилем не выйдет — каяться за мир победившего "Скайнета" будем все вместе. Ну это если живы останемся.