Укрощение ИИ: пять инструментов Папа римский Лев XIV призвал регулировать развитие ИИ и предупредил о рисках для рынка

Укрощение ИИ: пять инструментов

Папа римский Лев XIV призвал регулировать развитие ИИ и предупредил о рисках для рынка труда, человеческого достоинства и контроля над вооружениями. В опубликованной энциклике Magnifica Humanitas Лев XIV совместно с соучредителем Anthropic К.Олахом (что само по себе интересно, учитывая недавний скандал с участием Anthropic, OpenAI и Пентагоном) указывает на то, что именно нужно сделать, но вопросы того, как добиться желаемого игнорируются. Вот пять инструментов контроля нейросетей, которые могут предложить политики:

🟥Реестр алгоритмов. Прежде, чем что-то регулировать, необходимо зафиксировать перечень объектов регулирования. Для этого в рамочных законопроектах необходимо четко прописать базовые понятия, а затем профильные ведомства должны проанализировать текущий рынок и зафиксировать поле.

Политики могут предложить публичный реестр значимых ИИ-систем. В нем должны фиксироваться заказчик, разработчик, сфера применения, тип данных, логика принятия решений, известные ограничения, результаты независимого аудита и лицо, юридически ответственное за последствия.

🟥Приоритет человека. С учетом быстрого развития ИИ необходимо закрепить принцип, по которому человек имеет право на контакт с ответственным лицом для вынесения итогового решения. Например, уже сейчас вы часто не можете пробиться через ИИ-ассистента банка или сотового оператора, чтобы решить свой вопрос. Представьте, если то же самое будет в системе Госуслуг или судопроизводства, если в скором времени нейросети доберутся и туда.

Этот инструмент также можно будет применять и в случае использования ИИ при законотворчестве. Смысл в том, чтобы запретить легитимационный механизм «так решила система». Машина может быть инструментом анализа, но не должна становиться последней инстанцией в вопросах, затрагивающих права и свободы граждан.

🟥Технологический омбудсмен. Необходима инфраструктура контроля соблюдения прав граждан в условиях быстрого развития ИИ. Важно, чтобы это была не протокольная история, а реально действующий институт с полномочиями, который мог бы оперативно реагировать на случаи нарушения прав. Это не только фигура самого омбудсмена, но и структурные подразделения, которые бы отвечали за разные функции – мониторинг, анализ, формирование предложений.

🟥Фонд адаптации к ИИ. Главный социальный риск быстрого развития нейросетей связан не с тем, что люди в экономике станут не нужны в буквальном смысле, а с тем, что значительная часть работников окажется в ситуации резкого обесценивания прежних навыков. На переходный период политики могли бы организовать специальный фонд, который бы пополнялся как за счет госсредств, так и за счет прибыли технологических гигантов, извлекающих сверхприбыль от внедрения новых технологий.

За счет фонда можно было бы финансировать переобучение программы перехода в новые профессии, поддержку работников в отраслях повышенного риска и гранты для компаний, которые не просто сокращают персонал, а переводят его на новые функции. Эту работу нужно вести уже сейчас. Потом может быть поздно.

🟥Оценка воздействия ИИ. Перед внедрением значимых ИИ-систем необходимо проводить предварительную экспертизу их потенциальных последствий. По аналогии с финансово-экономической экспертизой или, например, антикоррупционной экспертизой государство должно заранее оценивать, какие риски создает конкретная инициатива для занятости, персональных данных, цифрового равенства, конкуренции и прав граждан.

Такой механизм особенно важен потому, что последствия внедрения ИИ часто проявляются не сразу. Алгоритм может выглядеть нейтральным, но на практике провоцировать дискриминацию, ошибочно отсекать часть граждан от услуг, усугублять цифровое неравенство.

Пока описанные выше инструменты отсутствуют. Учитывая скорость внедрения ИИ, существуют риски того, что они будут внедрены и отлажены слишком поздно.

Понаблюдаем.