РПЦ подключится к проверке отечественного ИИ на соответствие традиционным ценностям.

РПЦ подключится к проверке отечественного ИИ на соответствие традиционным ценностям. Об этом "Осторожно Media" заявил зампред Синодального отдела по взаимоотношениям церкви с обществом и СМИ Вахтанг Кипшидзе.

Для тестирования создадут специальные бенчмарки (эталонные ответы). Независимые лаборатории будут проверять выдачу ИИ и пытаться обойти его ограничения с помощью промпт-инъекций. Пока конкретных критериев проверки нет — над ними предстоит поработать Минцифры, ФСБ и ФСТЭК. Из того, что уже известно: отдельно прописывать нормы морали не будут, их перечень закреплён указом президента № 809.

Зачем нужна проверка ИИ на нравственность? Какие для неё есть критерии? И почему "единый государственный экзамен" для умной машины — та ещё задачка? Раскинули на пальцах далее.

Добровольная этика
В России уже есть общий Кодекс этики в сфере искусственного интеллекта. Подписываться под ним или нет — дело добровольное. Принципы также носят рекомендательный характер.

Мягкое регулирование ИИ через кодексы специалисты признают более эффективным, чем через жёсткие законы. Потому что, во-первых, технология активно развивается, многие практики ещё не устоялись. Во-вторых, большинство рисков, связанных с использованием ИИ, не нуждается в отдельном регулировании. То же мошенничество остаётся мошенничеством — совершил его конкретный человек в офлайне или дипфейк.

Короче говоря, развитие и внедрение самих технологий и так обходится в копеечку. Если прибавятся расходы на тяжёлую регулятивную артиллерию, заниматься всем этим станет практически непосильно.

Принципиальный малый
В идеале ИИ, согласно кодексу, базово должен быть:

• человекоориентированным, то есть признавать человека, его права и свободы наивысшей ценностью;
• соблюдать законы;
• оценивать свои действия с точки зрения рисков для благополучия отдельного человека и человечества в целом;
• быть честным в общении, не притворяться человеком, открыто рассказывать о возможностях, рисках и ограничениях технологий.

Но уже на этом этапе могут возникнуть вопросы. Например, как быть с тем фактом, что этика не универсальна, а ИИ в принципе не знает границ? Алгоритм, созданный в одной стране, может оказаться вредоносным для людей в другой. Международных судов с реальной силой в этой области нет. Кодексы остаются национальными "одеялами", которые невозможно натянуть на чужие кровати.

Что там с традиционными ценностями
В России пошли дальше и разработали порядок проверки больших ИИ-моделей на духовность и нравственность, сообщили "Ведомости". Проверками займутся независимые испытательные лаборатории.

В июне был принят закон, который ввёл два специальных статуса для фундаментальных моделей: суверенный и национальный. Разница между ними в том, что суверенная модель — это полностью российская разработка, где всё делают и хранят внутри страны, а национальная может использовать отдельные зарубежные компоненты с открытой лицензией.

Не все модели, представленные на рынке, должны проходить новую проверку. Только те, которым нужен статус "суверенной/национальной", открывающий разработчикам дополнительные возможности получить господдержку.

Плюс нравственность, минус эффективность? 
В разработке понятных, прозрачных и объективных критериев для проверки много сложностей. Как, например, объяснить машине, что такое "справедливость" или "гражданственность"? Понятия, о которых и среди кожаных-то нет единого мнения.

Или как быть с тем, что разработчики натаскают модель не работать хорошо, а просто быть хорошей, удобной, слишком безопасной? В этом, как предупреждают ИИ-инженеры, и кроется главный риск.

Продукт может получиться "стерильным": технически суверенным, юридически безопасным, нравственно аттестованным, но при этом выдающим только ту информацию, которую от него хотят услышать. Даже если она расходится с реальностью и надевает на пользователя розовые очки. Так что разработчикам проекта есть над чем поломать голову.