С начала июля в Швейцарии прошло аж три крупных мероприятия ООН, посвященных будущему развитию управления технологией искусственного интеллекта.
1️⃣ Цифровой и ИИ-разрыв. Дело не только в доступе к интернету. Странам нужны вычислительные мощности, облачные сервисы, данные, передовые модели, квалифицированные кадры, финансирование, эксперты по регулированию и испытательные центры. Бывает так: у страны есть технический доступ к ИИ-инструментам, но она не может их оценить, адаптировать под свои задачи, проконтролировать или при необходимости заменить.
2️⃣ Нехватка проверенных фактов. Многие обещания о пользе, безопасности и экологичности ИИ пока невозможно подтвердить на практике.
3️⃣ Экологический след. ИИ потребляет огромное количество электроэнергии и воды, требует полупроводников, редких минералов, а также строительства крупных центров обработки данных. Важно смотреть на всю цепочку — от производства до утилизации.
4️⃣ Сверхконцентрация власти. Самые мощные чипы, облачные платформы, базовые модели, данные и исследовательские ресурсы сосредоточены в руках буквально нескольких компаний и стран. По данным МСЭ, специализированные ИИ-центры есть только в 32 государствах, а на развивающиеся страны (без учёта Китая) приходится менее 10% мировых вычислительных мощностей. Это создаёт зависимость, диктует неравные условия и практически оставляет развивающийся мир за бортом.
5️⃣ Разнобой в законах. Национальные законодательства, региональные нормы, отраслевые стандарты и корпоративные кодексы развиваются с разной скоростью и часто используют разные определения — единой системы просто нет.
6️⃣ Человеческий фактор и ответственность. Наиболее остро стоят вопросы приватности, дискриминации, прозрачности, возможности обжаловать решения ИИ и, главное, того, кто понесёт ответственность, если система причинит вред.
7️⃣ Слабость государственных институтов. У многих правительств просто не хватает компетенций, чтобы закупать, проверять, регулировать или безопасно эксплуатировать ИИ-системы. Технологии внедряются быстрее, чем чиновники успевают оценить риски. Это особенно опасно в здравоохранении, образовании, при выдаче цифровых удостоверений, в государственном управлении и на критически важных объектах.