02.07.2026 11:34
ООН: бесконтрольное развитие ИИ может привести к катастрофе
🤔 Действительно ли развитие искусственного интеллекта (ИИ) может привести к катастрофическим последствиям?
Да. Как сообщает спецпроект ТАСС и СМИ2 «ТАСС_Аналитика», этому вопросу посвящен предварительный доклад независимой международной научной группы ООН по искусственному интеллекту.
«В перспективе разрыв между стремительно растущими функциональными возможностями [ИИ-продуктов] и наличием эффективных методов управления рисками может привести к катастрофическим результатам», — говорится в тексте доклада.
Эксперты ООН подчеркивают, что не существует научных гарантий соблюдения высокоавтономными ИИ-системами полученных инструкций. В ходе лабораторных экспериментов исследователи уже фиксировали случаи, когда такие системы нарушали заданные правила безопасности.
🧑💻 Более того, из-за совершенствования технологий злоумышленники используют ИИ для мошенничества, кибератак, манипулирования финансовыми рынками и в сфере биотехнологий.
При этом авторы доклада обращают внимание, что ИИ способен существенно увеличить возможности человека через развитие ассистивных технологий, персонализированного образования и инструменты поддержки психического здоровья.
🌍 ООН считает, что для безопасного внедрения таких технологий необходимы эффективные механизмы международного регулирования. В противном случае эксперты опасаются усиления неравенства, эксплуатации уязвимых групп населения, а также постепенной утраты экспертных знаний и культурного наследия.
Межправительственная научная группа по ИИ была создана ООН летом 2025-го. Она состоит 40 независимых ученых и экспертов из всех пяти региональных групп ООН.
Да. Как сообщает спецпроект ТАСС и СМИ2 «ТАСС_Аналитика», этому вопросу посвящен предварительный доклад независимой международной научной группы ООН по искусственному интеллекту.
«В перспективе разрыв между стремительно растущими функциональными возможностями [ИИ-продуктов] и наличием эффективных методов управления рисками может привести к катастрофическим результатам», — говорится в тексте доклада.
Эксперты ООН подчеркивают, что не существует научных гарантий соблюдения высокоавтономными ИИ-системами полученных инструкций. В ходе лабораторных экспериментов исследователи уже фиксировали случаи, когда такие системы нарушали заданные правила безопасности.
🧑💻 Более того, из-за совершенствования технологий злоумышленники используют ИИ для мошенничества, кибератак, манипулирования финансовыми рынками и в сфере биотехнологий.
При этом авторы доклада обращают внимание, что ИИ способен существенно увеличить возможности человека через развитие ассистивных технологий, персонализированного образования и инструменты поддержки психического здоровья.
🌍 ООН считает, что для безопасного внедрения таких технологий необходимы эффективные механизмы международного регулирования. В противном случае эксперты опасаются усиления неравенства, эксплуатации уязвимых групп населения, а также постепенной утраты экспертных знаний и культурного наследия.
Межправительственная научная группа по ИИ была создана ООН летом 2025-го. Она состоит 40 независимых ученых и экспертов из всех пяти региональных групп ООН.