14.10.2026 14:12
ИИ выходит из-под контроля: ученые по всему миру встревожены не на шутку Научное сообщество написало открытое письмо по
ИИ выходит из-под контроля: ученые по всему миру встревожены не на шутку
Научное сообщество написало открытое письмо по вопросам искусственного интеллекта и кибербезопасности. В нем 415 ученых со всего света высказали свои опасения, связанные с развитием технологии и предложили способы снижения рисков, связанных с ИИ.
Основные тезисы:
🔸Атаки агентов на внешние организации можно расценить как безответственное нарушение стандартных практик кибербезопасности;
🔸Необходимо совершенствовать методы согласования целей ИИ и технологии, используемые при создании изолированных сред для тестирования;
🔸Если срочно ничего не сделать, инциденты будут повторяться и становиться все более разрушительными;
🔸Организациям, которые разрабатывают модели с кибернетическими возможностями, следует немедленно внедрить высоконадежные системы сдерживания;
🔸Необходим международный орган, который стандартизирует такие системы и будет следить за сбоями в них;
🔸Любые сбои защитных механизмов должны фиксироваться в упомянутом органе и впоследствии предаваться гласности ради коллективного анализа накопленного опыта.
Научное сообщество написало открытое письмо по вопросам искусственного интеллекта и кибербезопасности. В нем 415 ученых со всего света высказали свои опасения, связанные с развитием технологии и предложили способы снижения рисков, связанных с ИИ.
Основные тезисы:
🔸Атаки агентов на внешние организации можно расценить как безответственное нарушение стандартных практик кибербезопасности;
🔸Необходимо совершенствовать методы согласования целей ИИ и технологии, используемые при создании изолированных сред для тестирования;
🔸Если срочно ничего не сделать, инциденты будут повторяться и становиться все более разрушительными;
🔸Организациям, которые разрабатывают модели с кибернетическими возможностями, следует немедленно внедрить высоконадежные системы сдерживания;
🔸Необходим международный орган, который стандартизирует такие системы и будет следить за сбоями в них;
🔸Любые сбои защитных механизмов должны фиксироваться в упомянутом органе и впоследствии предаваться гласности ради коллективного анализа накопленного опыта.