30.08.2026 22:23
Самые страшные катастрофы, связанные с ИИ, придут неожиданно.
Самые страшные катастрофы, связанные с ИИ, придут неожиданно.
The Guardian публикует размышления на тему ИИ трёх экспертов: Саймона Нидера, Энтони Харриса и Дэвида Кайлера.
RT собрал главное из материала.
🟩Самые серьёзные угрозы ИИ не проявятся в виде внезапного драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Проблемы будут подступать незаметно, постепенно накапливая критическую массу.
🟩Безопасность будут подрывать тысячи, казалось бы, малозначимых решений о поэтапном снятии барьеров, делегировании задач, разрешении на всё более автономную работу, потому что «до сих пор система работала как надо».
🟩ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать оружие, но итоговое решение будет за человеком.
🟩Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить.
🟩Предлагаются конкретные меры на международном уровне: установить минимальные стандарты безопасности, запретить полностью автономные действия ИИ в высокорисковых зонах.
🟩Нужна чёткая документированная человеческая ответственность за самые значимые решения: кто именно авторизовал то или иное действие. Важен и обязательный международный обмен информацией о серьёзных сбоях и случаях, близких к катастрофе
The Guardian публикует размышления на тему ИИ трёх экспертов: Саймона Нидера, Энтони Харриса и Дэвида Кайлера.
RT собрал главное из материала.
🟩Самые серьёзные угрозы ИИ не проявятся в виде внезапного драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Проблемы будут подступать незаметно, постепенно накапливая критическую массу.
🟩Безопасность будут подрывать тысячи, казалось бы, малозначимых решений о поэтапном снятии барьеров, делегировании задач, разрешении на всё более автономную работу, потому что «до сих пор система работала как надо».
🟩ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать оружие, но итоговое решение будет за человеком.
🟩Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить.
🟩Предлагаются конкретные меры на международном уровне: установить минимальные стандарты безопасности, запретить полностью автономные действия ИИ в высокорисковых зонах.
🟩Нужна чёткая документированная человеческая ответственность за самые значимые решения: кто именно авторизовал то или иное действие. Важен и обязательный международный обмен информацией о серьёзных сбоях и случаях, близких к катастрофе