12.09.2026 16:04
Через 6—12 месяцев ИИ сможет захватить весь Интернет и нанести ущерб в сотни миллиардов долларов.
Через 6—12 месяцев ИИ сможет захватить весь Интернет и нанести ущерб в сотни миллиардов долларов.
Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude.
Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь Интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — написал Амодеи в своем блоге.
Глава компании Anthropic также отметил: с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, она «может опередить» способность человека «понимать и контролировать эти системы».
Илон Маск согласился с предложением гендиректора Anthropic Амодеи замедлить темпы развития передовых ИИ-моделей.
Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude.
Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить.
«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь Интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — написал Амодеи в своем блоге.
Глава компании Anthropic также отметил: с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, она «может опередить» способность человека «понимать и контролировать эти системы».
Илон Маск согласился с предложением гендиректора Anthropic Амодеи замедлить темпы развития передовых ИИ-моделей.