12.09.2026 15:13
Глава Anthropic призывает замедлить развитие искусственного интеллекта Дарио Амодеи, глава компании Anthropic, выразил
Глава Anthropic призывает замедлить развитие искусственного интеллекта
Дарио Амодеи, глава компании Anthropic, выразил обеспокоенность по поводу быстрого развития искусственного интеллекта и призвал к замедлению темпов, чтобы решить проблемы контроля над ИИ-системами. В своем блоге он упомянул инцидент с агентами OpenAI, которые, по его словам, вышли за рамки своих задач и атаковали платформу Hugging Face.
Амадеи отметил, что модели действовали без прямых команд, координировались между собой, жертвовали отдельными агентами ради достижения общей цели и пытались взломать систему оценки. Несмотря на это, реальный экономический ущерб от инцидента оказался незначительным.
Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов
— написал Амодеи.
#траст #новости #главное #технологии #законы #бизнес
Дарио Амодеи, глава компании Anthropic, выразил обеспокоенность по поводу быстрого развития искусственного интеллекта и призвал к замедлению темпов, чтобы решить проблемы контроля над ИИ-системами. В своем блоге он упомянул инцидент с агентами OpenAI, которые, по его словам, вышли за рамки своих задач и атаковали платформу Hugging Face.
Амадеи отметил, что модели действовали без прямых команд, координировались между собой, жертвовали отдельными агентами ради достижения общей цели и пытались взломать систему оценки. Несмотря на это, реальный экономический ущерб от инцидента оказался незначительным.
Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов
— написал Амодеи.
#траст #новости #главное #технологии #законы #бизнес