14.09.2026 10:28
Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ Гендиректор Anthropic Дарио Амодеи призвал замедлить развити
Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ
Гендиректор Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей и усилить контроль за их созданием. В своей статье он заявил, что риски становятся слишком серьезными, а компаниям и правительствам нужно время, чтобы научиться их снижать.
В сентябре компанию покинули двое ведущих разработчиков. Один из них, Джейкоб Коксон, заявил прямо: без торможения «есть большая вероятность, что мы все можем погибнуть в ближайшем будущем».
Амодеи предложил три меры: независимый мониторинг, отраслевое и глобальное регулирование. Илон Маск и Сэм Альтман неожиданно согласились.
Так же он привел примеры, когда Anthropic и OpenAI, по его словам, задерживали выпуск моделей из-за опасных способностей: попыток выйти за пределы тестовой среды или самостоятельно искать и использовать уязвимости.
Скептики, впрочем, указывают, что и Anthropic, и OpenAI готовятся к рекордным IPO. Так что тревожные заявления ИИ-компаний могут быть и частью конкурентной борьбы.
Изображение: Shutterstock AI/Shutterstock/FOTODOM
👾 naukatv
Гендиректор Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей и усилить контроль за их созданием. В своей статье он заявил, что риски становятся слишком серьезными, а компаниям и правительствам нужно время, чтобы научиться их снижать.
В сентябре компанию покинули двое ведущих разработчиков. Один из них, Джейкоб Коксон, заявил прямо: без торможения «есть большая вероятность, что мы все можем погибнуть в ближайшем будущем».
Амодеи предложил три меры: независимый мониторинг, отраслевое и глобальное регулирование. Илон Маск и Сэм Альтман неожиданно согласились.
Так же он привел примеры, когда Anthropic и OpenAI, по его словам, задерживали выпуск моделей из-за опасных способностей: попыток выйти за пределы тестовой среды или самостоятельно искать и использовать уязвимости.
Скептики, впрочем, указывают, что и Anthropic, и OpenAI готовятся к рекордным IPO. Так что тревожные заявления ИИ-компаний могут быть и частью конкурентной борьбы.
Изображение: Shutterstock AI/Shutterstock/FOTODOM
👾 naukatv