09.09.2026 17:15
Вероятность того, что искусственный интеллект приведёт к гибели человечества в ближайшие десять лет, превышает 10%.
Вероятность того, что искусственный интеллект приведёт к гибели человечества в ближайшие десять лет, превышает 10%. Такую личную оценку дал руководитель направления Alignment Science компании Anthropic Эван Хьюбингер.
Исследователь выступил после того, как его коллега Джейкоб Коксон объявил об уходе из Anthropic и ИИ-индустрии. Коксон заявил, что технологические компании слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта.
При этом нынешние ИИ-системы он не считает источником столь масштабной опасности. Основные опасения специалист связывает с будущими суперинтеллектами, способными многократно совершенствовать собственные возможности.
По словам Хьюбингера, Anthropic пытается решить проблему согласования целей таких систем с интересами человека, однако готового способа сделать это пока нет. Скорость развития технологий, отметил исследователь, также оказалась выше прежних ожиданий.
Исследователь выступил после того, как его коллега Джейкоб Коксон объявил об уходе из Anthropic и ИИ-индустрии. Коксон заявил, что технологические компании слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта.
При этом нынешние ИИ-системы он не считает источником столь масштабной опасности. Основные опасения специалист связывает с будущими суперинтеллектами, способными многократно совершенствовать собственные возможности.
По словам Хьюбингера, Anthropic пытается решить проблему согласования целей таких систем с интересами человека, однако готового способа сделать это пока нет. Скорость развития технологий, отметил исследователь, также оказалась выше прежних ожиданий.