09.09.2026 19:22
Инженер ушел из Anthropic, обвинив ИИ-гигантов в создании угрозы для человечества Инженер Джейкоб Коксон, занимавшийся
Инженер ушел из Anthropic, обвинив ИИ-гигантов в создании угрозы для человечества
Инженер Джейкоб Коксон, занимавшийся предобучением моделей в OpenAI и Anthropic, уволился из индустрии и заявил о риске потери контроля над технологией. По его оценке, разработчики слишком быстро приближаются к созданию самосовершенствующихся систем, способных взламывать инфраструктуру и самостоятельно захватывать ресурсы.
Коксон отметил разницу в подходах топ-менеджмента. В OpenAI многие сотрудники не осознают масштаб угроз, а в Anthropic риски понимают, но вынуждены участвовать в гонке из-за конкуренции. При этом в частных разговорах руководители обеих компаний оценивают опасность катастрофических сценариев гораздо выше, чем декларируют публично.
В качестве меры предосторожности инженер предложил ввести временный мораторий на наращивание мощности моделей, если IT-гиганты не смогут договориться о международных стандартах безопасности.
Инженер Джейкоб Коксон, занимавшийся предобучением моделей в OpenAI и Anthropic, уволился из индустрии и заявил о риске потери контроля над технологией. По его оценке, разработчики слишком быстро приближаются к созданию самосовершенствующихся систем, способных взламывать инфраструктуру и самостоятельно захватывать ресурсы.
Коксон отметил разницу в подходах топ-менеджмента. В OpenAI многие сотрудники не осознают масштаб угроз, а в Anthropic риски понимают, но вынуждены участвовать в гонке из-за конкуренции. При этом в частных разговорах руководители обеих компаний оценивают опасность катастрофических сценариев гораздо выше, чем декларируют публично.
В качестве меры предосторожности инженер предложил ввести временный мораторий на наращивание мощности моделей, если IT-гиганты не смогут договориться о международных стандартах безопасности.