11.09.2026 22:30
🖥️ Бывший исследователь Anthropic Джейкоб Коксон считает, что OpenAI и Anthropic могут уничтожить человечество к 2030 году.
🖥️ Бывший исследователь Anthropic Джейкоб Коксон считает, что OpenAI и Anthropic могут уничтожить человечество к 2030 году.
Интервью с Коксоном на CNN посмотрели более 3 миллионов пользователей YouTube.
"Подобный точный сценарий звучит несколько научно-фантастически, – сказал он. – Кажется, будто это что-то нереальное, но, по-моему, это пугающе реально. И проще всего это понять, если вспомнить вполне реальные события двухмесячной давности. Так вот, два месяца назад ИИ-агенты компании OpenAI взломали стороннюю инфраструктуру исключительно по собственной инициативе. И это была буквально целенаправленная серия взломов, которую они провели совершенно самостоятельно.
И мне кажется, если экстраполировать в будущее уровень возможностей этих систем ИИ при сохранении той же независимой инициативы, они способны устроить масштабнейший хаос. Например, взламывать критически важную инфраструктуру, создавать биологическое оружие судного дня, способное привести к вымиранию человечества. Существует множество путей, которыми искусственный интеллект может проявить себя и воздействовать на реальный мир".
27-летний математик, проработавший три года над предварительным обучением моделей в OpenAI и Anthropic, 8 сентября объявил об увольнении и уходе из индустрии ИИ в целом. В своём посте в X он заявил, что обе компании «мчатся прямо к самосовершенствованию сверхинтеллекта и азартным играм с нашей жизнью».
Далее в своих постах Коксон написал: "Вскоре это будут сверхчеловеческие системы, способные взломать что угодно, революционизировать любую область за одну ночь и получить реальную власть и ресурсы".
Также он заявил, что "люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия":
Пост Коксона за 72 часа набрал более 164 миллионов просмотров. В соцсетях его сравнивают с героем Леонардо ДиКаприо из фильма «Не смотрите наверх» — он пытался донести до людей очевидную угрозу кометы, которая уничтожит Землю, но его никто не воспринимал всерьёз.
Слова Коксона подтвердил Эван Хубингер — руководитель направления Anthropic по согласованию ИИ с человеческими целями и ценностями.
«Джейкоб здесь прав — мы действительно всерьёз считаем, что ИИ может убить всех людей», — заявил он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10% .
Сенатор-республиканец Тед Круз назвал риски ИИ «катастрофическими» и призвал принять меры для защиты от подобных угроз.
Однако он отметил, что приостановить развитие ИИ-технологий – это невыполнимая задача, поскольку США конкурируют с другими странами, которые рвутся вперед. «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские», – сказал Круз.
🇷🇺 Подпишись на Соловьёва!
Интервью с Коксоном на CNN посмотрели более 3 миллионов пользователей YouTube.
"Подобный точный сценарий звучит несколько научно-фантастически, – сказал он. – Кажется, будто это что-то нереальное, но, по-моему, это пугающе реально. И проще всего это понять, если вспомнить вполне реальные события двухмесячной давности. Так вот, два месяца назад ИИ-агенты компании OpenAI взломали стороннюю инфраструктуру исключительно по собственной инициативе. И это была буквально целенаправленная серия взломов, которую они провели совершенно самостоятельно.
И мне кажется, если экстраполировать в будущее уровень возможностей этих систем ИИ при сохранении той же независимой инициативы, они способны устроить масштабнейший хаос. Например, взламывать критически важную инфраструктуру, создавать биологическое оружие судного дня, способное привести к вымиранию человечества. Существует множество путей, которыми искусственный интеллект может проявить себя и воздействовать на реальный мир".
27-летний математик, проработавший три года над предварительным обучением моделей в OpenAI и Anthropic, 8 сентября объявил об увольнении и уходе из индустрии ИИ в целом. В своём посте в X он заявил, что обе компании «мчатся прямо к самосовершенствованию сверхинтеллекта и азартным играм с нашей жизнью».
Далее в своих постах Коксон написал: "Вскоре это будут сверхчеловеческие системы, способные взломать что угодно, революционизировать любую область за одну ночь и получить реальную власть и ресурсы".
Также он заявил, что "люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия":
Пост Коксона за 72 часа набрал более 164 миллионов просмотров. В соцсетях его сравнивают с героем Леонардо ДиКаприо из фильма «Не смотрите наверх» — он пытался донести до людей очевидную угрозу кометы, которая уничтожит Землю, но его никто не воспринимал всерьёз.
Слова Коксона подтвердил Эван Хубингер — руководитель направления Anthropic по согласованию ИИ с человеческими целями и ценностями.
«Джейкоб здесь прав — мы действительно всерьёз считаем, что ИИ может убить всех людей», — заявил он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10% .
Сенатор-республиканец Тед Круз назвал риски ИИ «катастрофическими» и призвал принять меры для защиты от подобных угроз.
Однако он отметил, что приостановить развитие ИИ-технологий – это невыполнимая задача, поскольку США конкурируют с другими странами, которые рвутся вперед. «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские», – сказал Круз.
🇷🇺 Подпишись на Соловьёва!