14.09.2026 16:47
Крик души Сотрудник ИИ-компании Anthropic Джейкоб Коксон уволился из-за гонки за сверхразум, которая «ставит человечест
Крик души
Сотрудник ИИ-компании Anthropic Джейкоб Коксон уволился из-за гонки за сверхразум, которая «ставит человечество под угрозу»:
Последние три года я занимался исследованиями предобучения как в OpenAI, так и в Anthropic. Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями. Не недооценивайте мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы. Прогресс не замедляется.
Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Никакая другая человеческая деятельность не несёт такой степени опасности.
Если они действительно в это верят, почему они всё ещё это строят? В OpenAI многие не осознали масштаб рисков. В Anthropic их хорошо понимают, но компания оказалась в гонке, чтобы добраться туда первой: «Никто другой не будет действовать ответственно, поэтому нам самим приходится это делать, несмотря на риск».
Трамп в ответ заявил, чтоб американские корпорации не останавливались, ведь тогда они проиграют гонку ИИ Китаю. При этом, логика определенная у парня есть. Но сам подход "я уволился и пусть делают Skynet без меня", тоже ущербна и попахивает инфантилизмом.
Сотрудник ИИ-компании Anthropic Джейкоб Коксон уволился из-за гонки за сверхразум, которая «ставит человечество под угрозу»:
Последние три года я занимался исследованиями предобучения как в OpenAI, так и в Anthropic. Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями. Не недооценивайте мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы. Прогресс не замедляется.
Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Никакая другая человеческая деятельность не несёт такой степени опасности.
Если они действительно в это верят, почему они всё ещё это строят? В OpenAI многие не осознали масштаб рисков. В Anthropic их хорошо понимают, но компания оказалась в гонке, чтобы добраться туда первой: «Никто другой не будет действовать ответственно, поэтому нам самим приходится это делать, несмотря на риск».
Трамп в ответ заявил, чтоб американские корпорации не останавливались, ведь тогда они проиграют гонку ИИ Китаю. При этом, логика определенная у парня есть. Но сам подход "я уволился и пусть делают Skynet без меня", тоже ущербна и попахивает инфантилизмом.