Сотрудник ИИ-компании Anthropic Джейкоб Коксон уволился из-за гонки за сверхразум, которая «ставит человечество под угрозу».
Последние три года он занимался исследованиями предобучения как в OpenAI, так и в Anthropic и заявил, что ни одна из компаний не действует ответственно.
При этом люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Но из-за гонки никто не может остановится.
А ИИ тем временем действительно стремительно развивается. Например, ИИ-модель OpenAI за 88 часов нашла решение проблемы существования и гладкости решений уравнений Навье — Стокса, входящей в список «задач тысячелетия».
Для этого компания задействовала систему из 10 тыс. агентов, которые обменялись 2,7 млн сообщений и сгенерировали 130 млрд токенов, что эквивалентно объему порядка миллиона книг.