Ещё два AI-исследователя ушли из Anthropic и Google, опасаясь неконтролируемого развития ИИ.
Они заявили о растущих рисках, связанных с быстрым развитием передовых AI-систем, компании недостаточно прозрачно рассказывают о случаях, когда модели выходят за рамки заданных человеком инструкций.
Дальнейший прогресс в области ИИ способен резко ускориться, считает Джо Бентон, ранее руководивший командой по AI-безопасности в Anthropic:
Развитие исследований в области ИИ может ускорить темпы прогресса с нынешних просто ошеломляющих до неконтролируемых.
Джош Энгелс, занимавшийся исследованиями в области безопасности ИИ в Google, отметил недостаток внешнего контроля за происходящим в индустрии:
В комнате нет взрослых. Люди стараются изо всех сил, но никто не придёт нас спасать.
🇷🇺Дмитрий Никотин. Подпишись на МАХ канал!