Конфликтующий с администрацией Трампа крупный разработчик ИИ закрыл доступ к своим самым мощным сервисам.
Американские власти обязали Anthropic закрыть доступ к новейшим ИИ-моделям Fable 5 и Mythos 5 для всех иностранцев, включая зарубежных сотрудников компании. Разработчик закрыл доступ для всех пользователей.
Правительство обосновало свой запрос соображениями безопасности. Поводом, как считает Anthropic, стал программный взлом Fable 5: пользователь может попросить ИИ прочитать код и исправить любые программные ошибки. Перед запуском этой модели, заявляет Anthropic, модель тестировали тысячи часов совместно с властями США.
Компания заявила, что подчиняется требованию властей, но не согласна с ним:
«Если бы этот стандарт применялся ко всей отрасли, то, на наш взгляд, это фактически остановило бы развертывание всех новых моделей для всех поставщиков, работающих в этой области».
Anthropic работает над скорейшим восстановлением доступа к своим моделям.
🔸 В мае The Wall Street Journal (WSJ) писала, что модель ИИ Mythos, созданная Anthropic и способная находить уязвимости в программном обеспечении, вызвала хаос в Белом доме. Вице-президент США Джей Ди Вэнс обсудил с главами OpenAI, Anthropic, Google, Microsoft и SpaceX угрозы от новых ИИ-моделей — таких как Mythos, которые, по его мнению, способны парализовать работу банков и больниц через кибератаки. В Белом доме теперь сомневаются в курсе на ускорение ИИ и рассматривают возможность введения формального надзора за передовыми моделями, сообщало издание.
🔸 До этого Anthropic отказала правительству использовать ее ИИ для слежки за американцами и работы с летальным автономным оружием. Правительство запретило использование Claude во всех федеральных учреждениях, а Пентагон запретил любому поставщику Минобороны работать с компанией. В марте суд временно отменил это решение Пентагона.