США потребовали от Anthropic отключить две флагманские ИИ-модели Правительство США распорядилось экстренно отключить две флагманские ИИ-модели Anthrop…
Правительство США распорядилось экстренно отключить две флагманские ИИ-модели Anthropic - Fable 5 и Mythos 5. Директива пришла 12 июня со ссылкой на экспортный контроль и угрозу национальной безопасности. Причиной стал предполагаемый джейлбрейк Fable 5, то есть способ обойти встроенные ограничения и заставить модель отвечать на запросы, которые она должна отклонять.
Anthropic утверждает, что речь не об универсальном взломе, а об узком приёме для анализа конкретной кодовой базы и исправления ошибок. Компания напоминает, что похожие задачи выполняют и другие общедоступные модели без обхода защит. Перед запуском Fable 5 её безопасность тысячи часов проверяли вместе с госструктурами США, британским Институтом безопасности ИИ и независимыми экспертами.
Несмотря на несогласие, Anthropic подчинилась директиве и отключает Fable 5 и Mythos 5 для всех клиентов. Остальные модели продолжают работать. Компания собирается оспорить решение и вернуть доступ к отключённым моделям.
#Anthropic #ИИ #нейросети
@SecLabNews