⛔️США требуют от Anthropic невозможного: сделать Claude невзламываемым Белый дом поставил Anthropic условие, которое почти невозможно выполнить.
Белый дом поставил Anthropic условие, которое почти невозможно выполнить. Claude Fable 5 вернётся в открытый доступ только после доказательства, что модель нельзя взломать джейлбрейком. Администрация США ссылается на выводы АНБ, согласно которым ограничения модели можно было обойти в темах кибербезопасности, химии и биологии.
Anthropic считает риск завышенным, но спор закрыли. Теперь компания должна сама регулярно искать уязвимости в своих моделях и первой сообщать о них властям. У государства, как признают чиновники, нет ресурсов проверять каждую новую ИИ-систему. Проблема в том, что специалисты по безопасности не верят в непробиваемую защиту языковых моделей: рано или поздно обход находят люди или другие ИИ-инструменты.
Пока Claude Fable 5 держат под запретом, Пентагон уже использует ИИ в боевых операциях. Чат-бот Grok, по словам представителя Минобороны США, помог нанести удары более чем по 2000 целям за 96 часов. Сенаторы требуют запретить применение языковых моделей в решениях о силе без контроля человека.
#ИИ #Anthropic #Кибербезопасность
@SecLabNews