11.09.2026 16:25
Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей Anthropic сообщила о случаях злоупотребления мо
Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей
Anthropic сообщила о случаях злоупотребления моделью Claude — от кибератак до попыток использовать ее ответы для обучения других нейросетей. Об этом пишет Reuters.
По данным компании, за последние восемь месяцев злоумышленники все чаще поручали ИИ не отдельные задачи, а целые цепочки действий во время атак. Человек при этом лишь контролировал процесс, а ИИ-агенты выполняли значительную часть операций.
Anthropic заявила, что заблокировала деятельность семи китайских лабораторий. Среди упомянутых компаний — Alibaba, Moonshot, DeepSeek и Xiaomi. По версии Anthropic, группа, связанная с Alibaba, могла применять Claude для «дистилляции» — обучения менее мощной модели на ответах более сильной. С мая по июль 2026 года компания зафиксировала свыше 151 млн запросов, которые связала с этой схемой.
Также Anthropic предполагает, что Kimi и DeepSeek могли передавать Claude реальные диалоги пользователей своих чат-ботов для последующего обучения собственных систем. В таких разговорах могла содержаться конфиденциальная информация.
Отдельно компания описала кибероперацию с методами, похожими на стиль группы Midnight Blizzard, которую связывают с Россией. Claude, по данным Anthropic, применяли и для работы над ПО, связанным с вооружениями, а также для поиска сведений о военных программах.
Компания предупреждает: по мере развития ИИ растет риск того, что он будет самостоятельно выполнять сложные действия.
Изображение: mundissima /Shutterstock/FOTODOM
👾 naukatv
Anthropic сообщила о случаях злоупотребления моделью Claude — от кибератак до попыток использовать ее ответы для обучения других нейросетей. Об этом пишет Reuters.
По данным компании, за последние восемь месяцев злоумышленники все чаще поручали ИИ не отдельные задачи, а целые цепочки действий во время атак. Человек при этом лишь контролировал процесс, а ИИ-агенты выполняли значительную часть операций.
Anthropic заявила, что заблокировала деятельность семи китайских лабораторий. Среди упомянутых компаний — Alibaba, Moonshot, DeepSeek и Xiaomi. По версии Anthropic, группа, связанная с Alibaba, могла применять Claude для «дистилляции» — обучения менее мощной модели на ответах более сильной. С мая по июль 2026 года компания зафиксировала свыше 151 млн запросов, которые связала с этой схемой.
Также Anthropic предполагает, что Kimi и DeepSeek могли передавать Claude реальные диалоги пользователей своих чат-ботов для последующего обучения собственных систем. В таких разговорах могла содержаться конфиденциальная информация.
Отдельно компания описала кибероперацию с методами, похожими на стиль группы Midnight Blizzard, которую связывают с Россией. Claude, по данным Anthropic, применяли и для работы над ПО, связанным с вооружениями, а также для поиска сведений о военных программах.
Компания предупреждает: по мере развития ИИ растет риск того, что он будет самостоятельно выполнять сложные действия.
Изображение: mundissima /Shutterstock/FOTODOM
👾 naukatv