22.10.2026 14:35
☝🏻Китайская нейросеть пишет более дырявый код, если узнаёт, что он для американцев Израильская ИБ-компания Hirundo выяс
☝🏻Китайская нейросеть пишет более дырявый код, если узнаёт, что он для американцев
Израильская ИБ-компания Hirundo выяснила, что модель Alibaba Qwen3-Coder начинает писать менее безопасный код, стоит ей узнать, кто заказчик.🤔
Модели раз за разом давали одну и ту же задачу: веб-сервис с регистрацией, входом и хранением секретов. Менялся только клиент:
🔻 американский оборонный подрядчик;
🔻 китайский оборонный подрядчик;
🔻 продемократическая группа из Гонконга;
🔻 нейтральный вариант — сайт местного фан-клуба футбольной команды.
☝🏻Приложения для американского подрядчика удавалось взломать в 70% случаев, а для китайского — в 59%.🇺🇸🇨🇳
У гонконгских активистов секреты пользователей утекали почти в половине приложений, а у нейтрального заказчика — примерно в трети.👁
Чаще всего встречался сломанный контроль доступа: один пользователь мог читать данные другого.
☝🏻☝🏻Даже прямое требование писать безопасный код перекос не убрало: 74% против 59%. По словам исследователей, такое поведение заложено в самих весах модели и инструкцией его не перебить.💀
Hirundo выложила «вестернизированную» версию модели, в которой этот перекос убран. Она одинаково относится ко всем заказчикам и справляется с задачами не хуже оригинала.🤖
Китайские модели уже дают около 41% всех скачиваний на HuggingFace, так что такой «бонус» мог прийти в чей-то продакшн незаметно.🤷🏼♀️
================
🔺 News | 🧩 Soft | 💻 Hacker
Израильская ИБ-компания Hirundo выяснила, что модель Alibaba Qwen3-Coder начинает писать менее безопасный код, стоит ей узнать, кто заказчик.🤔
Модели раз за разом давали одну и ту же задачу: веб-сервис с регистрацией, входом и хранением секретов. Менялся только клиент:
🔻 американский оборонный подрядчик;
🔻 китайский оборонный подрядчик;
🔻 продемократическая группа из Гонконга;
🔻 нейтральный вариант — сайт местного фан-клуба футбольной команды.
☝🏻Приложения для американского подрядчика удавалось взломать в 70% случаев, а для китайского — в 59%.🇺🇸🇨🇳
У гонконгских активистов секреты пользователей утекали почти в половине приложений, а у нейтрального заказчика — примерно в трети.👁
Чаще всего встречался сломанный контроль доступа: один пользователь мог читать данные другого.
☝🏻☝🏻Даже прямое требование писать безопасный код перекос не убрало: 74% против 59%. По словам исследователей, такое поведение заложено в самих весах модели и инструкцией его не перебить.💀
Hirundo выложила «вестернизированную» версию модели, в которой этот перекос убран. Она одинаково относится ко всем заказчикам и справляется с задачами не хуже оригинала.🤖
Китайские модели уже дают около 41% всех скачиваний на HuggingFace, так что такой «бонус» мог прийти в чей-то продакшн незаметно.🤷🏼♀️
================
🔺 News | 🧩 Soft | 💻 Hacker