🧠 Alibaba открыла «рентген» для Qwen Alibaba выпустила Qwen-Scope — открытый набор sparse autoencoders для моделей семе
Alibaba выпустила Qwen-Scope — открытый набор sparse autoencoders для моделей семейства Qwen. Инструмент позволяет заглянуть внутрь нейросети и увидеть, какие внутренние признаки отвечают за стиль, тему, язык, тон ответа и типичные сбои.
Поведение модели можно изучать и менять не только промптами, а через её внутренние активации.
Что это даёт:
- Точное управление стилем, темой и форматом ответа
- Поиск причин багов (языковое переключение, повторы, странные вставки)
- Быстрый сбор редких кейсов для дообучения и тестов
- Понимание реальной ценности бенчмарков
Раньше такие подходы ассоциировались с исследованиями Anthropic вокруг Claude. Теперь похожий уровень прозрачности — в открытом доступе для Qwen.
Веса доступны на HuggingFace и ModelScope.
🧠 Нейросети и Технологии. Подписаться