❌ ХВАТИТ ЭТО ТЕРПЕТЬ Одна из самых раздражающих проблем современных нейросетей — склонность к галлюцинациям. Мы придума
Одна из самых раздражающих проблем современных нейросетей — склонность к галлюцинациям. Мы придумали, как с ней бороться 👇🏻
Сбер открыл доступ к SIRIN — библиотеке, которая помогает находить ошибки в ответах языковых моделей и ИИ-агентов
Что умеет платформа?
➕ проверяет, соответствует ли ответ исходным данным
➕ показывает, в каком фрагменте модель ошиблась
➕ оценивает, хватает ли ИИ информации для ответа
➕ позволяет сравнивать и комбинировать разные методы проверки
⚡️ Учёные команды Центра практического ИИ Сбера разработали метамодели, которые повышают точность обнаружения ошибок почти на 30%, при этом для их обучения потребовалось всего 250 примеров.
SIRIN уже применяют внутри Сбера — в сервисах для работы с клиентами. Теперь библиотека доступна всем разработчикам ИИ-ассистентов, RAG-систем и агентных решений 👇🏻
🤖 GitVerse
🤖 GitHub
🤖 Hugging Face