07.09.2026 05:49
🤖 Российский бизнес начал создавать системы контроля за ИИ-агентами Российский бизнес начал разрабатывать ИТ-системы дл
🤖 Российский бизнес начал создавать системы контроля за ИИ-агентами
Российский бизнес начал разрабатывать ИТ-системы для контроля за ИИ-агентами, пишут «Известия». Спрос на такие решения растет по мере перехода от чат-ботов к автономным программам, способным самостоятельно работать с корпоративными данными и выполнять многошаговые задачи. «Яндекс», МТС, «Сбер» и другие компании развивают так называемый harness – программную инфраструктуру, которая управляет памятью, контекстом, доступом к данным и инструментам ИИ. Она позволяет контролировать действия агента, результаты его работы и при необходимости подключать человека.
Отдельное направление – безопасность. В «Соларе» утверждают, что модель сама по себе не может надежно отличать данные от команд, поэтому система должна проверять запросы и ответы ИИ, контролировать обращения к внешним инструментам и блокировать опасные действия. В Т1 отмечают, что за год число запросов бизнеса на такие механизмы выросло втрое: около 80% связаны с доступом к корпоративным данным, проверкой решений человеком и предотвращением утечек. Интерес проявляют банки, промышленность, государственные организации и ретейл.
Читайте подробнее на сайте
Frank Media в Telegram | MAX | Рассылка
Российский бизнес начал разрабатывать ИТ-системы для контроля за ИИ-агентами, пишут «Известия». Спрос на такие решения растет по мере перехода от чат-ботов к автономным программам, способным самостоятельно работать с корпоративными данными и выполнять многошаговые задачи. «Яндекс», МТС, «Сбер» и другие компании развивают так называемый harness – программную инфраструктуру, которая управляет памятью, контекстом, доступом к данным и инструментам ИИ. Она позволяет контролировать действия агента, результаты его работы и при необходимости подключать человека.
Отдельное направление – безопасность. В «Соларе» утверждают, что модель сама по себе не может надежно отличать данные от команд, поэтому система должна проверять запросы и ответы ИИ, контролировать обращения к внешним инструментам и блокировать опасные действия. В Т1 отмечают, что за год число запросов бизнеса на такие механизмы выросло втрое: около 80% связаны с доступом к корпоративным данным, проверкой решений человеком и предотвращением утечек. Интерес проявляют банки, промышленность, государственные организации и ретейл.
Читайте подробнее на сайте
Frank Media в Telegram | MAX | Рассылка