09.07.2026 23:00
«Коммерсант»: сумма штрафов, наложенных в разных странах за используемые в судах неверные ссылки от ИИ, уже исчисляется
«Коммерсант»: сумма штрафов, наложенных в разных странах за используемые в судах неверные ссылки от ИИ, уже исчисляется миллионами долларов
Газета опубликовала исследование, основанное, в том числе, на базе «ИИ-галлюцинаций» в судебных процессах, собранной аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном.
Изначально тревогу забили судьи, потому что ИИ стали использовать подзащитные и адвокаты при подготовке к процессам, и в документах стали появляться ссылки на несуществующие решения, акты и искаженные цитаты.
Попытка убедить суд в правильности своей позиции через фальшивые мнения является злоупотреблением, а цитирование ложных выводов с упоминанием имени настоящих судей вредит репутации судебной системы. Судебная система работает лишь тогда, когда и адвокаты, и суды могут полагаться на заявления друг друга, — отмечалось в одном из решений американского суда по подобному делу.
Однако сейчас, пишет газета, «галлюцинации нейросетей» встречаются уже и в документах прокуроров, и даже самих судей.
При этом подход к подобным делам в разных странах разный. Например, в Израиле за подобные действия штрафуют часто, но как правило на небольшие суммы, а в США — реже, но штрафы значительно выше.
Как отмечает газета, в России проблема тоже набирает обороты: юристы утверждают, что суды завалены «низкокачественными процессуальными документами, сгенерированными ИИ». При этом этических стандартов работы с нейросетями пока нет, судебная практика по таким делам пока не наработана, но профильные ведомства изучают возможности взаимодействия с ИИ
Источник: @kontext_channel
Газета опубликовала исследование, основанное, в том числе, на базе «ИИ-галлюцинаций» в судебных процессах, собранной аналитиком и исследователем из Высшей коммерческой школы Парижа Дамьеном Шарлотеном.
Изначально тревогу забили судьи, потому что ИИ стали использовать подзащитные и адвокаты при подготовке к процессам, и в документах стали появляться ссылки на несуществующие решения, акты и искаженные цитаты.
Попытка убедить суд в правильности своей позиции через фальшивые мнения является злоупотреблением, а цитирование ложных выводов с упоминанием имени настоящих судей вредит репутации судебной системы. Судебная система работает лишь тогда, когда и адвокаты, и суды могут полагаться на заявления друг друга, — отмечалось в одном из решений американского суда по подобному делу.
Однако сейчас, пишет газета, «галлюцинации нейросетей» встречаются уже и в документах прокуроров, и даже самих судей.
При этом подход к подобным делам в разных странах разный. Например, в Израиле за подобные действия штрафуют часто, но как правило на небольшие суммы, а в США — реже, но штрафы значительно выше.
Как отмечает газета, в России проблема тоже набирает обороты: юристы утверждают, что суды завалены «низкокачественными процессуальными документами, сгенерированными ИИ». При этом этических стандартов работы с нейросетями пока нет, судебная практика по таким делам пока не наработана, но профильные ведомства изучают возможности взаимодействия с ИИ
Источник: @kontext_channel