04.09.2026 11:47
#ИИ #ихнравы Каждая третья запись в медкарте с использованием искусственного интеллекта (ИИ) — с ошибкой. На днях в С
#ИИ #ихнравы
Каждая третья запись в медкарте с использованием искусственного интеллекта (ИИ) — с ошибкой.
На днях в СМИ Великобритании появилась новость: пациенты местной службы здравоохранения (NHS) начали сами находить ошибки в записях медкарт, созданных ИИ-секретарями. Системы путали названия лекарств и диагнозы, пропускали важную информацию, причём некоторые ошибки не замечали врачи. В одном случае ИИ фактически поставил противоположный диагноз.
Теперь появились цифры, которые заставляют посмотреть на проблему серьёзнее. Исследователи проверили три коммерческих ИИ-секретаря на одинаковом наборе из 142 консультаций и получили 565 автоматически составленных медицинских записей. В 31,3% — почти в каждой третьей — обнаружилась как минимум одна подтверждённая ошибка. Всего исследователи насчитали 618 ошибок.
Проблемы касались в том числе описания процедур медосмотров. ИИ придумывал данные о пациентах и даже описывал результаты физического осмотра после телефонной консультации, где никакого физического осмотра быть не могло. Правда, есть важная оговорка: исследование пока опубликовано как препринт и не прошло научное рецензирование, поэтому переносить цифру 31,3% на всю реальную медицинскую практику нельзя
Но практический вывод очевиден: ИИ-секретаря нужно обязательно проверять перед сохранением записи в медкарте. Это помощник, который может снять с врача часть рутины, но пока точно не система, которой можно доверить медицинскую документацию по принципу «ИИ записал — значит, всё правильно». Особенно когда цена одной неправильно услышанной частицы «не» — уже другой диагноз.
@medicalksu теперь и в MAX
Каждая третья запись в медкарте с использованием искусственного интеллекта (ИИ) — с ошибкой.
На днях в СМИ Великобритании появилась новость: пациенты местной службы здравоохранения (NHS) начали сами находить ошибки в записях медкарт, созданных ИИ-секретарями. Системы путали названия лекарств и диагнозы, пропускали важную информацию, причём некоторые ошибки не замечали врачи. В одном случае ИИ фактически поставил противоположный диагноз.
Теперь появились цифры, которые заставляют посмотреть на проблему серьёзнее. Исследователи проверили три коммерческих ИИ-секретаря на одинаковом наборе из 142 консультаций и получили 565 автоматически составленных медицинских записей. В 31,3% — почти в каждой третьей — обнаружилась как минимум одна подтверждённая ошибка. Всего исследователи насчитали 618 ошибок.
Проблемы касались в том числе описания процедур медосмотров. ИИ придумывал данные о пациентах и даже описывал результаты физического осмотра после телефонной консультации, где никакого физического осмотра быть не могло. Правда, есть важная оговорка: исследование пока опубликовано как препринт и не прошло научное рецензирование, поэтому переносить цифру 31,3% на всю реальную медицинскую практику нельзя
Но практический вывод очевиден: ИИ-секретаря нужно обязательно проверять перед сохранением записи в медкарте. Это помощник, который может снять с врача часть рутины, но пока точно не система, которой можно доверить медицинскую документацию по принципу «ИИ записал — значит, всё правильно». Особенно когда цена одной неправильно услышанной частицы «не» — уже другой диагноз.
@medicalksu теперь и в MAX