13.04.2026 13:12
ИИ в медицине: алгоритмы пропускают 66% критических состояний
Исследователи из США и Бангладеш проверили, как алгоритмы машинного обучения справляются с экстренными случаями в медицине. И полученные ими результаты оказались тревожными.
Выяснилось, что модели, обученные на исторических данных, часто «не ловят мышей»: например, нейросети пропускали 66% критических состояний вроде опасно низкого давления или температуры под 40°C. Один алгоритм даже решил, что пациент с черепно-мозговой травмой (оценка по шкале Глазго 3 из 15) — в полном порядке. Ну подумаешь, просто «день тяжелый».
Чтобы выявить подобные «слепые зоны» ИИ-диагностики, исследователи создали искусственные медицинские сценарии — что-то вроде симулятора апокалипсиса для алгоритмов. Они «подкручивали» показатели до экстремальных значений: например, увеличивали частоту дыхания до 40 вдохов в минуту (как у хомяка после марафона) или опускали температуру тела до 32°C (идеально для хранения суши). Но вместо тревоги модели чаще реагировали как студент на лекции в 8 утра — вяло и без энтузиазма.
Такие ошибки — не просто баги, а прямая угроза жизни. Представьте: алгоритм в реанимации не замечает, что у пациента давление падает, а сатурация стремится к нулю. Время упущено, помощь запаздывает — и это уже нифига не гипотетический сценарий.
Аналогично с диагностикой рака: модели недооценивали риск при опухолях размером с мандарин или пораженных лимфоузлах, словно пытались утешить пациентов: «Да всё нормально, это просто лимфоузел решил стать фруктом».
Что делать? Исследователи предлагают «встроить» в модели базовые знания: например, что давление 70/40 — это очень критично, даже если в датасете таких случаев непропорционально мало.
Еще одно перспективное направление — гибридные системы, где ИИ работает в паре с правилами, заданными врачами. А пока — вывод: слепо доверять алгоритмам нельзя. Они как стажеры-медики — все еще очень нуждаются в строгой проверке и наставничестве!
Источник:https://www.nature.com/articles/s43856-025-00775-0
Выяснилось, что модели, обученные на исторических данных, часто «не ловят мышей»: например, нейросети пропускали 66% критических состояний вроде опасно низкого давления или температуры под 40°C. Один алгоритм даже решил, что пациент с черепно-мозговой травмой (оценка по шкале Глазго 3 из 15) — в полном порядке. Ну подумаешь, просто «день тяжелый».
Чтобы выявить подобные «слепые зоны» ИИ-диагностики, исследователи создали искусственные медицинские сценарии — что-то вроде симулятора апокалипсиса для алгоритмов. Они «подкручивали» показатели до экстремальных значений: например, увеличивали частоту дыхания до 40 вдохов в минуту (как у хомяка после марафона) или опускали температуру тела до 32°C (идеально для хранения суши). Но вместо тревоги модели чаще реагировали как студент на лекции в 8 утра — вяло и без энтузиазма.
Такие ошибки — не просто баги, а прямая угроза жизни. Представьте: алгоритм в реанимации не замечает, что у пациента давление падает, а сатурация стремится к нулю. Время упущено, помощь запаздывает — и это уже нифига не гипотетический сценарий.
Аналогично с диагностикой рака: модели недооценивали риск при опухолях размером с мандарин или пораженных лимфоузлах, словно пытались утешить пациентов: «Да всё нормально, это просто лимфоузел решил стать фруктом».
Что делать? Исследователи предлагают «встроить» в модели базовые знания: например, что давление 70/40 — это очень критично, даже если в датасете таких случаев непропорционально мало.
Еще одно перспективное направление — гибридные системы, где ИИ работает в паре с правилами, заданными врачами. А пока — вывод: слепо доверять алгоритмам нельзя. Они как стажеры-медики — все еще очень нуждаются в строгой проверке и наставничестве!
Источник:https://www.nature.com/articles/s43856-025-00775-0