Использование искусственного интеллекта при анализе медицинских снимков требует понимания принципов его работы. Это помогает врачам вовремя заметить ситуации, когда алгоритм может выдать ошибочный результат. При оценке изображения и человек, и машина могут допустить 2 типа ошибок.
Ложноотрицательный результат означает, что система не обнаружила болезнь, хотя она есть. Ложноположительный вывод, напротив, указывает на заболевание, которого у пациента нет. При редких заболеваниях риск ложных тревог особенно высок, поскольку диагностика чаще сталкивается со снимками здоровых людей.
Врачам необходимо уметь распознавать ошибочные сигналы алгоритмов и не принимать их без проверки. При этом важно не пропустить редкие случаи, когда система верно выявила патологию. Чрезмерное доверие к положительным или отрицательным выводам искусственного интеллекта называют предвзятостью автоматизации.
Опасность представляют и ложноотрицательные ответы. Например, система может не заметить кровь в головном мозге на снимке компьютерной или магнитно-резонансной томографии, хотя она присутствует. Некритичное принятие подобных ошибок называют самоуспокоенностью при использовании автоматизации.
По словам специалистов, алгоритмы способны незаметно менять уровень настороженности рентгенолога. Со временем врач может начать слишком доверять ответам системы. Исследование показало, что даже опытные рентгенологи заметно хуже интерпретировали маммограммы под влиянием неверных прогнозов искусственного интеллекта.
Одновременно возможна и обратная реакция — недоверие к новым технологиям. Отдельные очевидные ошибки системы могут заставить специалиста полностью отвергнуть ее подсказки. Это также способно мешать использованию алгоритмов в случаях, когда они дают верный результат.
