Алгоритмы ИИ грозят неверной диагностикой для женщин и чернокожих

Алгоритмы ИИ грозят неверной диагностикой для женщин и чернокожих

В журнале JAMA было опубликовано исследование, которое показало, что искусственный интеллект (ИИ) менее точно ставит диагнозы женщинам и чернокожим пациентам.

Однако учёные нашли способ исправить эту проблему.

В исследовании использовались рентгеновские снимки грудной клетки пациентов из Бостона. Благодаря этим снимкам ИИ обучали выявлять накопление жидкости в лёгких, коллапс лёгкого и увеличение сердца. Затем алгоритмы протестировали на других рентгеновских снимках.

Хотя алгоритмы показали достаточную точность, большинство из них оказались менее эффективны для женщин и чернокожих пациентов. Удивительно, но ИИ смог предсказать пол, расу и возраст пациентов, что не всегда удаётся людям-рентгенологам.

Исследователи выяснили, что предвзятость алгоритмов можно уменьшить, если переобучить модели. Один из способов — удалить всю информацию о поле, возрасте и расе из изображений. Также важно проводить переобучение ИИ на данных пациентов из той больницы, где будут использовать алгоритм.

Таким образом, корректировка обучения ИИ позволяет сделать его более справедливым и точным для всех групп пациентов.

Источник: gazeta.ru

Science XXI