Генеративный искусственный интеллект может ускорить поиск перспективных лекарств и помочь учёным разбирать большие массивы биологических данных. Одновременно такие системы способны создавать правдоподобные, но не соответствующие действительности результаты. В биологических исследованиях это может привести к появлению ложных молекулярных закономерностей и неверных выводов.
Возможности генеративного ИИ изучил вычислительный биолог Томас Бургер из Университета Гренобль-Альпы во Франции. Он рассмотрел 10 вариантов применения технологии, включая разработку белков, моделирование клеток и восполнение недостающих данных экспериментов. Его работа опубликована в журнале Patterns.
Относительно меньший риск связан с предварительным отбором лекарственных кандидатов или белков. Алгоритм может быстро оценить множество вариантов и предложить ограниченный список для дальнейшей проверки в лаборатории. Ошибка в таком случае способна привести к потере времени и средств либо к отказу от потенциально эффективного кандидата, однако итог всё равно должен подтверждаться реальным экспериментом.
Риски возрастают, когда созданные ИИ данные начинают заменять результаты измерений. Синтетическая биологическая информация может использоваться для заполнения пробелов, защиты данных пациентов, формирования групп сравнения, снижения расходов и сокращения числа животных в опытах. Но если система добавит признак, которого в действительности не было, он может быть ошибочно принят за доказательство биологического эффекта.
По оценке Бургера, проблема может заключаться не в отдельной очевидной подделке, а в незаметном искажении настоящих данных при сложной обработке. ИИ способен изменить или усилить сигнал так, что это повлияет на конечный вывод исследователей. Подобные ошибки могут не только создать видимость открытия, но и скрыть реальный эффект, например данные об эффективности лечения.
Пример таких сложностей отмечался при работе AlphaFold 3: разработчики модели сообщали о появлении «галлюцинированных структур» в неупорядоченных участках белков. Бургер подчеркнул, что результат, предложенный ИИ, следует рассматривать как гипотезу, а не как установленный факт. Даже наиболее перспективный вывод системы становится научным открытием только после независимой проверки в реальном эксперименте.
