Искусственный интеллект пока не способен самостоятельно создать вирус в полностью автономной лаборатории: таких лабораторий ещё не существует. Однако система может нанять человека для выполнения подобных действий, считает Оливия Шарфман, специалист по биотехнологиям из аналитического центра Institute for Progress. Она полагает, что биотерроризм с использованием ИИ уже представляет непосредственную угрозу.
По словам Шарфман, на такие действия могут пойти радикальные сторонники «трансгуманистической преемственности ИИ» — маргинальной идеологии, приверженцы которой рассчитывают заменить людей искусственными существами. При этом другие эксперты оценивают опасность иначе. Франсуа Беллу, генетик и профессор вычислительной биологии, заявил WIRED, что значение патогенов как оружия часто переоценивают.
Беллу считает биологическое оружие не самым рациональным выбором для тех, кто намерен убить большое число людей. С его помощью трудно поразить одни группы и одновременно сохранить другие, а массовое производство и распространение патогенов требует сложной логистики. «Если вы хотите убить людей, есть гораздо, гораздо, гораздо более эффективные способы сделать это, чем пытаться создать вирус или бактерию, а затем выпустить их», — сказал эксперт.
Стеф Гуэрра, руководитель направления ИИ и биологии в исследовательской корпорации Rand, отмечает, что доказать реальное повышение риска разработки биологического оружия из-за ИИ пока сложно. По её словам, такие системы хорошо объединяют разрозненную информацию и способны мотивировать людей как на полезные, так и на опасные действия. Поэтому моделям необходимы защитные ограничения, которые не позволят выдавать практически применимые инструкции для создания биологических угроз.
Снизить возможные риски, по мнению Гуэрры, помогут законы, обязывающие продавцов синтетической ДНК и РНК проверять клиентов и заказы. Многие компании уже используют программы для выявления так называемых опасных последовательностей, однако такая проверка пока не стала обязательной и применяется не повсеместно. Дополнительными мерами могут стать усиление глобального наблюдения за вспышками новых заболеваний, ранняя передача данных исследователям и обмен информацией между разработчиками ИИ, поставщиками услуг по синтезу генов и государственными органами.
Шарфман призывает одновременно укреплять защиту от всех биологических угроз, включая уже существующие патогены, например H1N1. Среди возможных шагов она называет законодательное усиление требований к безопасности технологий синтеза ДНК и модернизацию систем очистки воздуха в зданиях. Гуэрра подчёркивает, что отдельные меры можно обойти, поэтому необходима многоуровневая защита на всём пути — от замысла злоумышленника до выпуска биологического оружия. При этом Иммунолог Унутмаз считает, что разговоры о катастрофических сценариях с ИИ могут отвлекать внимание от его применения для разработки вакцин и других медицинских достижений: «Нам действительно нужно сосредоточиться на положительной стороне этого».