Ограничения искусственного интеллекта при работе с химическими экспериментами затрудняют подготовку научных опытов. Об этом ТАСС сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета, автор блога «Химия — Просто» Александр Иванов. По его словам, нейросети могут отказываться описывать даже безопасные реакции, ссылаясь на возможную опасность их проведения.
Специалисты используют нейросети для подготовки сценариев и выбора экспериментов для научно-популярных программ. Однако современные системы нередко не предоставляют описание опыта и предупреждают, что проводить такие действия должны специально подготовленные люди. Иванов отметил, что подобные ограничения осложняют применение искусственного интеллекта в профессиональной работе.
При подготовке научно-популярных материалов нейросети также могут отказаться предложить химический эксперимент из-за потенциального риска. Александр Иванов рассказал, что год назад те же системы генерировали больше вариантов химических реакций, в том числе несуществующих. Теперь, по его словам, нейросети подверглись более жесткой цензуре и запрещают многие действия, включая безопасные.
Иванов подчеркнул, что специалисты могут самостоятельно находить ошибки в ответах искусственного интеллекта и проверять достоверность его рекомендаций. Пользователи, не обладающие необходимыми знаниями, способны не распознать недостоверную информацию. Поэтому ограничения нейросетей стали одним из факторов, осложняющих их использование при подготовке химических экспериментов.