Фото: MIT News
Исследователи Массачусетского технологического института разработали метод, который помогает генеративным моделям искусственного интеллекта решать задачи с жесткими требованиями безопасности, физическими ограничениями и другими обязательными условиями. Результаты работы опубликованы в журнале IEEE Transactions on Pattern Analysis and Machine Intelligence. Авторами исследования стали специалисты MIT Навид Азизан, Зеян Ли и Кавех Алим.
Обычного правдоподобного ответа для таких задач недостаточно. Например, при построении маршрута робота на производстве даже небольшая ошибка может привести к столкновению с человеком или препятствием. Новый подход позволяет одновременно соблюдать обязательные ограничения и повышать качество итогового решения.
Метод получил название HardFlow. Его особенность заключается в том, что ограничения применяются главным образом к конечному результату, а не к каждому промежуточному этапу генерации. Благодаря этому модель получает больше свободы для поиска оптимального варианта, сохраняя возможность выполнить все обязательные требования.
Разработчики представили задачу как оптимизацию траектории и использовали инструменты теории управления. Чтобы сделать вычисления выполнимыми для крупных нейросетей, процесс разделили на последовательность небольших подзадач. В результате алгоритм может корректировать ход генерации и направлять его к допустимому решению.
В ходе испытаний, включавших роботизированные манипуляции, навигацию в лабиринтах и редактирование изображений по текстовому описанию, HardFlow во всех случаях соблюдал заданные ограничения. При этом система находила более качественные решения, чем применявшиеся для сравнения методы. В частности, робот мог избежать столкновений и одновременно выбрать более короткий путь к цели.
HardFlow работает на этапе применения модели и не требует ее повторного обучения. Время вычислений оказалось сопоставимым с показателями большинства аналогичных решений или ниже них. В дальнейшем исследователи планируют адаптировать метод для ситуаций, где сама модель сможет обновляться с учетом требований к безопасности и качеству результата.