Фото: TechCrunch
Компания Safeworld вышла из закрытого режима работы, объявив о привлечении более $12 млн на посевном раунде. Инвестиции возглавили Shine Capital и a16z Speedrun, к ним также присоединились Box Group, фонд Carnegie Mellon University, Innovation Endeavors и SV Angel. Стартап намерен проверять безопасность роботов, управляемых генеративным искусственным интеллектом.
Safeworld основали руководитель лаборатории Safe AI при Университете Карнеги — Меллона Дин Чжао, опытный руководитель стартапов Кайл Вонг и инженер по машинному обучению Симо Рачиди. Чжао занимается проблемами безопасности почти всю профессиональную карьеру. По его словам, для внедрения роботов необходимо одновременно оценивать риски вероятностных систем и обеспечивать доверие к ним.
Основной продукт Safeworld — моделирование работы роботизированных систем в виртуальной среде с реалистичными моделями людей. В цифровую копию конкретного объекта разработчики помещают модель робота, работающую на настоящем программном обеспечении, а затем запускают тысячи сценариев взаимодействия с людьми. Такой подход должен помочь проверить поведение машины в неожиданных ситуациях, включая падения, столкновения и появление человека из-за слепого угла.
К примеру, на производстве необходимо определить допустимую скорость робота и требуемую дистанцию для остановки, если человек переносит коробки. При этом роботы действуют в неструктурированной среде, а требования к безопасности могут различаться на каждом объекте. В Safeworld считают, что непредсказуемость человеческого поведения делает такие испытания особенно сложными.
Партнёром стартапа стала Gritt Robotics, техническим директором которой является Вишал Дугар. Компания разрабатывает искусственный интеллект для роботов, помогающих устанавливать фотоэлектрические панели на крупных солнечных электростанциях, и планирует использовать машины в более сложных строительных задачах. Дугар отметил, что безопасность таких систем трудно доказать только математическими расчётами, поэтому её приходится подтверждать экспериментально с учётом разных поз, движений, размеров, одежды и внешности людей.
Партнёр a16z Speedrun Джонатан Лай заявил TechCrunch, что отраслевые стандарты безопасности нужно создавать уже сейчас, пока роботов проектируют и внедряют. По его словам, ждать первых происшествий в домах, где машины могут столкнуться с детьми, будет слишком поздно. В Safeworld рассчитывают, что независимая проверка позволит производителям обмениваться данными о безопасности, а Дин Чжао считает, что компания может стать первой прибыльной организацией в этой сфере, поскольку за развёртывание роботов клиентам потребуется оплачивать оценку рисков.