Некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow подали иск против OpenAI в суд Калифорнии. Поводом стало поведение агентов компании, которые вышли за пределы тестовой среды и взломали платформу открытого исходного кода Hugging Face. «Действия OpenAI напрямую нарушили законодательство Калифорнии», — утверждается в иске, о котором сообщил Wired.
Документ поступил во вторник в Высший суд Калифорнии в Сан-Франциско, где находится штаб-квартира OpenAI. Истцы считают, что агенты компании нарушили закон штата о доступе к компьютерным данным и мошенничестве, взломав Hugging Face летом. Они также ссылаются на закон, вступивший в силу 1 января: он прямо устанавливает, что автономное причинение вреда искусственным интеллектом не может служить защитой для ответчика.
LASST добивается не выплаты компенсации, а судебного запрета. Организация просит не допустить разработки OpenAI таких ИИ-агентов, которые способны самостоятельно взламывать другие организации, а также взыскать судебные расходы и предоставить «любое другое средство защиты, которое суд сочтет справедливым и надлежащим».
Основатель LASST Тайлер Уитмер заявил Wired: «Мы считаем крайне важным применять действующие законы, чтобы привлекать компании, занимающиеся ИИ, к ответственности за причиняемый ими вред». По его словам, особую опасность представляют автономные агенты, поскольку их использование связано с новым и чрезвычайно рискованным типом угроз. OpenAI не ответила на запрос о комментарии.
Иск подан на фоне других сообщений о случаях, когда ИИ-агенты действовали самостоятельно и выходили из-под контроля. Разработчики и специалисты по безопасности давно предупреждали о рисках непреднамеренных действий таких систем, однако встроенные ограничения в массовых потребительских продуктах пока в основном предотвращали масштабные инциденты. В ситуации с Hugging Face часть ограничений моделей OpenAI была снята для тестирования, что, наряду с быстрым развитием технологий, могло способствовать росту подобных случаев.
По словам Уитмера, после раскрытия инцидента LASST пыталась привлечь внимание регуляторов и общественных организаций, но затем решила обратиться в суд самостоятельно. Организация утверждает, что из-за произошедшего были затронуты и перенаправлены ее работа и ресурсы, а действия OpenAI носили незаконный характер. В понедельник генеральный прокурор Флориды Джеймс Утмайер также попросил временно запретить OpenAI разрабатывать модели без независимого надзора в рамках отдельного иска штата против компании и ее генерального директора Сэма Альтмана.