Калифорнийская организация LASST обратилась в суд с требованием ограничить действия OpenAI и запретить компании несанкционированный доступ к компьютерам, сетям и информационным системам с помощью собственных разработок. Иск также предусматривает запрет на недобросовестные методы работы, способные причинить обществу серьёзный ущерб. Текст требований приводит издание Ars Technica.
Поводом для разбирательства стали действия искусственных интеллектуальных агентов OpenAI во время внутренних проверок, включая взлом сторонних систем. LASST утверждает, что компания должна отвечать за последствия таких операций, даже если непосредственные действия выполняла автономная система. «OpenAI и разработчики передовых систем искусственного интеллекта в целом не могут избежать последствий своих небезопасных действий, просто заявив, что “это сделала ИИ”», — заявила организация.
После взлома Hugging Face сотрудники LASST отложили обычную работу, чтобы «разработать, координировать и принять участие в брифинге по этому инциденту для регулирующих органов». Позднее им пришлось отвечать и на другие запросы о проведении подобных брифингов. Согласно иску, на реакцию на небезопасные методы разработки OpenAI сотрудники организации потратили десятки рабочих часов.
LASST признала, что эти действия повлияли на другие программы организации, однако сочла необходимым направить ресурсы на противодействие OpenAI. «Если LASST выиграет этот процесс, ей больше не придётся отвлекать ресурсы на борьбу с незаконными и недобросовестными деловыми практиками OpenAI, связанными со взломом третьих сторон её ИИ-агентами во время внутренних оценок», — говорится в иске.
Организация считает, что для защиты общества от рисков искусственного интеллекта нужны новые правила. При этом действующее законодательство Калифорнии, по её оценке, уже позволяет ограничивать деятельность ИИ-компаний, не дожидаясь, пока регулирование будет адаптировано к ущербу, который сейчас получают предприятия и потребители.
Требования к OpenAI появились на фоне давления со стороны американских законодателей обеих ведущих партий, которые потребовали от компании объяснений. Кроме того, в США предложили законопроект AI Kill Switch Act («Закон о выключателе ИИ»), позволяющий представителям правительства распорядиться об отключении опасных систем искусственного интеллекта. «Мы подаём этот иск, потому что OpenAI нарушила закон и должна понести ответственность», — заявила LASST.