Компания Anthropic добивается в Конгрессе США рассмотрения законопроекта, который даст властям возможность через суд временно останавливать разработку или применение систем искусственного интеллекта. Поводом для такого шага должны стать серьезные угрозы, связанные с ИИ. Об инициативе сообщает Politico со ссылкой на источники.
Вмешательство предлагается допускать при риске ущерба не менее одного миллиарда долларов. Другим основанием может стать вероятность гибели или получения тяжелых травм более чем 50 людьми. Опасность должна быть связана с созданием либо использованием биологического оружия, утратой разработчиком контроля над моделью или кибератакой.
Проверять такие риски смогут независимые специалисты, зарегистрированные в Министерстве торговли США. Если экспертиза подтвердит серьезную угрозу, ведомство получит право обратиться в суд. В заявлении можно будет потребовать приостановить работу над конкретным проектом или его использование.
Законопроект предусматривает и ряд обязанностей для разработчиков ИИ. Компании должны будут формировать собственные подразделения, отвечающие за безопасность, регулярно публиковать отчеты о функционировании моделей и оперативно сообщать Министерству торговли о серьезных сбоях. Кроме того, документ предлагает защищать сотрудников от преследования за раскрытие информации о нарушениях.
Некоторые положения инициативы, как пишет Politico, схожи с мерами регулирования искусственного интеллекта, которые Калифорния приняла в прошлом году. Anthropic создает семейство языковых моделей Claude. В компании считают предлагаемые ограничения оправданными и необходимыми для контроля над наиболее мощными системами ИИ.