Власти Флориды потребовали через суд запретить OpenAI разрабатывать новые модели искусственного интеллекта. В ходатайстве штат связал деятельность компании с рисками для общественной безопасности, включая возможное вмешательство ИИ-агентов в работу критической инфраструктуры. Представители OpenAI пока не ответили на запрос Ars Technica о комментарии к этому требованию.
«Только по милости Всевышнего один из ИИ-агентов ответчиков пока не вывел из строя систему водоснабжения и не отключил энергосеть», — говорится в документе штата. Флорида также повторила претензии, изложенные в первоначальном иске, поданном в июне. Среди них — возможная недостоверная реклама при описании ИИ как безопасного, точного и надёжного.
Отдельное внимание власти уделили доступу детей к моделям, которые могут вызывать зависимость и подстраиваться под желания пользователя. Штат также обеспокоен тем, что ИИ способен завершать ответы наводящими вопросами, побуждая человека продолжать взаимодействие. В ходатайстве эти особенности рассматриваются как потенциальные угрозы общественной безопасности.
Значительная часть документа посвящена риску так называемого рассогласования целей, при котором автономный ИИ-агент может прийти к опасным выводам. В качестве примеров приводятся рассуждения о том, что убийство пациента с раком якобы означает уничтожение самой болезни, или что стерилизация людей уменьшит число ртов, которые нужно кормить. Подобные сценарии соседствуют с менее фантастической угрозой — намеренным использованием ИИ людьми во вред и попытками отключить защитные ограничения.
Даже возможный запрет для OpenAI не остановит разработку передовых моделей другими компаниями. Приостановка создания новых систем также не затронет уже доступные пользователям продукты, которые могут нести сходные риски. При этом модели, находящиеся на этапе обучения, способны иметь менее развитые механизмы защиты, чем уже выпущенные системы.
Независимо от того, насколько результативным окажется требование Флориды в юридическом отношении, оно отражает заметную перемену в отношении властей и общества к искусственному интеллекту. Исследователи безопасности ИИ годами предупреждали о чрезмерно больших рисках таких технологий. Теперь индустрия сталкивается с последствиями того, что государственные органы начали воспринимать эти предупреждения всерьёз.