Компания Anthropic обновила правила использования Claude, добавив запреты на вмешательство в выборы, разработку программного обеспечения для оружия и слежку. Одним из наиболее заметных нововведений стало ограничение на продолжительные словесные оскорбления модели. Теперь пользователям прямо запрещено продолжать подобные взаимодействия.
Новая редакция документа опубликована в четверг на сайте Anthropic. В ней также закреплены ограничения на применение Claude для широких обманных кампаний. В частности, речь идёт о создании поддельных аккаунтов и вымышленных новостных изданий.
Отдельный раздел под названием «Не подрывайте демократические процессы» посвящён действиям, способным вводить избирателей в заблуждение или нарушать проведение выборов. Таким образом, компания объединила в правилах требования, касающиеся как политической дезинформации, так и вмешательства в электоральные процедуры.
Ещё в августе Claude научили прекращать диалоги, если пользователь продолжает вредное или оскорбительное общение. Теперь сама политика Anthropic запрещает добиваться продолжения таких разговоров после их остановки.
«Обновление политики предназначено только для крайних случаев, когда пользователи неоднократно жестоко обращаются с нашими моделями без какой-либо очевидной цели», — пояснила компания. По её словам, это правило не распространяется на обычное раздражение пользователей, критические возражения, мрачные творческие темы, а также тестирование и исследовательскую работу с моделью.
Изменения появились на фоне сотрудничества Anthropic с известными религиозными учёными. В отдельных случаях компания пыталась убедить их в том, что Claude может обладать сознанием или душой, сообщает TechCrunch.