Anthropic усилила ограничения в моделях Claude после обнаружения запросов, связанных с биологическими угрозами. Об этом компания рассказала в очередном отчете о неправомерном применении своих систем.
Один пользователь пытался получить помощь в оформлении проекта по изменению вируса чикунгунья. Исследование предполагало усиление передаваемости и способности возбудителя избегать иммунного ответа.
Разработчик классифицировал работу как рискованное исследование двойного назначения и заблокировал доступ. Содержание третьего с марта 2025 года отчета приводит Associated Press.
Новые модели, включая Claude Fable 5, получили дополнительные механизмы защиты. Anthropic отметила, что по мере роста возможностей ИИ прежних ограничений становится недостаточно.
Помимо биологической тематики компания зафиксировала применение моделей в кибератаках, слежке и пропагандистских кампаниях. В некоторых случаях за действиями стояли государственные группы и поставщики шпионского ПО.