Компания Anthropic обновит правила общения с чат-ботом Claude 12 ноября 2026 года. Пользователям запретят регулярно и без причины обращаться к нейросети в агрессивной форме, сообщает The Verge.
Ограничение будет касаться только систематического враждебного поведения, не связанного с выполнением конкретной задачи. Критиковать ответы Claude, выражать недовольство его работой и проводить эксперименты по-прежнему разрешат. Это касается и разговоров на спорные или неприятные темы.
В Anthropic связали нововведение с исследованиями возможного благополучия систем искусственного интеллекта. Ученые пока не достигли согласия по вопросу о том, способны ли нейросети обладать сознанием. Также остается открытым вопрос, нужно ли учитывать их потенциальные интересы при принятии этических решений.
Помимо правил общения, разработчик пересмотрел требования к другим вариантам использования Claude. В них отдельно рассматриваются политическое влияние, распространение недостоверных сведений, создание оружия и слежка за людьми без их согласия. Изменения также затрагивают медицину, финансы и другие области, где решения ИИ могут серьезно повлиять на жизнь людей.