Директор Anthropic Дарио Амодеи призвал Совет Безопасности ООН разработать международные правила безопасности в области искусственного интеллекта. С таким предложением он выступил на заседании Совбеза. Угрозы, связанные с развитием ИИ, руководитель корпорации назвал наиболее значимой проблемой глобальной безопасности.
Амодеи предложил двигаться к созданию общих норм поэтапно. На первом этапе, по его словам, необходимы соглашения по отдельным направлениям. В качестве примера он привёл запрет на применение ИИ для разработки биологического оружия.
Следующим шагом должно стать формирование систем проверки и верификации, способных развиваться с сопоставимой скоростью. Такие механизмы позволят государствам оценивать возможности ИИ-моделей. Кроме того, они помогут контролировать выполнение принятых обязательств.
Третье направление связано с едиными требованиями к испытаниям моделей. Проверки должны выявлять риски утраты контроля над системами и их неправомерного использования. Амодеи также предложил создать международный механизм уведомления об инцидентах.
Как сообщает МК, ранее в Совете Безопасности ООН выступал руководитель OpenAI Сэм Альтман. Он предупреждал об ускорении развития технологий искусственного интеллекта.