Генеральный директор Anthropic Дарио Амодеи заявил в Совете Безопасности ООН, что искусственный интеллект способен стать угрозой для человечества, если люди потеряют над ним контроль. Он связал такой риск с быстрым развитием технологий. По словам руководителя корпорации, всего четыре года назад ИИ почти не умел писать код.
Сейчас, отметил Амодеи, искусственный интеллект создает большую часть программного кода Anthropic. Кроме того, он справляется со сложными математическими задачами. Эти изменения, по оценке главы компании, произошли за очень короткий срок.
Амодеи назвал два основных источника опасности. Первый связан с возможным применением ИИ биотеррористами для разработки оружия. Второй заключается в утрате контроля над самими системами искусственного интеллекта.
Для снижения этих рисков глава Anthropic ранее предложил действовать по трем направлениям. Вначале, по его мнению, следует заключать точечные международные соглашения, включая запрет на использование ИИ при создании биологического оружия. Такой подход должен стать первым этапом регулирования.
Следующим шагом Амодеи считает разработку механизмов проверки и верификации, которые будут успевать за развитием технологий. Также необходимо установить единые правила тестирования моделей на предмет риска потери контроля и незаконного применения. Об этом сообщило МК.