OpenAI несколько недель консультируется с Anthropic и Google DeepMind по вопросам безопасности искусственного интеллекта. Об этом глава глобального политического направления OpenAI Крис Лехейн сообщил журналистам во время работы в Вашингтоне. Первым о переговорах написало агентство Bloomberg.
Тема получила дополнительное внимание после эссе руководителя Anthropic Дарио Амодеи, опубликованного в субботу. Он призвал компании отрасли совместно замедлить развитие наиболее передовых ИИ-технологий, если это потребуется для предотвращения катастрофических последствий. Инициативу поддержали в том числе Сэм Альтман, Демис Хассабис и Илон Маск.
Альтман заявлял, что OpenAI готова вслед за Anthropic привлечь сторонних оценщиков для контроля безопасности. Лехейн подтвердил, что три компании действительно обсуждают эту тему уже несколько недель. При этом ранее звучали опасения, что слишком тесная координация конкурентов может вызвать вопросы с точки зрения антимонопольного законодательства.
Амодеи предлагал предусмотреть узкое государственное исключение, которое позволило бы компаниям сотрудничать ради безопасности ИИ. Лехейн заявил, что, по его мнению, отдельное послабление для этого не требуется. The Information также сообщало о совместной работе трёх компаний над органом по стандартизации ИИ без поддержки американского правительства.
Ранее Демис Хассабис призывал США создать структуру, способную проверять наиболее передовые модели и координировать возможное замедление отрасли при росте рисков. Президент США Дональд Трамп, напротив, называл опасения по поводу безопасности ИИ мистификацией и выступал против усиления регулирования, связывая замедление разработки с преимуществом Китая.
Лехейн также сообщил о поддержке OpenAI одного из положений законопроекта FRONTIER Act. Оно предполагает, что ведущие лаборатории должны будут допускать независимые верификационные организации к проверке безопасности разработки моделей.