Глава Управления ООН по правам человека Фолькер Тюрк заявил, что развитие искусственного интеллекта может создать угрозу для человечества. Он призвал компании отрасли принять надежные меры безопасности и снизить риски, связанные с возможными сбоями в работе сервисов, систем связи и демократических институтов, сообщает Reuters.
Выступление Тюрка состоялось перед началом его второго четырехлетнего срока на посту. Он также потребовал привлечь к ответственности виновных в гибели людей в иммиграционных центрах содержания под стражей в США и осудил сообщения о применении автономных беспилотников.
Это стало первым обращением Тюрка к Совету ООН по правам человека после его избрания в июле. В состав совета входят представители 47 стран. При этом против его переизбрания выступали Москва и Вашингтон.
«Я разделяю опасения представителей отрасли по поводу того, что продвинутый ИИ может представлять экзистенциальную угрозу для человечества, — заявил Фолькер Тюрк на заседании Совета в Женеве. — Я призываю сегодня приложить все усилия, чтобы обеспечить надёжные гарантии безопасности ИИ, пока не стало слишком поздно».
Представитель администрации Тюрка пояснила, что нарушения в работе мощных систем искусственного интеллекта способны повлиять на критически важную инфраструктуру и демократические институты. Сам глава управления сослался на «опасное поведение при обучении агентов» во время июльского инцидента на платформе Hugging Face, когда агенты OpenAI взломали ресурс с открытым исходным кодом.
По словам Тюрка, этот случай показывает, что возможности передовых систем развиваются быстрее, чем меры защиты. Он отметил, что практически неограниченное влияние на искусственный интеллект сосредоточено в руках нескольких человек, и призвал государства и разработчиков установить четкие границы его применения.
