В феврале руководитель направления безопасности Anthropic Мринанк Шарма неожиданно покинул компанию. В открытом письме он заявил, что миру угрожает целый ряд взаимосвязанных кризисов, среди которых назвал развитие искусственного интеллекта и биологическое оружие. Шарма также отметил, что компании сложно на практике руководствоваться собственными ценностями.
В июле более 1300 сотрудников компаний, работающих над передовыми системами искусственного интеллекта, подписали открытое письмо. Они предупредили о риске, что развитие технологий ускорится настолько, что люди перестанут понимать и контролировать создаваемые системы. Авторы призвали власти США поддержать международную работу над техническими и управленческими механизмами, которые позволили бы контролировать темпы развития ИИ.
В США уже обсуждаются законопроекты, предусматривающие усиление государственного контроля над потенциально вышедшими из-под контроля системами. Среди них — AI Kill Switch Act («Закон о выключателе ИИ») и FRONTIER Act («Закон FRONTIER»). При этом реакция правительств других стран пока остается менее активной, чем можно было бы ожидать при признании угрозы для существования цивилизации.
Международные соглашения по ядерному и биологическому оружию разрабатывались десятилетиями. Если наиболее тревожные прогнозы относительно искусственного интеллекта окажутся верными, времени на создание подобных механизмов регулирования может оказаться значительно меньше.
Конгрессвумен Лори Трахан заявила в социальной сети, что специалисты по безопасности уходят из компаний, мощные модели ИИ покидают лаборатории, а разработчики продолжают ускорять работу. Она призвала Конгресс прекратить бездействие и начать работу с двухпартийного закона FRONTIER.