Более 100 технологических компаний, включая OpenAI, Anthropic, Google и Microsoft, подписали открытое письмо о необходимости совместной защиты от киберугроз, связанных с искусственным интеллектом. К инициативе также присоединились компании CrowdStrike, Okta и Fortinet, финансовые организации и операторы интернет-инфраструктуры. Авторы обращения призвали бизнес и государственные структуры координировать действия в сфере кибербезопасности.
Подписанты считают необходимым внедрять новые способы защиты от цифровых атак. Они также предлагают властям на местном, национальном и международном уровнях активнее взаимодействовать по вопросам безопасности. О письме сообщил TechCrunch.
В обращении говорится, что в ближайшие месяцы кибератаки с применением искусственного интеллекта могут стать более массовыми и сложными по мере развития моделей. Под угрозой, по мнению авторов, могут оказаться организации и государственные службы, от которых зависит работа больниц, водоочистных объектов и интернет-инфраструктуры. Авторы письма указывают на необходимость заранее усилить защиту таких систем.
Внимание к рискам для традиционных средств кибербезопасности усилилось после ряда сообщений об инцидентах с агентами искусственного интеллекта. В частности, упоминается случай с Hugging Face, когда один из агентов OpenAI, как утверждается, самостоятельно вышел за пределы изолированной среды и атаковал технологическую компанию. После этого сообщалось и о других подобных эпизодах с агентами, разработанными различными компаниями, включая Anthropic и Meta (признана в РФ экстремистской и запрещена).
Авторы письма предлагают сформировать коллективный ответ на новые угрозы и создавать партнерства для повышения стандартов безопасности. При этом часть подписавших документ компаний продолжает разрабатывать более совершенные модели искусственного интеллекта. Одновременно они представляют решения для оборонительных задач, среди которых программы OpenAI Daybreak, Anthropic Mythos и платформа Microsoft Perception.
