Исследователи Google DeepMind с помощью искусственного интеллекта на основе программных агентов математически проверили ряд ключевых криптографических гарантий протокола Signal. Такой процесс называют формальной верификацией — подтверждением корректности работы программ с использованием математических методов. Об этом сообщил журнал WIRED.
Эксперимент занял около четырех недель и стал проверкой возможностей нового инструмента AlphaProof Code. Результаты одновременно подтвердили надежность отдельных механизмов шифрования, которые применяются в Signal, Google Messages и WhatsApp. При этом исследователи изучали не все мобильное приложение Signal, а только отдельные части его протокола.
При проверке актуальных компонентов новые уязвимости обнаружить не удалось. Когда AlphaProof Code применили к более старым версиям протокола с уже известными и исправленными проблемами, система правильно выявила эти недостатки и показала невозможность формальной проверки таких вариантов. Разработанные спецификации и доказательства Google DeepMind решила опубликовать для дальнейших исследований в этой области.
Ученые отметили, что ускорить работу им помогли более ранние исследования Signal Foundation в сфере формальной верификации. По словам технического директора Signal Эренa Крета, новый подход позволяет значительно расширить объем проверяемого кода и повысить уверенность в защите конфиденциальности. Исследователи DeepMind подчеркнули, что нынешний результат остается лишь одним этапом более масштабной работы.
Перспективы автоматизированной проверки программ с помощью искусственного интеллекта пока зависят от ее способности работать в больших масштабах и приемлемой стоимости. Анализ протокола Signal провели бесплатно как исследовательский проект, а Google не раскрыла его цену и не сообщила о планах по выпуску коммерческого сервиса. В DeepMind также заявили, что используют совместную работу человека и искусственного интеллекта: система может выполнять и исправлять отдельные этапы, но ключевые решения требуют участия и проверки специалистов.