
Подразделение Google DeepMind с помощью искусственного интеллекта проверило криптографический код мессенджера Signal. Исследователи провели формальную верификацию — математически доказали, что программный код выполняет определенные требования безопасности. Например, даже если хакер получит ключи шифрования устройства, он не сможет прочитать уже отправленные сообщения. В будущем эту технологию можно будет использовать для защиты банковских программ и других важных систем.
Как Google с помощью ИИ проверила шифрование Signal
В мессенджере Signal применяется сквозное шифрование, благодаря которому сообщения могут прочитать только участники разговора. Посторонние, перехватившие переписку при передаче, не могут ее расшифровать.
Но даже надежный способ шифрования не исключает ошибок в программном коде. Например, разработчики могут неправильно реализовать механизм защиты, из-за чего сообщения станут доступны злоумышленникам. Поэтому Google DeepMind решила проверить, действительно ли Signal так надежен, как заявляют его разработчики.
Для проверки команда Google DeepMind создала AlphaProof Code — систему из нескольких ИИ-агентов, которая проводит формальную верификацию. Это значит, что ИИ с помощью математических доказательств подтверждает или опровергает, что программа выполняет заданные требования. Доказательства писали агенты на базе языковой модели Gemini 4 Carbon.
Работа по проверке Signal проходила в несколько этапов:
- Сначала эксперты определили, какие требования безопасности должен выполнять криптографический код Signal. Каждое требование проверяли люди.
- Затем ИИ-агенты подготовили математические доказательства того, что эти требования соблюдаются в проверяемой реализации библиотеки libsignal. Исследователи анализировали даже машинный код, собранный из неизмененного кода библиотеки, — инструкции, которые выполняет процессор.
- Наконец, специальная система Lean проверила корректность доказательств, созданных искусственным интеллектом.
На исследование ушло всего четыре недели у команды из пяти человек, хотя сопоставимые задачи формальной верификации требовали нескольких лет работы специалистов. При этом ИИ помогал строить доказательства, но не решал самостоятельно, какие требования считать правильными. Такие решения оставались за исследователями.
Защитите устройства от шпионских программ
Надежное шифрование не предотвратит кражу сообщений с зараженного устройства. Kaspersky Premium находит вредоносные программы, включая шпионское ПО, защищает от опасных сайтов и фишинговых ссылок.
Попробовать бесплатноЧто удалось доказать и где еще пригодится технология
Результаты исследователи представили 10 ноября. Они математически доказали несколько свойств безопасности кода Signal. Первое — прямая секретность: в Signal каждое сообщение шифруется отдельным ключом, который после использования обычно удаляется, поэтому злоумышленник, получивший текущие ключи, не сможет с их помощью расшифровать ранее отправленные сообщения. Второе — защита после компрометации: ключи обновляются с каждым ответом, поэтому после кражи ключей переписка снова становится защищенной, если злоумышленник не вмешивается в этот обмен. Кроме того, доказаны подлинность собеседника и секретность начального обмена ключами.
Исследователи также проверили, может ли AlphaProof Code обнаруживать нарушения требований безопасности. Специалисты взяли две ошибки, которые разработчики Signal уже исправили, и специально вернули их в тестовую версию программы. И в том, и в другом случае ИИ помог математически доказать, что код нарушает требования безопасности. Новых уязвимостей в проверенных частях протокола исследователи не нашли.
Успешная проверка показала возможности AlphaProof Code, которые в будущем могут пригодиться разработчикам другого программного обеспечения. В интервью WIRED вице-президент по исследованиям Google DeepMind Пушмит Кохли привел пример банков. Ошибки в их программах могут повлечь потерю денег или утечку данных, поэтому таким организациям особенно важно получать доказательства того, что ПО выполняет заданные требования безопасности.
Также математическую проверку с помощью ИИ можно будет применять в других сферах, например в ПО медицинского оборудования и энергосистем.
Пока же AlphaProof Code остается исследовательским проектом. Неизвестно, насколько эффективно система сможет проверять большие программные комплексы и во сколько обойдется такая работа: Google не раскрыла стоимость анализа Signal. Материалы верификации DeepMind опубликовала в открытом доступе.
Почему математическая проверка не гарантирует полную безопасность переписки
Google DeepMind подтвердила определенные свойства безопасности криптографического кода Signal, но не проверяла весь мессенджер. Проверялась конкретная версия библиотеки libsignal (0.105.4) и только личные переписки один на один: групповые чаты в проверку не вошли. Часть доказательств построена на предположении, что используемые в Signal криптографические алгоритмы надежны, а вычислительная модель учитывает только классических, не квантовых атакующих. Кроме того, результаты относятся к программе, собранной исследователями на основе libsignal, а не к самим приложениям. Поэтому математическое доказательство не исключает других ошибок и способов атак, а приложения с вариантами этого протокола, например WhatsApp, отдельно не проверялись.
Например, даже надежное шифрование не поможет, если злоумышленник заразит телефон шпионской программой. Она может получить доступ к сообщениям непосредственно на устройстве, когда они уже расшифрованы. Чтобы снизить риск заражения, важно использовать защитное программное обеспечение, которое обнаруживает вредоносные приложения. Например, Kaspersky для Android помогает выявлять в том числе скрытые программы для слежки.
Еще один риск — фишинг. Мошенники могут выдавать себя за знакомых или представителей службы поддержки, присылать вредоносные ссылки и выманивать коды подтверждения. Шифрование не мешает злоумышленнику обмануть самого пользователя. Поэтому важно регулярно обновлять мессенджер, операционную систему и устанавливать приложения из надежных источников.
Статьи и ссылки по теме:
- Безопасность приложений для обмена сообщениями
- Шпионские приложения и ПО: что это и как защититься
- Что такое фишинг? Как распознать атаку, пока не поздно
Рекомендуемые продукты:
