Новини›Lagi›AlphaProof Code: AI агенти доказаха сигурността на кода на Signal
Снимка: Google DeepMind
Lagi

AlphaProof Code: AI агенти доказаха сигурността на кода на Signal

Google DeepMind · вторник, 10 ноември, 14:02 · 1 мин четене

Google DeepMind провери математически криптографията, която пази личните съобщения на милиарди хора.

Google DeepMind представи AlphaProof Code, нова система с няколко AI модела, която формално провери реалния код на криптографския протокол на Signal. Това е протоколът, който пази милиарди лични разговори в приложения като Signal и Google Messages. Формалната проверка доказва с математика, че програмата работи правилно и без уязвимости, и досега се смяташе за много трудна задача.

Системата работи като изследователски екип. Човешки експерти първо превеждат целите за сигурност на Signal в математически спецификации и проверяват всяка от тях. След това агенти, задвижвани от Gemini Carbon, пишат доказателствата. Те генерираха над шест милиона реда на езика Lean, който проверява математически точността на кода.

Агентите също така одитират доказателството и посочват около един процент от кода, който трябва да види отново човек. Останалото Lean проверява автоматично, така че хората се фокусират там, където е нужна човешка преценка.

Обикновено проверката на протоколи спира на ниво проектиране. Тук агентите отидоха по-далеч и доказаха, че компилираният код, който работи на устройствата, пази ключовите свойства за сигурност. Реалните уязвимости често се крият точно в разликата между проекта и реализацията, затова това е много по-сложна задача.

Проверката отне четири седмици, а при експертни екипи обикновено отнема години. За тест екипът върна в изолирана версия на кода два реални бъга, които вече бяха оправени. И в двата случая системата показа с машинно доказателство, че бъгавата версия не е сигурна.

След това Google DeepMind ще публикува артефактите от проверката като отворен код, за да могат и други да ги използват.

Още новини