Новини›Otras›Google представи федеративно обучение с проверима поверителност
Otras

Google представи федеративно обучение с проверима поверителност

Google Research · петък, 2 октомври, 17:57 · 1 мин четене

Новата система използва TEE, за да може всеки външен одитор да провери как се пазят данните на хорат

Google Research представи следващото поколение на своята система за федеративно обучение. Тя дава проверими гаранции за поверителност, което означава, че външни одитори могат сами да се уверят как се използват данните на потребителите.

Федеративното обучение се появи през 2017 г. и се използва за функции като предсказване на следващата дума в Gboard, предложения за отговор в Google Messages и Smart Text Selection в Android. Моделите се обучават върху данни, които остават на телефоните на хората, а сървърът получава само обобщени резултати.

Новата система използва Trusted Execution Environments, или TEE. Това са защитени среди вътре в процесора, в които кодът може да бъде проверен отвън, да се скрие вътрешното му състояние и да не бъде прекъсван. Устройствата знаят пълния списък с възможни серверни задачи, които могат да имат достъп до техните данни, а тези правила са публикувани в публичен регистър.

Кодът за ключовете и обработката на данните може да се компилира от отворения код, публикуван в GitHub. Така вече не е нужно да се вярва на оператора на сървъра, че правилно добавя шум към данните.

Gboard вече използва системата, за да пусне модели за предсказване на следващата дума на английски и японски. Според Google обучението е значително по-бързо от предишната система, където можеше да трае един до два месеца. Сега основното ограничение е наличният сървърен капацитет.

Системата прехвърля изчисленията към сървъра, което отваря вратата за по-големи модели. Google казва, че в бъдеще интеграцията на TEE с ускорители ще играе важна роля.

Още новини