Google DeepMind Utiliza IA para Verificar Formalmente el Código del Protocolo de Cifrado de Signal

Tecnologia
Google DeepMind ha anunciado que sus sistemas de inteligencia artificial han logrado verificar matemáticamente componentes cruciales del protocolo de cifrado de Signal, un estándar que protege comunicaciones en Signal, Google Messages y WhatsApp. Este avance representa un hito en la seguridad del software, ya que la verificación formal demuestra con rigor matemático que el software opera como se espera, un proceso tradicionalmente largo y complejo. La compañía destaca que es la primera vez que se verifica formalmente la implementación real de un protocolo tan extendido, combinando IA y supervisión humana.

Google DeepMind ha comunicado que sus agentes de inteligencia artificial han demostrado matemáticamente que segmentos fundamentales del código subyacente al protocolo de cifrado de Signal cumplen con sus funciones esperadas. Este protocolo es esencial para la seguridad de las conversaciones privadas en Signal y Google Messages, y también es la base del cifrado de WhatsApp, según se ha reportado. La compañía considera este logro un avance significativo en la seguridad del software, aunque los propios investigadores enfatizan que es un paso dentro de un proceso más extenso. La verificación formal implica el uso de métodos matemáticos, en lugar de pruebas empíricas, para confirmar que el software se comporta según lo previsto. Este método es considerado la garantía de seguridad más robusta disponible, pero históricamente ha sido un proceso lento y laborioso. Generalmente, la verificación de protocolos criptográficos se detiene en la fase de diseño. DeepMind afirma que su sistema ha ido más allá, verificando la implementación real, que es precisamente donde suelen aparecer los errores en entornos operativos.

La compañía asegura que es la primera ocasión en que la implementación de un protocolo tan ampliamente utilizado ha sido verificada formalmente por cualquier método, con o sin asistencia de IA.

El sistema empleado se denomina AlphaProof Code, un marco que integra diversos modelos de IA con la intervención de expertos humanos. Para llevar a cabo este proceso, investigadores de DeepMind y varios modelos de IA tradujeron los objetivos de seguridad de Signal en especificaciones formales, las cuales fueron revisadas por expertos humanos. Los agentes, impulsados por Gemini Carbon, generaron las pruebas, produciendo más de seis millones de líneas de código en Lean, un lenguaje que facilita la verificación automática de pruebas por parte de una computadora. Posteriormente, los agentes auditaron su propio trabajo e identificaron aproximadamente el 1% de la base de código que requería una segunda revisión por parte de un humano. DeepMind indica que esta labor se completó en cuatro semanas, una tarea que tradicionalmente llevaría años a equipos de especialistas. Las pruebas abarcan propiedades como la protección de mensajes antes y después de que un dispositivo pueda verse comprometido temporalmente.

El análisis no reveló nuevas vulnerabilidades en las partes de Signal examinadas. Para evaluar la capacidad del sistema para diferenciar entre código correcto y defectuoso, el equipo reintrodujo dos errores reales previamente corregidos en una versión aislada del código de Signal. En ambos casos, DeepMind afirma que el sistema produjo una prueba verificada por máquina que confirmaba la inseguridad de la versión con errores.

Es importante señalar que el proyecto no verificó la totalidad de la aplicación móvil de Signal. También se ha mencionado que DeepMind se benefició de trabajos previos de verificación formal realizados por la Signal Foundation. Ehren Kret, director de tecnología de Signal, declaró que el trabajo anterior "se centró en porciones más pequeñas del código", mientras que el enfoque de DeepMind "permite una expansión significativa". Añadió que, ante el crecimiento de las amenazas a la seguridad impulsadas por la IA, esta verificación otorga a Signal "aún mayor confianza" en sus garantías de privacidad.

Los investigadores también buscan evitar un escenario en el que la IA genere tanto los objetivos como las pruebas. "No queremos este tipo de mundo en el que la IA genera los objetivos y la IA genera las pruebas y básicamente se autocorrige", explicó Swarat Chaudhuri, científico investigador de DeepMind. "Hay un término medio". Por esta razón, la participación humana fue crucial en la revisión de las especificaciones y las secciones marcadas.

La escalabilidad de este método y sus costos aún no están claros. DeepMind realizó el análisis de Signal de forma gratuita como parte de un proyecto de investigación, pero no ha divulgado los costos de la operación ni si tienen planes de ofrecer un producto de verificación comercial. "Hay un largo camino por recorrer antes de que podamos escalar esto a todo el software del mundo, y queremos hacerlo", comentó Chaudhuri. DeepMind ha anunciado que pondrá a disposición de la comunidad el código fuente de sus artefactos de verificación formal, sugiriendo que este enfoque podría extenderse a sistemas como el firmware de dispositivos médicos y el software de la red eléctrica.