El cofundador de Ethereum, Vitalik Buterin, no cree que mejorar la inteligencia artificial eventualmente haga que la ciberseguridad sea esencialmente imposible de ganar.
Buterin confía en que lo contrario podría terminar ocurriendo: la IA podría dar a los defensores las herramientas necesarias para construir software que sea significativamente más difícil de explotar desde el principio.
"Es una opinión cada vez más común que el hacking con IA significa que la ciberseguridad está condenada. No estoy de acuerdo", escribió Buterin en una extensa y, como es habitual en él, sustancial publicación en la red social X el miércoles.
Según el cofundador de Ethereum, la ciberseguridad debería favorecer naturalmente a los defensores una vez que los desarrolladores comiencen a aprovechar plenamente la verificación formal.
Buterin también vinculó esta creencia directamente con su propia exposición a las criptomonedas, revelando que aproximadamente el 90% de su patrimonio neto permanece en cripto.
Cualquiera que siga manteniendo cantidades sustanciales de criptomonedas, argumentó, está apostando implícitamente a que se pueden construir sistemas digitales suficientemente seguros a pesar de atacantes cada vez más sofisticados.
"Si la IA puede demostrar Navier-Stokes y el Último Teorema de Fermat, entonces la IA puede demostrar la afirmación 'este programa es seguro' como un teorema matemático", escribió Buterin, refiriéndose al problema de Navier-Stokes y al Último Teorema de Fermat.
Su argumento se basa en la verificación formal, un método para demostrar matemáticamente que el software satisface propiedades específicas.
Buterin exploró la misma idea en profundidad en su ensayo de mayo, en el que describió la verificación formal asistida por IA como una herramienta enormemente transformadora para el software crítico para la seguridad. Sin embargo, demostrar que dicho software es seguro podría resultar un desafío.
El problema de la definición
Buterin utilizó la aplicación de mensajería cifrada Signal como ejemplo para mostrar por qué esto podría ser difícil.
Un atacante podría intentar falsificar mensajes, impedir que lleguen, reenviar mensajes antiguos, comprometer un servidor, manipular el proceso utilizado para descubrir la clave pública de otro usuario o explotar una vulnerabilidad en el sistema operativo.
Otros problemas podrían surgir de bases de datos corruptas, bibliotecas maliciosas, compiladores o incluso filtraciones de información a nivel de hardware.
Incluso si el contenido de una conversación permanece cifrado, un atacante aún podría averiguar quién está comunicándose. Como resultado, la definición matemática de lo que realmente significa "seguro" podría volverse extremadamente complicada en sí misma.
"Así que... incluso las definiciones pueden tener más de mil líneas de código, y requieren una profunda y cuidadosa reflexión para descifrarlas", escribió Buterin.
Atacante y defensor
Sin duda, los sistemas de IA más capaces podrían facilitar la búsqueda de vulnerabilidades.
Sin embargo, la misma mejora en el razonamiento automático también podría reducir drásticamente el costo de demostrar formalmente que el software se comporta de acuerdo con especificaciones de seguridad cuidadosamente construidas.
Ambos bandos tendrán IA.
