El impacto de la inteligencia artificial (IA) en las operaciones cibernéticas es un tema complejo y multifacético. El gobierno de EE. UU., por ejemplo, tiene puntos de vista aparentemente contradictorios, expresando tanto optimismo como pesimismo. Algunos funcionarios creen que la IA potenciará la defensa cibernética, trasladando la ventaja de los atacantes a los defensores. Otros advierten sobre el potencial de la IA para habilitar poderosas operaciones cibernéticas ofensivas. Este artículo profundiza en este paisaje intrincado, explorando cómo la IA está remodelando las operaciones cibernéticas, las oportunidades y los riesgos que presenta, y las consideraciones políticas cruciales que deben abordarse.
Los avances rápidos en la IA, particularmente en áreas como la IA generativa y los modelos de lenguaje grande (LLM), están a punto de alterar significativamente la dinámica de las operaciones cibernéticas. Tanto los atacantes como los defensores ya están utilizando herramientas y técnicas impulsadas por IA para mejorar sus capacidades. Esta evolución afecta varios aspectos de la ciberseguridad:
- Nuevas herramientas y técnicas: La IA potencia tanto las operaciones cibernéticas ofensivas como defensivas con herramientas y técnicas novedosas. Los atacantes pueden usar la IA para tareas como el descubrimiento automatizado de vulnerabilidades y la creación de sofisticadas campañas de phishing. Los defensores, por otro lado, pueden aprovechar la IA para una mejor detección de amenazas, identificación de anomalías y respuesta automatizada a incidentes.
- Evolución de la superficie de ataque: La codificación asistida por IA, aunque prometedora, puede introducir inadvertidamente vulnerabilidades en el software, ampliando la superficie de ataque. Los sistemas de IA y sus aplicaciones también se convierten en nuevos objetivos para los ciberataques, agregando otra capa de complejidad al panorama de seguridad.
- Cambio en la explotabilidad de los objetivos: En lugar de simplemente fortalecer la ofensiva o la defensa, la IA probablemente remodelará la distribución de los objetivos explotables en el ciberespacio. Algunas vulnerabilidades podrían volverse más fáciles de descubrir y explotar, mientras que otras podrían volverse más difíciles de atacar.
El enfoque tradicional sobre el impacto de la IA en la ciberseguridad como un simple "ofensiva contra defensa" es insuficiente. La realidad es mucho más matizada. La influencia de la IA está mediada por factores geopolíticos y económicos que determinan cómo individuos, empresas y gobiernos adoptan y utilizan la IA. Las restricciones preexistentes, como las regulaciones nacionales sobre la divulgación de vulnerabilidades, también juegan un papel importante.
Por ejemplo, la decisión de un país de acumular o divulgar vulnerabilidades descubiertas influirá en cómo el descubrimiento de vulnerabilidades impulsado por IA afecta sus capacidades ofensivas. De manera similar, la velocidad con la que las organizaciones pueden parchear vulnerabilidades descubiertas determinará si el descubrimiento asistido por IA beneficia a los atacantes o defensores en un contexto dado.
El gobierno de EE. UU. está explorando activamente cómo la IA puede usarse para potenciar sus capacidades cibernéticas y reforzar sus defensas, así como cómo asegurar sistemas de IA cada vez más sofisticados. El descubrimiento de vulnerabilidades es un área clave de enfoque. Las técnicas de fuzzing impulsadas por IA, que implican alimentar entradas aleatorias o mutadas a un programa para identificar vulnerabilidades, pueden acelerar significativamente el proceso de descubrimiento. Los LLM pueden mejorar el fuzzing generando entradas válidas a gran escala, lo que potencialmente automatiza la exploración de repositorios de código completos.
Sin embargo, el impacto final de este mayor descubrimiento de vulnerabilidades depende de factores más allá de las capacidades de la IA. La velocidad de explotación frente a la de parcheo, influenciada por factores como las políticas nacionales de divulgación de vulnerabilidades y las prácticas de parcheo organizacionales, determina si la ventaja va para la ofensiva o la defensa.
Analizar los efectos marginales de la IA en varias fases de las operaciones cibernéticas ofrece valiosos conocimientos. Por ejemplo, la IA generativa puede mejorar los ataques de ingeniería social y spearphishing creando contenido altamente convincente en texto, voz e imagen. Aunque las tasas de clics de los correos electrónicos de phishing generados por IA pueden ser actualmente ligeramente inferiores a las creadas por humanos, las ganancias de eficiencia son sustanciales. Este "intercambio entre calidad y eficiencia" puede ser particularmente atractivo para los ciberdelincuentes oportunistas que buscan maximizar su alcance.
Sin embargo, no todos los actores de amenazas se beneficiarán igualmente de estos avances. Los grupos patrocinados por el estado con objetivos específicos y un enfoque en operaciones encubiertas pueden no encontrar el mismo valor en escalar operaciones de phishing con tasas de éxito ligeramente menores. De manera similar, aunque los LLM pueden generar código malicioso, su impacto en las capacidades ofensivas podría ser marginal en comparación con las técnicas y herramientas existentes disponibles para los hackers.
En cambio, el uso más amplio de los LLM en el desarrollo de software podría aumentar inadvertidamente la superficie de ataque al introducir código inseguro, ofreciendo más oportunidades para los atacantes que usan técnicas existentes.
A medida que la IA se integra cada vez más en las operaciones cibernéticas, la estrategia nacional de ciberseguridad de EE. UU. debe adaptarse para abordar tanto las oportunidades como los riesgos presentados por este paisaje en evolución. Superar la dicotomía simplista de "ofensiva contra defensa" es crucial. Los responsables políticos deben centrarse en los factores mediadores que influyen en cómo se desarrolla, utiliza y aplica la IA, con el objetivo de moldear estos factores de manera que se alineen con los intereses estratégicos de EE. UU.
Esto requiere priorizar las amenazas cibernéticas más impactantes y probables habilitadas por la IA, aprovechar la IA para reducir la superficie de ataque y desarrollar respuestas efectivas a las amenazas en evolución. La colaboración entre el gobierno, la industria y el mundo académico es esencial para fomentar la innovación, promover el desarrollo responsable de la IA y construir un ecosistema cibernético más seguro. Las políticas deben abordar los incentivos para prácticas de desarrollo de software seguro, fomentar la divulgación y el parcheo de vulnerabilidades y promover la cooperación internacional sobre normas de IA y ciberseguridad. Al adoptar un enfoque integral y orientado al futuro, EE. UU. puede navegar por las complejidades del panorama cibernético impulsado por IA y mantener una postura cibernética sólida frente a las amenazas en evolución.
