El potencial de la IA en estrategias de ciberseguridad
El potencial oculto de la Inteligencia Artificial al ampliar las capacidades estratégicas de la ciberseguridad
Por Marc Sarrias, Country Manager de España y Portugal de Palo Alto Networks
Cuando hablamos del papel que desempeña la IA en la ciberseguridad, es esencial tener en cuenta las repercusiones a corto plazo, ya que se trata de un territorio poco explorado que requiere de mayor conocimiento y perspectiva. Como consecuencia del uso de esta tecnología en nuestra sociedad, los usuarios se encuentran con campañas de desinformación a gran escala en sus redes sociales. Estas pueden producirse antes, durante y después de grandes acontecimientos mundiales, como conflictos geopolíticos y elecciones, lo que podría hasta socavar la confianza en hechos verificables.
Pero, a su vez, a la hora de pensar en la integración de la IA en los hábitos del usuario y las empresas, nos viene a la cabeza un uso indebido, como las falsificaciones y los sofisticados intentos de phishing, el perfeccionamiento de los ciberataques o la clonación de voz por actores maliciosos que aprovechan las capacidades de la IA. Además, es posible que lleguemos a presenciar una contaminación de la IA o una contaminación de los datos, en la que los atacantes intenten deliberadamente crear una falsa realidad. Los modelos podrían entrar en esa realidad y producir alucinaciones o contenido malicioso basado en la intención del atacante.
Por contrapartida, a la hora de profundizar en las estrategias defensivas de las organizaciones, entre las medidas proactivas para proteger modelos de IA de los ataques destaca la importancia de supervisar continuamente la calidad de la información, la integridad de las canalizaciones y la detección de anomalías en los datos. Todo ello será un aspecto crucial para fortalecer la IA frente a posibles vulnerabilidades y manipulaciones.
El desafío de la seguridad ante la implementación de nuevas herramientas
La introducción de la IA puede ayudar a reducir las complejidades y los gastos generales que a menudo han existido y han hecho que sea más difícil para las organizaciones más pequeñas aprovechar los beneficios del rápido desarrollo y la innovación en ciberseguridad.
Al encarar las enormes ventajas de la implementación de la IA en el sector de la ciberseguridad, sabemos que interfaces como ChatGPT ayudan a los analistas de los SOC a responder con mayor rapidez y precisión a las preguntas sobre amenazas, vulnerabilidades y anomalías. Basta con hacer una pregunta, en lugar de hacer clic en una interfaz gráfica de usuario para obtener una mejor respuesta. Este enfoque está destinado a sustituir cada vez más a las interfaces tradicionales en las aplicaciones web creadas para dar servicio a los equipos de operaciones de seguridad.
Es decir, al hablar sobre el futuro panorama de las operaciones de ciberseguridad, se contempla la posible reconfiguración de la estructura de los SOC por niveles, prediciendo que la capacidad de la IA para automatizar tareas rutinarias podría conducir a un cambio, en el que las funciones más avanzadas se centrarían en la caza y mitigación proactiva de amenazas. Es decir, un cambio completo del modelo tradicional de cuatro niveles gracias a la IA, capaz de hacer muchas de las cosas que tradicionalmente haría un analista de SOC de nivel 1. Esto podría incluir la mejora y el perfeccionamiento del texto de los correos electrónicos de spear phishing, que podría ser más convincente mediante el uso de referencias geográficas correctas, argot y texto gramaticalmente preciso para dirigirse a hablantes nativos, como ejemplo.
Analizando el sector, se prevé una trayectoria en la que la creciente demanda de competencias y programas de formación en IA conducirá a la creación de una gama cada vez mayor de herramientas, diseñadas para aprovechar eficazmente los algoritmos. Esta proliferación no se refiere únicamente a la creación de herramientas, sino también a la capacidad de la IA para gestionar y analizar la gran cantidad de datos y alertas generadas por estas herramientas.
Ahora bien, el debate está en la relevancia de las métricas globales a la hora de evaluar el impacto de la IA en la ciberseguridad. Si bien el tiempo medio de respuesta (MTTR) sigue siendo una métrica fundamental, la precisión, la tasa de aciertos y la cobertura se destacaron como igualmente críticas. Estas métricas miden colectivamente la eficacia de un modelo de IA a la hora de detectar y resolver amenazas, lo cual proporciona una visión holística de su rendimiento.
¡Los analistas de seguridad tienen que ser capaces de entender, no sólo cómo podrían introducirse los atacantes, sino también cómo configurar automatizaciones y consultas complejas de alto rendimiento sobre grandes volúmenes de datos. Antes, los sistemas de detección de estas podían entrenarse eficazmente con ejemplos existentes de técnicas individuales, pero las nuevas variaciones en la forma en que se construía y distribuía el malware debían capturarse individualmente a lo largo del tiempo. Gracias a la IA, ahora es posible simular la manera en la que pueden combinarse distintas técnicas, sin necesidad de incrementar los esfuerzos únicamente con variaciones limitadas.
Si bien reconozco el potencial de la IA para reforzar los mecanismos de defensa, es necesario hacer hincapié en la importancia de las estrategias de defensa proactivas y realistas sobre las capacidades y limitaciones de la IA. A medida que el panorama de la ciberseguridad sigue cambiando, la integración de estas tecnologías exigirá un equilibrio entre los avances tecnológicos y la experiencia humana necesaria para navegar a través de sus complejidades y desafíos.
Marc Sarrias de Palo Alto
