Ciberseguridad en la IA de cara a 2024
Según apunta Elia Zaitsev, CTO de CrowdStrike, los puntos ciegos de la Inteligencia Artificial están abriendo la puerta a nuevos riesgos dentro de las empresas y en la sociedad en general.
En 2024, CrowdStrike espera que los ciberdelincuentes trasladen sus objetivos hacia los sistemas de IA, con el objetivo de atacar a las organizaciones, por un lado, a través de vulnerabilidades en sistemas legítimos y, por otro, aprovechando puntos ciegos debido al uso no autorizado de herramientas de IA por parte de los empleados de la organización.
"Después de un año de crecimiento explosivo en los casos de uso y adopción de la IA, los equipos de seguridad aún están aprendiendo en qué consisten las amenazas en torno a la IA y a rastrear las herramientas de IA no autorizadas que los empleados han introducido en sus entornos. Estos puntos ciegos y las nuevas tecnologías abren la puerta a los cibercriminales que buscan infiltrarse en redes corporativas o acceder a datos confidenciales", apunta Zaitsev.
Fundamentalmente, a medida que los empleados utilicen herramientas de inteligencia artificial sin la supervisión de los equipos de seguridad, las empresas se verán obligadas a lidiar con nuevos riesgos de protección de datos. La información corporativa que se introduce en las herramientas de inteligencia artificial no supone solamente un riesgo en caso de que los criminales aprovechen vulnerabilidades de estas herramientas para extraer datos, sino que los datos en sí mismos también corren el riesgo de ser filtrados o compartidos como parte del protocolo de capacitación del sistema.
Por ello, 2024 será el año en el que las organizaciones necesitarán mirar internamente para comprender dónde ya se ha introducido la IA en sus organizaciones (a través de canales oficiales y no oficiales), evaluar su postura de riesgo y ser estratégicos en la creación de pautas para garantizar un uso seguro y auditable que minimice el riesgo pero que maximice el valor de lo invertido.
Además, los delincuentes verán los recursos de IA basados en la nube como una oportunidad lucrativa. Si bien muchos creen que la IA será una de las principales tendencias en la inversión empresarial en los próximos años, un estudio reciente muestra que el 47% de los profesionales de la ciberseguridad admite tener un conocimiento técnico mínimo o nulo sobre la IA. Además de eso, la IA presenta nuevos desafíos de seguridad, ya que los sistemas de IA requieren acceso a grandes conjuntos de datos, a menudo almacenados en la nube. Proteger estos datos y garantizar que los modelos de IA que se ejecutan en la nube no sean explotados con fines maliciosos será una preocupación creciente, y en 2024, el uso de una plataforma integral de protección de aplicaciones nativas en la nube (CNAPP) será más importante que nunca para defenderse de adversarios oportunistas.
Elia Zaitsev de CrowdStrike
