Las empresas deben prepararse de forma proactiva para la era de los deepfakes

Los ciberdelincuentes están utilizando contenido generado por IA para llevar a cabo fraudes, suplantaciones y extorsiones con facilidad.

Trend Micro, líder global en ciberseguridad, ha publicado un nuevo estudio en el que se expone la magnitud y la madurez de los delitos cibernéticos basados en la tecnología deepfake. A medida que las herramientas de IA generativa se vuelven más potentes, asequibles y accesibles, los ciberdelincuentes las están adoptando rápidamente para llevar a cabo ataques que van desde el fraude empresarial hasta la extorsión y el robo de identidad.

El informe muestra cómo los deepfakes han pasado de ser una moda a una herramienta real que destruye la confianza digital y expone a las empresas a nuevos riesgos, acelerando los modelos de negocio de los ciberdelincuentes.

“Los medios generados por IA no son solo un riesgo futuro, son una amenaza real para las empresas. Estamos viendo cómo se suplantan identidades de ejecutivos, se comprometen procesos de contratación y se eluden las medidas de seguridad financiera con una facilidad alarmante. Este estudio es una llamada de atención: si las empresas no se preparan de forma proactiva para la era de los deepfakes, tienen un serio problema. En un mundo en el que ver ya no es creer, la confianza digital debe reconstruirse desde cero”, afirma David Sancho, investigador sénior de amenazas de Trend Micro.

La investigación revela que los actores maliciosos ya no requieren de conocimientos especializados clandestinos para lanzar ataques creíbles y realistas. En su lugar, usan plataformas de generación de vídeo, audio e imágenes disponibles en el mercado, muchas de las cuales se comercializan para creadores de contenidos con el objetivo de crear deepfakes convincentes que engañen tanto a individuos como a organizaciones. Estas herramientas son fáciles de usar, baratas y cada vez más capaces de evitar los sistemas de verificación de identidad y los controles de seguridad.

El informe describe un ecosistema ciberdelictivo en expansión en el que estas plataformas se utilizan para llevar a cabo estafas realistas, como el fraude al CEO, que se ha vuelto cada vez más difícil de detectar, ya que los atacantes utilizan audio o vídeo deepfake para suplantar a altos cargos en reuniones en tiempo real.

Por su parte, las entidades financieras, también están experimentando un n aumento de los intentos de deepfake para eludir los controles KYC (Know Your Customer), lo que permite el blanqueo de dinero anónimo mediante credenciales falsificadas.

Además, los deepfakes también están adquiriendo un papel importante en los procesos de selección, que se ven comprometidos por candidatos falsos que utilizan la inteligencia artificial para superar las entrevistas y obtener acceso no autorizado a los sistemas internos.

La creación de contenido multimedia con IA no es suficiente para los ciberdelicuentes, pues también se dedican a comercializar tutoriales, kits de herramientas y servicios para hacer más creíbles sus ataques. Desde guías paso a paso para eludir los procedimientos de incorporación hasta herramientas de intercambio de rostros listas para usar, las barreras de entrada son ahora mínimas.

A medida que aumentan la frecuencia y la complejidad de las estafas basadas en deepfakes, se insta a las empresas a tomar medidas proactivas para minimizar su exposición al riesgo y proteger a su personal y sus procesos. Esto incluye formar al personal sobre los riesgos de la ingeniería social, revisar los flujos de trabajo de autenticación y explorar soluciones de detección para los medios sintéticos.