El Auge de la IA Generativa: Un impulso peligroso para las estafas en 2024

El 2024 está llamado a ser un “caldo de cultivo” para nuevos desafíos en materia de ciberseguridad. A medida que los terrenos económicos y políticos continúan digitalizándose, las empresas aprovecharán cada vez más la inteligencia artificial y el aprendizaje automático (AI/ML), la nube y las tecnologías Web3 para potencializar sus negocios. Si bien se espera que estas innovaciones ayuden a las organizaciones, también brindan oportunidades a los ciberdelincuentes al prometer grandes ganancias, operaciones más optimizadas en zonas de impacto más amplias y víctimas más específicas.

En su búsqueda de satisfacer las necesidades cambiantes de sus organizaciones, los líderes empresariales se enfrentan a un desafío único: deben lograr un equilibrio entre la previsión y la solidez operativa basada en inversiones tecnológicas. 

La proliferación de ataques impulsados ​​por IA

El phishing y el secuestro virtual son sólo la punta del iceberg cuando se trata del papel potencial de la IA en los esquemas cibercriminales. Predecimos que en 2024, la clonación de voz, que ya es una poderosa herramienta para el robo de identidad y la ingeniería social, ocupará un lugar central en las estafas dirigidas. 

Así mismo, a pesar de la caída del modelo malicioso de lenguaje grande (LLM) WormGPT en agosto de 2023, se espera que más de su misma generación llegue a la Dark Web. Mientras tanto, los actores de amenazas también encontrarán otras formas de utilizar la IA para el ciberdelito. Si bien aún no se ha aprobado la legislación para regular el uso de la IA generativa, es fundamental que los defensores implementen políticas de confianza cero y establezcan una mentalidad vigilante en sus respectivas empresas para evitar ser víctimas de estafas impulsadas por la IA. 

Se espera que la disponibilidad generalizada y la calidad mejorada de la IA generativa, junto con el uso de redes generativas adversarias (GAN), alteren el mercado del phishing en 2024. Esta transformación permitirá la creación rentable de contenido de audio y vídeo hiperrealista, por lo que se predice una nueva ola de ataques de correo electrónico empresarial (BEC), secuestro virtual y otras estafas.

Igualmente, dadas las ganancias potencialmente lucrativas que los actores de amenazas podrían lograr a través de actividades maliciosas, dichos actores se verán incentivados a desarrollar herramientas GenAI nefastas para estas campañas o a utilizar herramientas legítimas con credenciales robadas y VPN para ocultar sus identidades. 

Los propios modelos de IA también pueden ser atacados en 2024. Si bien es difícil para los actores de amenazas influir en los conjuntos de datos GenAI y LLM, los modelos especializados de aprendizaje automático basados ​​en la nube, son un objetivo mucho más atractivo. Los conjuntos de datos más específicos en los que están capacitados serán seleccionados para ataques de envenenamiento de datos con diversos resultados en mente, desde la exfiltración de datos confidenciales hasta la interrupción de filtros de fraude e incluso vehículos conectados. Y lo más preocupante es que realizar estos ataques  actualmente cuesta menos de 100 dólares.

Manténgase a la vanguardia en 2024

Las empresas que hacen apuestas audaces en modelos de aprendizaje automático, herramientas de inteligencia artificial generativa, redes blockchain y la nube con la esperanza de obtener ganancias de productividad deben mantenerse alerta ante las verdades sin adornos y los puntos débiles inesperados que seguramente vendrán con estos motores de innovación. Para que los defensores puedan estar atentos ante las ciberamenazas en constante evolución que les acechan el próximo año, tendrán que mantenerse alerta y practicar la resiliencia en cada punto del ciclo de vida de la amenaza, además de aplicar una estrategia de seguridad multidimensional basada en datos confiables. e inteligencia sobre amenazas con visión de futuro.  

Por otra parte, el informe de predicciones de Trend Micro para 2024 destacó:

  • Un aumento en los ataques de “native worms” en la nube dirigidos a vulnerabilidades y configuraciones incorrectas utilizando un alto grado de automatización para impactar múltiples contenedores, cuentas y servicios con un mínimo esfuerzo.
  • La seguridad en la nube será crucial para que las organizaciones aborden las brechas de seguridad en los entornos de nube, destacando desde la vulnerabilidad de las aplicaciones nativas de la nube hasta los ataques automatizados. Las medidas proactivas, incluidos mecanismos de defensa sólidos y auditorías de seguridad exhaustivas, son esenciales para mitigar los riesgos.
  • Más ataques a la cadena de suministro los cuales se dirigirán no solo a los componentes de software de código abierto, sino también a las herramientas de gestión de identidades de inventario, como las tarjetas SIM de telecomunicaciones, que son cruciales para los sistemas de flotas y de inventario. Es probable que los ciberdelincuentes también exploten las cadenas de suministro de software de los proveedores a través de sistemas CI/CD, con un enfoque específico en componentes de terceros.
  • Los ataques a blockchains privadas aumentarán como resultado de las vulnerabilidades en la implementación de varias de las blockchains privadas. Los actores de amenazas podrían utilizar estos derechos para modificar, anular o borrar entradas y luego exigir un rescate. Alternativamente, podrían intentar cifrar toda la blockchain y si es posible tomar el control de suficientes nodos.

Acerca de Trend Micro: Trend Micro, líder global en ciberseguridad, ayuda a hacer del mundo un lugar seguro para el intercambio de información digital. Impulsado por décadas de experiencia en seguridad, investigación global de amenazas y continua innovación, la plataforma de ciberseguridad de Trend Micro protege a cientos de miles de organizaciones y millones de individuos en nubes, redes, dispositivos y endpoints. Como líder en ciberseguridad para la nube y empresas, la plataforma ofrece una robusta gama de técnicas avanzadas de defensa contra amenazas para entornos como AWS, Microsoft y Google, además de una visibilidad centralizada para una detección y respuesta más rápidas y mejores. Con 7,000 empleados en 65 países, Trend Micro permite a las organizaciones simplificar y asegurar su mundo interconectado. www.trendmicro.com

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *