En Colombia, con el surgimiento de tecnologías como la Inteligencia Artificial Generativa, la sociedad está cada vez más expuesta a las innovaciones de IA con aplicaciones diarias. Y, en el ámbito empresarial, la IA se encuentra en un punto de inflexión, habiendo alcanzado una curva de madurez en la que las inversiones de las últimas décadas están empezando a dar frutos.
Pero, así como las personas están cada vez más cercanas a los uso de IA, los ciberdelincuentes también, aprovechándose de está tecnología para sofisticarse.
Juan Sebastián Estévez, Líder de Ciberseguridad de IBM Colombia, Perú, Ecuador, Venezuela y Región Caribe, indicó que
“el 2024 es el año del engaño. La ciberseguridad será más importante que nunca, teniendo en cuenta que los eventos locales y mundiales como los Juegos Olímpicos son la ‘tormenta perfecta’ para las campañas de desinformación y ataques cibernéticos a un nivel totalmente nuevo. Se usará la IA para la seguridad y seguridad para la IA”.
Al respecto, IBM entregó algunos mitos, verdades y tendencias de ciberseguridad en 2024, en Colombia:
– Deep Fakes de audio que modernizarán los ataques BEC: VERDAD. El audio generado con IA para suplantar es una realidad. Por ejemplo, un empleado de una compañía podrá recibir una llamada del “CEO” diciendo “pague la factura”, pero en realidad es voz creada artificialmente por un ciberatacante, suplantando al CEO real.
– Phishing diseñado por IA: VERDAD. Ya sea por correo electrónico o audio, el engaño creado con IA para obtener los datos financieros o confidenciales de una persona, resulta en una mayor tasa de clics.
– Modelos de lenguaje de gran tamaño (LLMs) maliciosos: VERDAD. Ya estamos viendo que LLMs maliciosos “llegan al mercado” en la dark web como “FraudGPT”, una herramienta basada en suscripción para elaborar ataques maliciosos. Su capacidad para escribir código malicioso, crear malware y crear correos electrónicos de phishing esencialmente reduce la barrera de entrada para atacantes más inexpertos.
– Ciberataques totalmente automatizados: Por ahora son un MITO. Hoy no son una amenaza inminente. Considerando que las grandes empresas tecnológicas aún tienen que descubrir cómo automatizar completamente los ciclos de desarrollo de software, es poco probable que grupos cibercriminales pequeños y con limitaciones financieras lo logren antes. Pero eso no significa que en el futuro no pueda suceder.
– Envenenamiento del código de la IA: VERDAD. Buscan manipular el código y los datos sobre los que se construyen los modelos de IA con programación para que se comporten de la manera que el atacante quiera, y no son fácilmente detectables.
– Las empresas verán un flujo de «usuarios doppelgänger» o con “personalidades múltiples”: TENDENCIA. Se trata de usuarios comportándose de una manera determinada un día y de otra manera al día siguiente. Los atacantes están asumiendo las identidades digitales de usuarios legítimos sin su conocimiento y esta tendencia solo se agravará en 2024.
– La IA generativa nivelará el rol de los analistas de seguridad: TENDENCIA. Este año, la IA generativa empezará a apoyar ciertas tareas tediosas y administrativas de los equipos de seguridad, pero más allá de esto, también permitirá que los miembros del equipo con menos experiencia asuman tareas más desafiantes y de niveles superiores.
– Los ataques de «cosechar ahora y descifrar después» se volverán más comunes con los avances cuánticos: TENDENCIA. El desempeño de los sistemas cuánticos sigue escalando.
Anticipándose a esto, las organizaciones deberán empezar ahora el proceso de identificar la criptografía utilizada en sus entornos tecnológicos para prepararse para la transición a criptografía resistente a la computación cuántica, también conocida como Quantum-Safe, para garantizar que sus datos y sistemas sigan protegidos contra las amenazas planteadas por el descifrado cuántico.
