La adopción generalizada de la inteligencia artificial (IA), en particular la IA generativa (GenAI), ha revolucionado los panoramas organizacionales y transformado tanto el panorama de las ciberamenazas como la ciberseguridad.
La IA como poderosa herramienta de ciberseguridad
A medida que las organizaciones manejan cantidades cada vez mayores de datos a diario, la IA ofrece capacidades avanzadas que serían más difíciles de lograr con los métodos tradicionales.
Según el informe de “mejores prácticas” publicado recientemente por el Centro Criptológico Nacional (CNC) de España, cuando se aplica a la ciberseguridad, la IA puede:
- Detección y respuesta avanzadas a amenazas
- Utilice datos históricos para anticipar amenazas y vulnerabilidades
- Reduzca el riesgo de acceso no autorizado autenticando con precisión a las personas con biometría avanzada, comportamiento del usuario, etc.
- Identificar intentos de phishing
- Evaluar configuraciones y políticas de seguridad para identificar posibles debilidades.
Además de ayudar a los equipos de seguridad a realizar estas tareas con mayor precisión, la IA también les ayuda a mejorar su velocidad de trabajo.
Riesgos de ciberseguridad de la IA
Pero la velocidad también es lo que logran los ciberdelincuentes cuando aprovechan el poder de la IA: les permite adaptar rápidamente sus ataques a nuevas medidas de seguridad.
Según la NCC, el uso de la IA en ciberseguridad conlleva desafíos y limitaciones:
- Ataques adversarios contra modelos de IA : destinados a engañar o confundir los modelos de aprendizaje automático, para obligar a los sistemas basados en IA a tomar decisiones erróneas o maliciosas.
- Dependencia excesiva de soluciones automatizadas : por razones como la falta de interpretabilidad, fallas en la automatización, una falsa sensación de seguridad y otras, los sistemas de inteligencia artificial deben usarse junto con los métodos y técnicas tradicionales, no en lugar de ellos.
- Los falsos positivos y los falsos negativos podrían dar lugar a violaciones de seguridad no detectadas o interrupciones innecesarias.
- Privacidad y ética : existen preocupaciones sobre cómo se recopilan, almacenan y utilizan los datos personales.
Finalmente, los ciberdelincuentes también pueden aprovechar GenAI, que pueden utilizar los profesionales de la seguridad para mejorar los procesos de prueba de sus sistemas, para generar variantes de malware, deepfakes, sitios web falsos y correos electrónicos de phishing convincentes.
Los gobiernos están intensificando
Con la mejora continua de la tecnología de inteligencia artificial, los ciberdelincuentes seguramente encontrarán nuevas formas de comprometer los sistemas.
En octubre pasado, el presidente Biden emitió una Orden Ejecutiva con la intención de gestionar los riesgos y garantizar una IA segura y confiable.
Poco después, el Centro Nacional de Seguridad Cibernética (NCSC) del Reino Unido publicó directrices de seguridad para desarrolladores y proveedores de sistemas impulsados por IA para garantizar el desarrollo y la implementación seguros de sistemas de IA.
Fuente y redacción: helpnetsecurity.com
