El 98% de las empresas encuestadas considera que algunos de sus modelos de IA son vitales para el éxito empresarial, y el 77% ha experimentado violaciones en sus sistemas de IA durante el año pasado, según HiddenLayer.
El informe encuestó a 150 líderes de ciencia de datos y seguridad de TI para arrojar luz sobre las mayores vulnerabilidades que afectan a la IA en la actualidad, sus implicaciones para las organizaciones comerciales y federales, y los avances de vanguardia en los controles de seguridad para la IA en todas sus formas.
Los investigadores revelaron el uso extensivo de la IA en las empresas modernas , y observaron un promedio de 1.689 modelos de IA utilizados activamente por las empresas. Esto ha convertido la seguridad de la IA en una máxima prioridad: el 94% de los líderes de TI dedicarán fondos para salvaguardar su IA en 2024.
Sin embargo, la confianza en estas inversiones es mixta, ya que sólo el 61% expresa una alta confianza en su asignación presupuestaria. Además, el 92% está en el proceso de diseñar una estrategia para abordar esta nueva amenaza. Estos resultados subrayan la creciente demanda de asistencia para establecer medidas sólidas de seguridad de la IA.
Riesgos de la IA
Los adversarios pueden aprovechar una variedad de métodos para utilizar la IA en su beneficio. Los riesgos más comunes del uso de IA incluyen:
- Manipulación para dar información sesgada, inexacta o perjudicial.
- Creación de contenido dañino, como malware, phishing y propaganda.
- Desarrollo de imágenes, audio y video deep fake.
- Aprovechado por actores maliciosos para proporcionar acceso a información peligrosa o ilegal.
Principales tipos de ataques a la IA y desafíos de seguridad
- Ataques adversarios de aprendizaje automático : apuntan a algoritmos de IA con el objetivo de alterar el comportamiento de la IA, evadir la detección basada en IA o robar la tecnología subyacente.
- Ataques al sistema de IA generativa : amenazan los filtros y restricciones de la IA, destinados a generar contenido considerado dañino o ilegal.
- Ataques a la cadena de suministro : atacan artefactos y plataformas de aprendizaje automático con la intención de ejecutar código arbitrario y entregar malware tradicional.
Si bien las industrias están cosechando los beneficios de una mayor eficiencia e innovación gracias a la IA, muchas organizaciones no cuentan con medidas de seguridad adecuadas para garantizar un uso seguro. Algunos de los mayores desafíos informados por las organizaciones para proteger su IA incluyen:
- El 61% de los líderes de TI reconocen que la IA en la sombra, soluciones que no se conocen oficialmente ni están bajo el control del departamento de TI, son un problema dentro de sus organizaciones.
- El 89% expresa preocupación por las vulnerabilidades de seguridad asociadas con la integración de IA de terceros, y el 75% cree que las integraciones de IA de terceros representan un riesgo mayor que las amenazas existentes.
Mejores prácticas para proteger la IA
Descubrimiento y gestión de activos: comience por identificar dónde ya se utiliza la IA en su organización. ¿Qué aplicaciones ha adquirido ya su organización que utilizan IA o tienen funciones habilitadas para IA?
Evaluación de riesgos y modelado de amenazas: realice modelos de amenazas para comprender las posibles vulnerabilidades y vectores de ataque que podrían ser explotados por actores maliciosos para completar su comprensión de la exposición al riesgo de IA de su organización.
Seguridad y privacidad de los datos: vaya más allá de la implementación típica de cifrado , controles de acceso y prácticas de almacenamiento seguro de datos para proteger los datos de su modelo de IA. Evalúe e implemente soluciones de seguridad diseñadas específicamente para brindar protección en tiempo de ejecución para modelos de IA.
Solidez y validación del modelo: evalúe periódicamente la solidez de los modelos de IA contra ataques adversarios. Esto implica probar la respuesta del modelo a varios ataques, como entradas manipuladas intencionalmente.
Prácticas de desarrollo seguras: incorpore la seguridad en su ciclo de vida de desarrollo de IA. Capacite a sus científicos de datos, ingenieros de datos y desarrolladores sobre los diversos vectores de ataque asociados con la IA.
Monitoreo continuo y respuesta a incidentes: implemente mecanismos de monitoreo continuo para detectar anomalías y posibles incidentes de seguridad en tiempo real para su IA, y desarrolle un sólido plan de respuesta a incidentes de IA para abordar de manera rápida y efectiva las violaciones o anomalías de seguridad.
Fuente y redacción: helpnetsecurity.com
