La adopción de la IA sigue por las nubes: el 54 % de los expertos en datos afirman que su organización ya aprovecha al menos cuatro sistemas o aplicaciones de IA, según Immuta. El 79% también informa que su presupuesto para sistemas, aplicaciones y desarrollo de IA ha aumentado en los últimos 12 meses.
El Informe de gobernanza y seguridad de la IA encuestó a casi 700 líderes de ingeniería, profesionales de seguridad de datos y expertos en gobernanza sobre sus perspectivas para la seguridad y la gobernanza de la IA.
Desafíos de seguridad de la adopción de IA
Sin embargo, esta adopción también conlleva una enorme incertidumbre. Por ejemplo, el 80% de los expertos en datos coinciden en que la IA está haciendo que la seguridad de los datos sea más desafiante. Los expertos expresaron su preocupación por la exposición inadvertida de datos confidenciales por parte de los LLM y los ataques adversarios de actores maliciosos a través de modelos de inteligencia artificial.
De hecho, el 57% de los encuestados ha observado un aumento significativo de los ataques impulsados por IA durante el último año.
Si bien la rápida adopción de la IA ciertamente está presentando nuevos desafíos de seguridad , el optimismo en torno a su potencial está empujando a las organizaciones a adaptarse. Los líderes de datos creen, por ejemplo, que la IA mejorará las prácticas de seguridad actuales, para tareas como los sistemas de detección de amenazas impulsados por IA (40%) y el uso de IA como método de cifrado avanzado (28%).
Con estos beneficios asomando frente a los riesgos de seguridad, el 83% de las organizaciones están actualizando las directrices internas de privacidad y gobernanza, y tomando medidas para abordar los nuevos riesgos:
- El 78% de los líderes de datos dicen que su organización ha realizado evaluaciones de riesgos específicas para la seguridad de la IA.
- El 72 % está impulsando la transparencia mediante el seguimiento de las predicciones de la IA en busca de anomalías.
- El 61% cuenta con controles de acceso basados en propósitos para evitar el uso no autorizado de modelos de IA.
- El 37% dice que cuenta con una estrategia integral para seguir cumpliendo con las regulaciones recientes y futuras de IA y las necesidades de seguridad de los datos.
«Los estándares, regulaciones y controles actuales no se están adaptando lo suficientemente rápido para hacer frente a la rápida evolución de la IA, pero hay optimismo para el futuro», afirmó Matt DiAntonio , vicepresidente de gestión de productos de Immuta. “El informe describe claramente una serie de desafíos de seguridad de la IA, así como también cómo las organizaciones recurren a la IA para ayudar a resolverlos. La IA y el aprendizaje automático pueden automatizar procesos y analizar rápidamente grandes conjuntos de datos para mejorar la detección de amenazas y habilitar métodos de cifrado avanzados para proteger los datos.
“A medida que las organizaciones maduran en sus viajes hacia la IA, es fundamental eliminar el riesgo de los datos para evitar la exposición no intencionada o maliciosa de datos confidenciales a los modelos de IA. Adoptar una estrategia hermética de seguridad y gobernanza en torno a los canales y resultados de datos generativos de IA es imperativo para eliminar riesgos”, concluyó DiAntonio.
Fuerte confianza en las estrategias de seguridad de datos de IA
A pesar de que muchos líderes de datos expresan que la IA hace que la seguridad sea más desafiante, el 85% dice que tiene algo o mucha confianza en que la estrategia de seguridad de datos de su organización seguirá el ritmo de la evolución de la IA.
A diferencia de una investigación del año pasado que encontró que el 50% estaba muy o algo de acuerdo en que la estrategia de seguridad de datos de su organización no lograba seguir el ritmo de la evolución de la IA, esto indica que hay una curva de madurez y muchas organizaciones están avanzando en iniciativas de IA a pesar de los riesgos ya que la recompensa esperada vale la pena.
Los rápidos cambios en la IA son comprensiblemente apasionantes, pero también desconocidos. Esto es especialmente cierto porque las regulaciones son fluidas y muchos modelos carecen de transparencia. Los líderes de datos deberían combinar su optimismo con la realidad de que la IA seguirá cambiando y que los objetivos de cumplimiento seguirán moviéndose como lo hace.
Independientemente de lo que depare el futuro de la IA, una acción está clara: no existe una estrategia de IA responsable sin una estrategia de seguridad de los datos. Establezca una gobernanza que respalde una estrategia de seguridad de datos que no sea estática, sino que se adapte dinámicamente a medida que la innovación genera resultados para el negocio.
Fuente y redacción: helpnetsecurity.com
