GenAI ofrece a las instituciones de servicios financieros enormes oportunidades, particularmente en el análisis y la gestión de conjuntos de datos no estructurados, pero también puede aumentar los riesgos de seguridad , según FS-ISAC.
GenAI puede organizar grandes cantidades de información y extraer de ella información que puede utilizar para mejorar las operaciones comerciales, maximizar sus mercados y mejorar la experiencia del cliente. Esos conjuntos de datos analizados por GenAI pueden revelar información sobre fraudes, amenazas y riesgos, que presentan oportunidades de seguridad notables.
“La GenAI presenta enormes oportunidades para que las empresas financieras mejoren sus operaciones comerciales, brinden un mejor servicio al cliente e incluso mejoren su postura de ciberseguridad”, afirmó Michael Silverman , director de estrategia e innovación de FS-ISAC. “Sin embargo, al igual que cualquier nuevo desarrollo tecnológico, la GenAI aumenta los riesgos de seguridad cuando no se aprovecha de manera segura y conforme a las normas”.
FS-ISAC describe ocho pasos fundamentales para desarrollar un enfoque de gobernanza de datos eficaz que aproveche los beneficios de GenAI sin dejar de cumplir con los estándares de seguridad.
Considere sus riesgos
Muchos de los riesgos asociados con la gobernanza de datos tradicional pueden verse incrementados por la GenAI. El desarrollo de políticas, controles técnicos, roles y responsabilidades claros y métricas de rendición de cuentas, entre otros pasos, pueden arrojar luz sobre los riesgos, las brechas y las oportunidades.
Entrevistar a su equipo actual de gobernanza de datos y a los administradores de datos individuales puede arrojar más luz sobre los riesgos, las brechas y las oportunidades. Comprender esos riesgos en conjunto será importante a medida que desarrolle sus políticas, estándares y procesos.
Criterios de selección de datos
El uso de conjuntos de datos requiere un enfoque responsable y cauteloso con una supervisión constante. Desarrolle un camino claro para la selección de datos y luego realice pruebas de riesgo periódicas para asegurarse de que los controles para proteger los conjuntos de datos funcionen como se espera.
Las normas de privacidad deben formar parte de los criterios: los derechos de privacidad del cliente son primordiales y pueden solicitar que se olviden sus datos. Esto significa que debe poder rastrear dónde y cómo se han utilizado los datos del cliente.
Crear y mantener un inventario de linaje de datos
Se necesitan controles de acceso sólidos, prácticas de desinfección de datos y clasificaciones de datos precisas para contrarrestar las preocupaciones en torno al linaje y la trazabilidad de los datos.
Además, las empresas deben asegurarse de poder identificar y resolver las clasificaciones de datos faltantes en los conjuntos de datos. Son necesarios controles de acceso estrictos, limpieza de datos y clasificaciones de datos dinámicas y precisas, especialmente cuando se utilizan LLM que contienen información de identificación personal o toma de decisiones de clientes.
Sea disciplinado con el acceso a los datos y la autorización.
Los datos de entrenamiento de GenAI deben estar separados y el acceso restringido para garantizar que los modelos se entrenen con los datos correctos. Establezca una cadencia de revisión regular de los conjuntos de datos y su acceso.
Para garantizar que las tecnologías GenAI produzcan los resultados previstos, los datos de entrenamiento de GenAI deben estar claramente separados y el acceso restringido para que los modelos no se entrenen accidentalmente con datos incorrectos. La arquitectura del modelo también debe tener en cuenta esta segregación.
Controlar el acceso al ajuste de los parámetros del modelo es tan importante como controlar el acceso a los datos de entrenamiento o las incorporaciones, ya que el ajuste de los parámetros del modelo puede afectar los resultados generados por estos modelos.
Proteja obsesivamente los datos de sus clientes
Se deben aprovechar las técnicas de seguridad que incluyen privacidad diferencial, cifrado en tránsito y en reposo, desinfección de datos y sandboxing para mantener la confidencialidad, integridad y disponibilidad de la información confidencial.
Utilice las mejores prácticas al crear planes de prueba efectivos
Generar líneas de base para la prueba de modelos y aprovechar el intercambio de datos entre sectores para garantizar una cobertura adecuada en todo un dominio. Comprender la fiabilidad y la integridad de los datos subyacentes permite realizar pruebas de modelos más sólidas con menos limitaciones.
Manténgase actualizado sobre las vulnerabilidades del modelo
Las prácticas fundamentales de seguridad de gobernanza de datos combinadas con una higiene cibernética básica pueden aliviar las vulnerabilidades creadas por el creciente panorama de amenazas.
Exija a sus proveedores transparencia sobre su almacenamiento de datos
Establecer una comunicación transparente con todos los proveedores para garantizar que las actividades cumplan con los requisitos regionales e internacionales, así como con los estándares de seguridad internos de la empresa.
Los casos de uso y los riesgos de GenAI aún están evolucionando, y si bien GenAI ofrece un gran potencial para los procesos de servicios financieros, el sector tiene muchas preocupaciones sobre la seguridad, el uso, la privacidad y el cumplimiento de los datos.
Fuente y redacción: helpnetsecurity.com
