Privacidad y seguridad organizacional en la era de la Inteligencia Artificial Generativa

Por: Redacción IMT.

El universo de la ciberseguridad, privacidad e identidad ha madurado a gran velocidad debido a los eventos disruptivos vividos en los últimos años. En gran medida detonados por el fenómeno sanitario que impactó al mundo, el aumento en el uso de Internet y la nube, la acelerada transformación digital y la adopción de soluciones basadas en Inteligencia Artificial.

Debido a ello, Cisco, empresa especializada en la interconexión de redes informáticas y de comunicaciones, publicó su estudio sobre privacidad de datos “Cisco 2024 Data Privacy Benchmark Study”, el cual revisa anualmente los principales problemas de privacidad y seguridad, así como el impacto que causan en industrias y organizaciones.

Los resultados del estudio destacan las crecientes preocupaciones sobre la privacidad con herramientas ligadas a Inteligencia Artificial Generativa, los retos de confianza a los que se enfrentan las organizaciones al usar la IA y los atractivos retornos de inversión en privacidad. Basándose en las respuestas de 2,600 profesionales en materia de seguridad de 12 países, incluido México, la séptima edición del estudio de referencia muestra que la privacidad es mucho más que una cuestión de cumplimiento normativo.

Creciente preocupación por la privacidad con IA Generativa

“Las empresas ven a la IA Generativa como una tecnología totalmente diferente, con nuevos desafíos a considerar”, mencionó al respecto Dev Stahlkopf, Chief Legal Officer de Cisco. Y añadió: “Más del 90% de los encuestados cree que la herramienta requiere de nuevas técnicas para gestionar los datos y el riesgo. Aquí es donde entra en juego una gobernanza reflexiva. Preservar la confianza de los clientes depende de ello”.

Entre las principales preocupaciones, las empresas encuestadas citaron las amenazas a los derechos legales y de propiedad intelectual de una organización (69%), y el riesgo de divulgación de información al público o a los competidores (68%). Entre las empresas mexicanas la principal preocupación es la divulgación de datos (77%) y los derechos legales (73%).

La mayoría de las organizaciones son conscientes de estos riesgos y están poniendo en marcha controles para limitar la exposición: el 63% ha establecido limitaciones sobre los datos que se pueden introducir, en el caso de México esta cifra se reduce al 49%; el 61% tiene límites sobre las herramientas de IA Generativa que pueden utilizar los empleados, en el país es del 49%, y el 27% dijo que su organización prohibió las aplicaciones de esta tecnología por el momento, restricción en el 15% de las organizaciones mexicanas. No obstante, muchas personas han ingresado información que podría ser problemática, incluidos datos sobre los empleados (45% a nivel global y 34% en México) o información no pública sobre la empresa (48%; en México 49%).

Lentos avances en materia de IA y transparencia

“Actualmente los consumidores mexicanos están preocupados con el uso de la IA y la confidencialidad de su información, sin embargo, el 87% de las organizaciones del país reconocen que deben hacer más para garantizar a sus clientes que sus datos están siendo utilizados para los fines previstos y legítimos al utilizar la herramienta”, señaló Marcia Muniz, Directora Jurídica de Cisco para América Latina y Canadá.

Las prioridades de las organizaciones para generar confianza en los consumidores difieren de la opinión entre los particulares. Para los usuarios es fundamental obtener información clara sobre el uso exacto que se hace con sus datos y que no sean utilizados con fines comerciales. Cuando se les hizo la misma pregunta, las empresas señalaron que sus prioridades son cumplir la legislación sobre privacidad (25%) y evitar las violaciones de datos (23%); la respuesta de las compañías mexicanas fue similar, aunque con un porcentaje un poco mayor: 31% destacó cumplir con la legislación y el 24% evitar las violaciones de datos. Lo anterior sugiere que sería útil prestar más atención a la transparencia, especialmente en el caso de las aplicaciones de IA en las que puede resultar difícil comprender cómo toman sus decisiones los algoritmos.

Privacidad y confianza: el papel de las certificaciones y leyes externas

Las empresas reconocen la necesidad de calmar las preocupaciones de sus clientes sobre el uso que se hace con sus datos.

"El 95% de los encuestados en México afirmó que sus clientes no les comprarían si no protegieran adecuadamente los datos", explicó Muniz. Y añadió: "Buscan pruebas contundentes de que la organización es de confianza, la privacidad está ligada con la confianza del cliente y su lealtad”.

A pesar de los costos y requisitos que las leyes de privacidad pueden imponer a las organizaciones, el 80% de los encuestados dijo que las leyes de privacidad han tenido un impacto positivo en ellos, y sólo el 6% dijo que el impacto ha sido negativo. Una normativa sólida en materia de privacidad aumenta la confianza de los consumidores en las organizaciones con las que deciden compartir sus datos.

Además, muchos gobiernos y organizaciones están estableciendo requisitos de localización de datos para mantener determinada información dentro del país o la región. Aunque la mayoría de las empresas (91% global, 88% en México) cree que sus datos estarían intrínsecamente más seguros si se almacenaran dentro de su país o región, el 86% (84% en México) también afirmó que un proveedor global, que opere a escala, puede proteger mejor sus datos en comparación con un proveedor local.

Protección de datos: una inversión valiosa

El gasto en privacidad se ha más que duplicado en los últimos cinco años, lapso durante el cual los beneficios han tendido al alza y la rentabilidad se ha mantenido. Este año, el 95% (94% en México) indicó que las ventajas de la privacidad superan sus costes, y la organización promedio obtiene un retorno de 1.6 veces su inversión en privacidad. Además, el 80% (81% en México) indicó recibir importantes beneficios de "Lealtad y Confianza" de sus inversiones en privacidad, y esto es incluso mayor (92%) para las organizaciones más maduras en privacidad.

En 2023, las organizaciones más grandes (más de 10,000 empleados) aumentaron su gasto en privacidad entre 7% y 8% desde el año previo. Sin embargo, las organizaciones más pequeñas registraron un gasto menor, por ejemplo, las empresas con 50-249 empleados, disminuyeron su inversión en privacidad en una cuarta parte del promedio.