Riesgos de seguridad en la aplicación de IA, 5G y realidad aumentada

La firma Accenture, consultora de estrategia, servicios tecnológicos y tercerización, dio a conocer potenciales vulnerabilidades que podrían sufrir las empresas en la aplicación de tecnologías como la Inteligencia Artificial (IA), 5G y realidad aumentada:

1. Inteligencia Artificial (IA): a diferencia de las aplicaciones codificadas discretamente, el comportamiento de la IA es probabilístico; por naturaleza, todas las condiciones y resultados no son prácticamente demostrables o conocidos. Para confiar en la IA, las empresas deben construir funciones de seguridad mínimas. Según Claudio Ordóñez, líder de Ciberseguridad de Accenture Chile, deben ampliarse las prácticas de desarrollo seguro (DevSecOps) para proteger la IA durante todo su ciclo de vida, realizar ejercicios de modelado de amenazas para cada proceso y mantener una biblioteca de algoritmos de defensa repetibles para diferentes escenarios. Por ejemplo, si un modelo se expone a proveedores de datos externos, puede estar en riesgo de su extracción, lo que puede terminar en resultados alterados, con implicaciones adicionales en la confidencialidad; por lo que las organizaciones necesitarán diferentes capacidades de seguridad para validar los modelos y entender su comportamiento antes de desplegarlos.

2. 5G: conforme aumenta la transición a esta tecnología, deberán enfrentarse asuntos como las generaciones anteriores de estándares no resueltos para el 5G (como la falta de funciones de autenticación), nuevos aspectos propios de esta tecnología (la virtualización que expande la superficie de ataque y el rastreo hiper-exacto, aumentando los problemas de privacidad) y las preocupaciones de seguridad por el aumento del volumen y la velocidad de la red (una comunicación más frecuente por video y un mayor uso de realidad virtual supone más vulnerabilidades basadas en video).

3. Realidad Aumentada (XR): entre las principales vulnerabilidades está la localización (los dispositivos XR deben constantemente mapear los entornos en los que operan, por lo que es necesaria información de localización personal almacenada de forma segura), el enmascaramiento de contenido (la manipulación de contenidos pueden llevar al usuario a dar erróneamente una orden), el reconocimiento de confianza de la IA (a medida que las imágenes se transfieren a la nube para el reconocimiento de objetos, voz o gestos, los datos pueden ser alterados y confundir la respuesta de los servicios) y el contenido de las imágenes y el sonido ambiental (a medida que el sistema XR emite un video, la transmisión puede estar expuesta a hackers que pueden ver todo el contenido).

Fuente:  América Retail         Fecha: 23-febrero-2021

Implicaciones para Costa Rica

Los procesos de transformación digital en las empresas resultan cada vez más necesarios para mantenerse en el mercado. Si bien previo al COVID-19 se buscaban dichas tecnologías para mejoras en productividad, eficiencia, trazabilidad y entre otros; esta crisis sanitaria aceleró dichos procesos de transformación para mantener la operación de las empresas a nivel mundial y garantizar el cumplimiento de las medidas sanitarias y de distanciamiento. Sin embargo, como lo indica la noticia, es importante que en estos procesos de transformación, las empresas consideren los diferentes riesgos de seguridad, sobre todo en un contexto en que los ciberataques han ido en constante aumento. Considerar estos riesgos también generará mayor claridad respecto a la inversión total que se requiere, su retorno, el talento humano necesario y otros aspectos que resultan determinantes para la implementación de nuevas tecnologías en las empresas.