OMS advierte de riesgos de la inteligencia artificial en dispositivos médicos

La Organización Mundial de la Salud (OMS) advirtió que, si no se tiene precaución, el ascenso exponencial  de las herramientas de inteligencia artificial (IA) puede comprometer la seguridad de los pacientes. Debido a la emoción que generan las plataformas como ChatGPT, Bard, Bert y otras por su potencial en el área de la salud, los desarrolladores no han mostrado la precaución que normalmente se aplicaría a las nuevas tecnologías, dijo la organización en un comunicado.

Muchos de los sistemas de IA que se desean utilizar en el cuidado de la salud, utilizan las llamadas herramientas de modelo de lenguaje grande (LLM, por sus siglas en inglés), para imitar la comprensión, el procesamiento y la comunicación humana. La OMS dijo que el crecimiento de estas tecnologías, muchas aún en etapa experimental, justifica una mirada de cerca a los riesgos que representan para los valores clave en la atención médica y la investigación científica: transparencia, inclusión, compromiso público, supervisión experta y evaluación rigurosa.

Esos riesgos incluyen preocupaciones de que los datos utilizados para entrenar a la IA puedan estar sesgados, lo que lleva a las herramientas a generar información engañosa o inexacta, incluidas respuestas que parecen autorizadas o plausibles cuando están equivocadas. Se necesita una supervisión rigurosa para que las tecnologías se utilicen de manera segura, eficaz y ética, dijo la OMS.

La advertencia de la organización hace eco de los comentarios de Robert Califf, comisionado de la Administración de Drogas y Alimentos de Estados Unidos (FDA, por sus siglas en inglés), quien dijo que se necesita una regulación ágil de los LLM para evitar que el sistema de atención médica sea “arrasado rápidamente por algo que apenas entendemos”. Ejemplos recientes de nuevas aplicaciones de IA en tecnología médica, incluyen el software de visualización de datos y planificación de Smith and Nephew para cirugía robótica y el nuevo software de BD para buscar Staphylococcus aureus resistente a la meticilina (MRSA).

Fuente: MedTech Dive                 Fecha: 17-mayo-2023

Implicaciones para Costa Rica

Según una investigación de PROCOMER, un 35% de las empresas TIC que ofrece servicios basados en tecnologías 4.0, vende sus soluciones a la industria de dispositivos médicos. Lo anterior, convierte a esta vertical de clientes en la segunda más importante para este sector, dentro de la categoría de bienes.

El surgimiento de plataformas de IA tiene un potencial importante para acelerar los desarrollos de este sector. Por lo tanto, se vuelve todavía más relevante que las empresas mantengan sus procesos de vigilancia tecnológica, debido a que les permitiría conocer con mayor detalle los nuevos lanzamientos en el mercado, los cuales a su vez pueden ser un insumo importante para sus desarrollos. Así también, tal y como PROCOMER lo ha mostrado en alertas comerciales anteriores, es importante que las empresas conozcan los pronunciamientos de agencias regulatorias u organizaciones internacionales al respecto, ya que pueden tener incidencia directa en la planificación de sus desarrollos.