OMS Lanza Pautas para la Inteligencia Artificial en el Ámbito de la Salud

La OMS ha lanzado nuevas guías éticas y de gobernanza para grandes modelos multimodales en salud, reconociendo su impacto revolucionario y proporcionando más de 40 recomendaciones para respaldar su desarrollo y uso adecuado.

En respuesta a la creciente utilización de herramientas de inteligencia artificial (IA) en el ámbito de la salud, la Organización Mundial de la Salud (OMS) ha presentado un conjunto de nuevas guías éticas y de gobernanza para las tecnologías emergentes, específicamente dirigidas a los grandes modelos multimodales (LMM) popularizados por plataformas como ChatGPT, Bard y Gemini.

En su guía, la OMS señala el impacto revolucionario que conlleva el uso masivo de grandes modelos multimodales en la atención médica. Aunque la aplicación de la inteligencia artificial en medicina no es novedosa, estos recursos han alcanzado proporciones inesperadas con su rápida incorporación al uso cotidiano en todo el mundo. 

El documento elaborado por un equipo multidisciplinario de expertos, contiene más de 40 recomendaciones con el propósito de respaldar a gobiernos, empresas y prestadores de cuidados en el desarrollo y uso adecuado de estas tecnologías.

WHO Guidance - Principios éticos de consenso de la OMS para el uso de la inteligencia artificial en la salud.

Abordando el potencial de mejora en la atención sanitaria

El Dr. Jeremy Farrar, científico jefe de la OMS, destacó que las tecnologías de IA generativa poseen el potencial de mejorar la atención sanitaria, siempre y cuando los desarrolladores, reguladores y usuarios consideren plenamente los riesgos asociados. Enfatizó la necesidad de información y políticas transparentes para gestionar el diseño, desarrollo y utilización de estos modelos multimodales, con el objetivo de alcanzar resultados de salud superiores y abordar las persistentes desigualdades en salud.

Riesgos asociados y necesidad de supervisión rigurosa

Aunque los LMM ya se están utilizando con fines específicos en entornos sanitarios, la OMS destaca una serie de riesgos asociados. Entre ellos se incluye la posibilidad de generar declaraciones falsas, incompletas, sesgadas o inexactas, lo que podría perjudicar a quienes basan sus decisiones de salud en esta información.

El documento advierte sobre la capacidad de los LMM para formular respuestas con una apariencia de autoridad, a pesar de que la información producida pueda ser inexacta o incorrecta. En muchos casos, los usuarios pueden aceptar esta información acríticamente como correcta, lo que subraya la necesidad de una supervisión rigurosa y de la aplicación de las guías proporcionadas por la OMS.

Uso

Beneficios Potenciales o Propuestos

Riesgos Potenciales

Diagnóstico y atención clínica

Asistir en la gestión de casos complejos y revisión de diagnósticos rutinarios

Respuestas inexactas, incompletas o falsas

 

Reducir la carga de comunicación de los proveedores de atención médica (“liberación de teclado”)

Datos de entrenamiento de baja calidad

 

Proporcionar ideas novedosas e informes a partir de diversas formas no estructuradas de datos de salud

Sesgo (de datos de entrenamiento y respuestas)

  

Sesgo de automatización

  

Degradación de habilidades (de profesionales de la salud)

  

Consentimiento informado (de pacientes)

Uso guiado por el paciente

Generar información para mejorar la comprensión de una condición médica (como paciente o cuidador)

Declaraciones inexactas, incompletas o falsas

 

Asistente de salud virtual

Manipulación

 

Inscripción en ensayos clínicos

Privacidad

  

Menos interacción entre médicos y pacientes

  

Injusticia epistémica

  

Riesgo de prestación de atención fuera del sistema de salud

Tareas administrativas

Asistir con la documentación y el papeleo requerido para la atención clínica

Inexactitudes y errores

 

Asistir en la traducción de idiomas

Respuestas inconsistentes según las indicaciones

 

Completar registros electrónicos de salud

 
 

Redactar notas clínicas después de una visita

 

Educación médica y de enfermería

Textos dinámicos adaptados a las necesidades de cada estudiante

Contribuir al sesgo de automatización

 

Conversación simulada para mejorar la comunicación y practicar en situaciones diversas y con pacientes diversos

Errores o información falsa que socavan la calidad de la educación médica

 

Respuestas a preguntas acompañadas de razonamiento de pensamiento

Nueva carga de aprendizaje de habilidades digitales

Investigación científica y desarrollo de medicamentos

Generar ideas a partir de datos y estudios científicos

No se puede responsabilizar a los algoritmos por el contenido

 

Generar texto para uso en artículos científicos, presentación de manuscritos o revisión por pares

Los algoritmos codifican sesgos hacia las perspectivas de los países de ingresos altos

 

Analizar y resumir datos para la investigación

 
 

Corrección de pruebas

Generar información y/o referencias que no existen

 

Diseño de fármacos de novo

Socavar principios clave de la investigación científica, como la revisión por pares

  

Exacerbar el acceso diferencial al conocimiento científico

Tabla 1. Beneficios y riesgos potenciales en diversos usos de modelos grandes multimodales (LMMs) en el cuidado de la salud.

Hacia un uso ético y efectivo de la inteligencia artificial

Según la evaluación de los expertos de la OMS, la creación de herramientas de inteligencia artificial generativa seguras debe contar con la participación de diversas partes interesadas (gobiernos, empresas de tecnología, proveedores de atención médica, pacientes y sociedad civil) en todas las fases de desarrollo e implementación de dichas tecnologías, incluida la supervisión y regulación.

La OMS insta a los actores relevantes en la salud global a adoptar estas pautas y trabajar hacia un uso ético y efectivo de la inteligencia artificial en beneficio de la atención médica y la sociedad en su conjunto.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *



Las opiniones expresadas en este artículo son exclusivamente responsabilidad de su autor. Revista Telégrafo firme con su compromiso de promover el pensamiento crítico y libertad de expresión en la sociedad guatemalteca, brinda espacios abiertos, auténticos y sin filtros para que personas de distintos sectores de la sociedad puedan expresarse, sin embargo, la publicación de este artículo no supone que el medio valide su argumentación o la verdad de sus conclusiones.
You May Also Like