OMS Lanza Pautas para la Inteligencia Artificial en el Ámbito de la Salud

En respuesta a la creciente utilización de herramientas de inteligencia artificial (IA) en el ámbito de la salud, la Organización Mundial de la Salud (OMS) ha presentado un conjunto de nuevas guías éticas y de gobernanza para las tecnologías emergentes, específicamente dirigidas a los grandes modelos multimodales (LMM) popularizados por plataformas como ChatGPT, Bard y Gemini.

En su guía, la OMS señala el impacto revolucionario que conlleva el uso masivo de grandes modelos multimodales en la atención médica. Aunque la aplicación de la inteligencia artificial en medicina no es novedosa, estos recursos han alcanzado proporciones inesperadas con su rápida incorporación al uso cotidiano en todo el mundo.

El documento elaborado por un equipo multidisciplinario de expertos, contiene más de 40 recomendaciones con el propósito de respaldar a gobiernos, empresas y prestadores de cuidados en el desarrollo y uso adecuado de estas tecnologías.

Abordando el potencial de mejora en la atención sanitaria

El Dr. Jeremy Farrar, científico jefe de la OMS, destacó que las tecnologías de IA generativa poseen el potencial de mejorar la atención sanitaria, siempre y cuando los desarrolladores, reguladores y usuarios consideren plenamente los riesgos asociados. Enfatizó la necesidad de información y políticas transparentes para gestionar el diseño, desarrollo y utilización de estos modelos multimodales, con el objetivo de alcanzar resultados de salud superiores y abordar las persistentes desigualdades en salud.

Riesgos asociados y necesidad de supervisión rigurosa

Aunque los LMM ya se están utilizando con fines específicos en entornos sanitarios, la OMS destaca una serie de riesgos asociados. Entre ellos se incluye la posibilidad de generar declaraciones falsas, incompletas, sesgadas o inexactas, lo que podría perjudicar a quienes basan sus decisiones de salud en esta información.

El documento advierte sobre la capacidad de los LMM para formular respuestas con una apariencia de autoridad, a pesar de que la información producida pueda ser inexacta o incorrecta. En muchos casos, los usuarios pueden aceptar esta información acríticamente como correcta, lo que subraya la necesidad de una supervisión rigurosa y de la aplicación de las guías proporcionadas por la OMS.

Uso	Beneficios Potenciales o Propuestos	Riesgos Potenciales
Diagnóstico y atención clínica	Asistir en la gestión de casos complejos y revisión de diagnósticos rutinarios	Respuestas inexactas, incompletas o falsas
	Reducir la carga de comunicación de los proveedores de atención médica (“liberación de teclado”)	Datos de entrenamiento de baja calidad
	Proporcionar ideas novedosas e informes a partir de diversas formas no estructuradas de datos de salud	Sesgo (de datos de entrenamiento y respuestas)
		Sesgo de automatización
		Degradación de habilidades (de profesionales de la salud)
		Consentimiento informado (de pacientes)
Uso guiado por el paciente	Generar información para mejorar la comprensión de una condición médica (como paciente o cuidador)	Declaraciones inexactas, incompletas o falsas
	Asistente de salud virtual	Manipulación
	Inscripción en ensayos clínicos	Privacidad
		Menos interacción entre médicos y pacientes
		Injusticia epistémica
		Riesgo de prestación de atención fuera del sistema de salud
Tareas administrativas	Asistir con la documentación y el papeleo requerido para la atención clínica	Inexactitudes y errores
	Asistir en la traducción de idiomas	Respuestas inconsistentes según las indicaciones
	Completar registros electrónicos de salud
	Redactar notas clínicas después de una visita
Educación médica y de enfermería	Textos dinámicos adaptados a las necesidades de cada estudiante	Contribuir al sesgo de automatización
	Conversación simulada para mejorar la comunicación y practicar en situaciones diversas y con pacientes diversos	Errores o información falsa que socavan la calidad de la educación médica
	Respuestas a preguntas acompañadas de razonamiento de pensamiento	Nueva carga de aprendizaje de habilidades digitales
Investigación científica y desarrollo de medicamentos	Generar ideas a partir de datos y estudios científicos	No se puede responsabilizar a los algoritmos por el contenido
	Generar texto para uso en artículos científicos, presentación de manuscritos o revisión por pares	Los algoritmos codifican sesgos hacia las perspectivas de los países de ingresos altos
	Analizar y resumir datos para la investigación
	Corrección de pruebas	Generar información y/o referencias que no existen
	Diseño de fármacos de novo	Socavar principios clave de la investigación científica, como la revisión por pares
		Exacerbar el acceso diferencial al conocimiento científico

Tabla 1. Beneficios y riesgos potenciales en diversos usos de modelos grandes multimodales (LMMs) en el cuidado de la salud.

Hacia un uso ético y efectivo de la inteligencia artificial

Según la evaluación de los expertos de la OMS, la creación de herramientas de inteligencia artificial generativa seguras debe contar con la participación de diversas partes interesadas (gobiernos, empresas de tecnología, proveedores de atención médica, pacientes y sociedad civil) en todas las fases de desarrollo e implementación de dichas tecnologías, incluida la supervisión y regulación.

La OMS insta a los actores relevantes en la salud global a adoptar estas pautas y trabajar hacia un uso ético y efectivo de la inteligencia artificial en beneficio de la atención médica y la sociedad en su conjunto.