La OMS presenta una guía para el uso ético y seguro de la IA en la salud. Incluye recomendaciones para evitar sesgos y riesgos de ciberseguridad, fomentando una IA integrada y transparente en el sector sanitario.
La Organización Mundial de la Salud (OMS) ha emitido hoy una nueva guía enfocada en el uso ético y seguro de la inteligencia artificial (IA) en el ámbito de la salud. Esta guía pone énfasis en los grandes modelos de lenguaje (LMM), una forma avanzada y en rápida evolución de IA generativa.
Los LMM tienen la capacidad de producir textos y otros contenidos predictivos procesando grandes cantidades de datos. Ejemplos notables incluyen herramientas como Chat-GPT, cuya relevancia en nuestras vidas crece paralelamente a los avances en IA. La OMS resalta la creciente viabilidad de usar estos modelos en el sector médico para diagnóstico, investigación de síntomas y tratamientos, desarrollo de medicamentos y gestión administrativa en salud.
Sin embargo, a pesar de su uso emergente en salud, la OMS advierte que aún se desconoce la efectividad y los beneficios esperados de los LMM en este campo. Es crucial, por lo tanto, establecer normativas para su integración y aplicación en la medicina y la salud pública.
«Es importante reconocer los riesgos, como el ‘sesgo de automatización’, que pueden generar afirmaciones falsas o inexactas, afectando negativamente las decisiones de salud de las personas», indica la OMS.
Además, estos modelos, al igual que otras formas de IA, están expuestos a vulnerabilidades de ciberseguridad que podrían comprometer la privacidad de los datos de pacientes y la confiabilidad de los algoritmos en la asistencia médica.
La OMS sugiere una colaboración «vertical e integrada» de todos los actores relevantes, incluyendo gobiernos, empresas de tecnología, proveedores de atención sanitaria y la sociedad civil. Los gobiernos deben invertir en infraestructuras accesibles para los desarrolladores de IA, a cambio de su adhesión a principios éticos. Además, se recomienda la creación de leyes que aseguren que los LMM respeten los derechos humanos y la designación de agencias reguladoras para su evaluación.
Alain Labrique, director del departamento de Salud Digital e Innovación de la OMS, afirmó: «Los gobiernos de todos los países deben liderar de forma cooperativa los esfuerzos para regular eficazmente el desarrollo y el uso de las tecnologías de IA, como los LMM».
La OMS enfatiza la necesidad de aumentar los esfuerzos en todas las fases de desarrollo de los LMM hacia un diseño «estructurado, inclusivo y transparente», con la participación de ingenieros, científicos, usuarios finales, proveedores de servicios médicos, profesionales de la salud y pacientes.
Finalmente, aunque los LMM presentan desafíos actuales, la OMS también reconoce su potencial para mejorar los sistemas de salud, contribuyendo a la salud pública y al logro de la cobertura sanitaria universal.
Discusión sobre esto post