La inteligencia artificial (IA) ha irrumpido con fuerza en la sociedad y el ámbito sanitario es uno de los grandes beneficiados. Por ello, la Organización Mundial de la Salud (OMS) ha publicado una guía sobre ética y gobernanza de la IA para grandes modelos de lenguaje multimodales (LMM, por sus siglas en inglés). Estas orientaciones son una actualización y ampliación de las recomendaciones que la organización internacional publicó en junio de 2021
Este documento está enfocado al uso adecuado de los modelos de lenguaje multimodales, un tipo de tecnología capaz de aceptar y procesar información de varios tipos, como imágenes, vídeos y texto, y generar resultados que no se limitan al tipo de dato introducido. Este tipo de modelo de IA está muy avanzado en cuanto a su capacidad para realizar tareas para las que no fueron programas explícitamente. En este sentido, la OMS señala más de 40 recomendaciones para que las empresas de tecnología, proveedores de atención médica y gobiernos las tengan en consideración.
De acuerdo con Jeremy Farrar, director científico de la OMS, “las tecnologías de IA generativa tienen el potencial de mejorar la atención sanitaria, pero sólo si quienes las desarrollan, las regulan y las utilizan identifican y tienen plenamente en cuenta los riesgos asociados”. Además, el experto ha señalado que “se necesita información y políticas transparentes para gestionar el diseño, desarrollo y uso de LMM para lograr mejores resultados de salud y superar las desigualdades sanitarias persistentes”.
“Se necesita información y políticas transparentes para gestionar el diseño, desarrollo y uso de LMM para lograr mejores resultados de salud y superar las desigualdades sanitarias persistentes”
Jeremy Farrar, director científico de la OMS
Recomendaciones clave de la guía
Esta guía está centrada en establecer estándares para el desarrollo y despliegue de LMM, así como para su integración y uso con fines médicos y de salud pública. Por ello, instan a los gobiernos a proporcionar infraestructura pública o sin fines de lucro accesibles para los desarrolladores de todos los sectores. Del mismo modo solicitan utilizar leyes, políticas y regulaciones para garantizar que los LMM y las aplicaciones utilizadas en la atención médica y la medicina cumplan con las obligaciones éticas y los estándares de derechos humanos.
Siguiendo la misma línea, instan a asignar una agencia reguladora existente o nueva para evaluar y aprobar esta tecnología. Y, también recomiendan introducir auditorías obligatorias posteriores a la liberación y evaluaciones de impacto por parte de terceros independientes cuando se implemente un LMM a gran escala.
“Los gobiernos de todos los países deben liderar de manera cooperativa los esfuerzos para regular eficazmente el desarrollo y el uso de tecnologías de inteligencia artificial, como los LMM”, ha explicado Alain Labrique, director de Salud Digital e Innovación de la División de Ciencias de la OMS.
Empresas desarrolladoras
El documento también incluye recomendaciones para los desarrolladores de LMM. Según la OMS, estos deben asegurar que esta tecnología no solo está diseñada por científicos e ingenieros. Los usuarios potenciales y todas las partes interesadas, directas e indirectas, deben participar desde las primeras etapas del desarrollo de la IA en un diseño estructurado, inclusivo y transparente.
Asimismo, aunque los LMM están diseñados para realizar tareas bien definidas con la precisión y seguridad necesarias, se entiende que pueden surgir problemas o situaciones inesperadas, por ello los desarrolladores también deberían poder predecir y comprender posibles resultados secundarios.
