La Organización Mundial de la Salud (OMS) presenta un breve documento con iniciativas para promover medidas legales, no legales y técnicas que reduzcan el riesgo de discriminación por edad que pueden padecer las personas mayores con la incorporación de la inteligencia artificial en la atención sanitaria y los cuidados.
El fenómeno del edadismo comporta discriminación para las personas mayores por causa de su edad y se asocia, según la OMS, a una vida más corta, peor salud física y mental, disminución de la calidad de vida, y un factor que puede comportar riesgo de pobreza, inseguridad financiera en la vejez y limitaciones para la calidad y cantidad de atención sanitaria brindada a las personas mayores.
¿Qué es la inteligencia artificial?
Cuando se emplea el término inteligencia artificial se hace referencia al uso de programas informáticos para el desarrollo de tareas que habitualmente se realizan por seres inteligentes. La base de los sistemas de inteligencia artificial se encuentra en algoritmos que traducen a un código informático instrucciones para el análisis rápido y autónomo de información de forma que se obtienen conclusiones, información y otros datos de un modo ágil.
Entre los tipos de tecnología de inteligencia artificial destacan las aplicaciones de aprendizaje automático (como el reconocimiento de patrones, procesamiento de lenguaje natural, procesamiento de señales y sistemas expertos, etc.).
El uso de aprendizaje automático se fundamental en el empleo de estadísticas y modelado matemático, para definir y analizar datos. Una vez ensayados los patrones de análisis, estos se aplican para realizar y/ guiar ciertas tareas, además de elaborar predicciones. Entre sus utilidades destacan, por ejemplo, la contribución a la predicción de enfermedades o eventos importantes de salud; la monitorización en remoto de labores de cuidado de larga duración; el seguimiento y asistencia sanitaria de personas en lugares remotos; o la contribución al desarrollo de fármacos relacionados con el envejecimiento, por citar algunas de ellas.
Desafíos para el uso de la inteligencia artificial en la atención sanitaria y los cuidados
La OMS alerta, sin embargo, sobre los desafíos éticos que la utilización de técnicas de inteligencia artificial comporta para la atención sanitaria, sus profesionales, y las propias personas destinatarias de cuidados por los servicios sanitarios o de Salud Pública. Entre los riesgos, la OMS subraya la importancia de realizar una identificación clara de los sesgos que, implícitos y explícitos, se trasladan desde la sociedad a estas herramientas tecnológicas y que terminan por hallar réplica en las tecnologías de inteligencia artificial: ¿qué perfiles realizan las investigaciones de mercado? ¿quiénes realizan las pruebas sobre la experiencia de las personas usuarias? ¿con qué datos se valida un algoritmo? ¿cuál es el perfil de las personas que validan los algoritmos?... son algunas de las necesarias preguntas a formular al respecto.
Así, la OMS subraya la necesidad de evitar que estas tecnologías puedan exacerbar o introducir nuevas formas de discriminación por causa de la edad, por el sencillo hecho de que se empleen ideas preconcebidas sobre las creencias de cómo las personas mayores desean vivir, cómo desean interactuar con la tecnología en su vida diaria, o por el uso de datos insuficientemente desagregados sobre las experiencias, habilidades e intereses de las personas mayores en esta etapa de la vida.
Por ejemplo, el empleo de tecnologías de inteligencia artificial para la priorización en la toma de decisiones puede comportar un cierto debate ético cuando un programa codifica un sistema basado en años de vida ajustados por calidad, que puede resultar discriminatorio al conceder menor valor a la vida de las personas mayores y destinar recursos a personas de las que se espera un mayor beneficio neto -en términos de esperanza de vida-. Esto es: personas adultas más jóvenes.
Recomendaciones para evitar el edadismo relacionado con el uso de tecnologías de inteligencia artificial
El informe contiene 8 importantes recomendaciones para que las tecnologías de inteligencia artificial contribuyan al fortalecimiento de la atención sanitaria y social de las personas mayores y se eviten los riesgos y sesgos que puedan reforzar su discriminación por razón de edad avanzada.
1. Promoción de diseños participativos en los que tomen parte las personas mayores, de modo que su participación en los diseños de tecnologías al servicio de la salud pase de ser anecdótico a sistemático, tanto en cuestiones de diseño como de programación. Por ello es necesario/aconsejable que estas reciban formación para incentivar su participación en el diseño y programación de soluciones de inteligencia artificial, contribuyendo asimismo a la reducción de la brecha digital que, en algunos casos, promueve grandes diferencias intergeneracionales y refuerza mecanismos de exclusión de las personas mayores del mundo tecnológico y digital.
La inclusión que promueve la OMS no solo ha de contemplar el factor edad, sino que ha de garantizar la representatividad y atención a otras diferencias resultado de razones étnicas o de raza, género, capacidad, etc. así como de otros aspectos demográficos clave.
2. Formación de equipos de ciencia de datos de edades diversas, en vista de la relevancia crítica de los datos, tanto en el entrenamiento como en la validación de las tecnologías de inteligencia artificial.
3. Recopilación de datos inclusivos por edad, de modo que en los desarrollos tecnológicos en materia de inteligencia artificial se garantice la obtención de datos diversos y que las personas mayores, con sus características sociodemográficas diversas, no se encuentran sub-representadas. En esta línea, en algunos países se han puesto en marcha comunidades discretas para la supervisión de datos de modo que sus miembros definan estándares éticos al respecto.
4. Inversión en infraestructura digital y en alfabetización digital para personas mayores, porque incluso en el caso de un adecuado desarrollo tecnológico, la ausencia de infraestructura digital adecuada o el conocimiento/capacitación para su uso puede ocasionar situaciones de discriminación por edad avanzada.
5. Derecho al consentimiento y a la oposición por parte de las personas mayores, de modo que estas proporcionen su consentimiento para el uso de tecnologías de inteligencia artificial en su atención sanitaria y cuidados, así como el derecho a ejercer la oposición en cualquiera de los casos, también cuando las recomendaciones sean resultado del empleo de tecnologías de inteligencia artificial para la salud.
6. Gobernanza y marcos regulatorios para el empoderamiento de las personas mayores, de modo que se garantice la incorporación de tecnologías de inteligencia artificial sin que por ello resulten discriminatorias para las personas mayores. Con esta finalidad, desde la OMS se recomienda que las personas mayores integren comités éticos, agencias regulatorias y otros organismos intergubernamentales u organismos normativos que valoren la incorporación de la inteligencia artificial y establezcan reglas para su uso en materia de transparencia, respeto a los derechos de propiedad y garantías de seguridad y eficacia para las personas mayores. En este sentido, las autoridades gubernamentales deberán de promover auditorías que garanticen la seguridad y eficacia de las tecnologías de inteligencia artificial que se incorporen a los servicios y cuidados de salud.
7. Impulso a una mayor investigación
Se detectan muchas cuestiones técnicas y operativas que han de ser resueltas para el mejor uso de la inteligencia artificial, y así evitar o no exacerbar la discriminación por cuestión de edad avanzada. De hecho, cada nueva aplicación o uso de la inteligencia artificial genera oportunidades y desafíos que deben abordarse antes de su adopción generalizada. En este sentido, con el aumento de los usos de soluciones de inteligencia artificial serán necesarias más investigaciones y estudios para garantizar que no se produce discriminación por causa de la edad avanzada o como consecuencia de la intersección de edad y otros sesgos vinculados al racismo y/o al sexismo.
8. Contar con procesos éticos robustos para evitar consecuencias negativas
Promover procesos éticos sólidos, en universidades, organizaciones sin ánimo de lucro, organizaciones y empresas que diseñan tecnologías de inteligencia artificial es fundamental para guiar el diseño, desarrollo y uso de las tecnologías de inteligencia artificial. Se trata, en definitiva, de lograr identificar no solo los posibles beneficios de estas tecnologías sino también sus posibles consecuencias negativas paras las personas mayores objeto de cuidados y atención sanitaria.
Si lo desea, puede acceder a la publicación el 'Edadismo en la inteligencia artificial para la salud'. Breve informe de políticas de la OMS (Ageism in artificial intelligence for health. WHO Policy Brief (WHO, 2022)
