Cmo evitar que la inteligencia artificial falle ms con las mujeres en los diagnsticos mdicos




Aburrida en un hospital de Nueva Jersey, Diane Camacho le cont a ChatGPT los sntomas que sufra, y le pidi que hiciera una lista con los posibles diagnsticos mdicos. Tena dificultad para respirar, dolor en el pecho, y la sensacin de que su corazn se paraba y arrancaba. El chatbot de OpenAI le dijo que la ansiedad era el diagnstico ms probable. Camacho pidi de nuevo el pronstico para un hombre con los mismos sntomas, con la sorpresa de que la inteligencia artificial le advirti de la posibilidad de que sufriera embolia pulmonar, un sndrome coronario agudo o una cardiomiopata, pero ni rastro de la ansiedad. As lo public Camacho hace unas semanas en la red X (antes Twitter).La inteligencia artificial generativa, como ChatGPT, combina grandes cantidades de datos con algoritmos y toma decisiones a travs de un aprendizaje automtico. Si los datos son incompletos o no representativos, los algoritmos pueden ser sesgados. Al hacer muestreos, los algoritmos pueden caer en errores sistemticos y seleccionar unas respuestas frente a otras. Frente a estos problemas, la ley europea de inteligencia artificial aprobada el pasado mes de diciembre prioriza que la herramienta se desarrolle con criterios ticos, transparentes y libre de sesgos.Los dispositivos mdicos, segn la norma, son considerados de alto riesgo y debern cumplir con requisitos estrictos: tener datos de alta calidad, registrar su actividad, tener una documentacin detallada del sistema, dar informacin clara al usuario, contar con medidas de supervisin humana y con un alto nivel de robustez, seguridad y precisin, segn explica la Comisin Europea.Ms informacinLa startup de Pol Sol de los Santos, presidente de Vincer.Ai, se encarga de auditar a las compaas para que puedan cumplir con las condiciones europeas. Lo hacemos a travs de un sistema de gestin de calidad de algoritmos, modelos y sistemas de inteligencia artificial. Se hace un diagnstico del modelo de lenguaje, y lo primero es ver si hay un dao y cmo lo corregimos. Adems, si una compaa cuenta con un modelo sesgado, les recomienda que se advierta con un descargo de responsabilidad. Si quisiramos distribuir un frmaco no apto para nios de 7 aos, sera impensable no avisar, ilustra Sol de los Santos.En el entorno de la salud, las herramientas de inteligencia artificial (IA) empiezan a ser habituales en pruebas de diagnstico por imagen y en programacin. Ayudan a los trabajadores sanitarios a acelerar el trabajo y a ser ms precisos. En radiologa son sistemas de ayuda, indica Josep Munuera, director de Radiodiagnstico del Hospital Sant Pau de Barcelona y experto en tecnologas digitales aplicadas a la salud. Los algoritmos estn dentro de aparatos de resonancia magntica y reducen el tiempo de obtencin de la imagen, explica Munuera. As, una resonancia que durara 20 minutos se puede acortar a tan solo siete minutos, gracias a la introduccin de algoritmos.Los sesgos pueden generar diferencias en la atencin mdica segn el gnero, el grupo tnico o el demogrfico. Un ejemplo se da en las radiografas de trax, segn explica Luis Herrera, arquitecto de soluciones en Databricks Espaa: Los algoritmos utilizados han mostrado diferencias en la precisin segn el gnero, lo que ha llevado a diferencias en la atencin. En concreto, la precisin en el diagnstico a mujeres era mucho menor. El sesgo de gnero, seala Munuera, es un clsico: Tiene que ver con los sesgos poblacionales y las base de datos. Los algoritmos se alimentan o preguntan a bases de datos, y si las bases de datos histricas tienen sesgos de gnero, la respuesta ser sesgada. Sin embargo, aade: El sesgo de gnero en salud existe, independientemente de la inteligencia artificial.Cmo evitar los sesgosCmo se entrena de nuevo la base de datos para evitar los sesgos? Arnau Valls, ingeniero coordinador del departamento de Innovacin del Hospital Sant Joan de Deu en Barcelona, explica cmo se hizo en un caso de deteccin de covid en Europa, mediante un algoritmo desarrollado con poblacin china: El acierto del algoritmo cay un 20% y aparecieron falsos positivos. Se tuvo que crear una base de datos nueva y se aadieron imgenes de poblacin europea en el algoritmo.Para enfrentarnos a un modelo sesgado como usuarios, debemos ser capaces de contrastar las respuestas que nos da la herramienta, indica Herrera: Debemos fomentar la conciencia sobre los sesgos en IA y promover el uso del pensamiento crtico, as como exigir transparencia a las empresas y validar las fuentes.Los expertos coinciden en no utilizar ChatGPT con una finalidad mdica. Pero Jos Ibeas, director del grupo de Nefrologa del Instituto de Investigacin e innovacin del Hospital Universitario Parc Taul de Sabadell (Barcelona), sugiere que la herramienta evolucionara positivamente si el chatbot pregunta a bases de datos mdicas. Se est empezando a trabajar en ello. La forma de hacerlo es entrenar la base de datos de los pacientes con el sistema de OpenAI utilizando algoritmos e ingenieros propios. De este modo, se protege la privacidad de los datos, explica Ibeas.La tecnologa de ChatGPT s es til en el entorno mdico en ciertos casos, reconoce Ibeas: La capacidad que tiene de generar estructuras, anatmicas o matemticas, es total. El entrenamiento que tiene en estructuras moleculares es buensimo. Ah realmente se inventa poco. Coincidiento con el resto de expertos, Ibeas advierte que la inteligencia artificial nunca sustituir a un mdico, pero puntualiza: El mdico que no sepa de inteligencia artificial ser reemplazado por el que s sepa.Puedes seguir a EL PAS Tecnologa en Facebook y X o apuntarte aqu para recibir nuestra newsletter semanal.Suscrbete para seguir leyendoLee sin lmites_