Mientras estaba aburrida en un hospital de Nueva Jersey, Diane Camacho habló con ChatGPT sobre los síntomas que estaba experimentando y le pidió que elaborara una lista de posibles diagnósticos médicos. Tenía dificultad para respirar, dolor en el pecho y la sensación de que su corazón “se detenía y arrancaba”. El chatbot OpenAI le dijo que la ansiedad era el diagnóstico más probable. Camacho volvió a preguntar por el pronóstico de un hombre con los mismos síntomas, con la sorpresa de que la inteligencia artificial le advirtió de la posibilidad de sufrir una embolia pulmonar, un síndrome coronario agudo o una miocardiopatía, pero sin ningún rastro de ansiedad. Así lo publicó Camacho hace unas semanas en la red X (antes Twitter).
La IA generativa, como ChatGPT, combina grandes cantidades de datos con algoritmos y toma decisiones mediante el aprendizaje automático. Si los datos están incompletos o no son representativos, los algoritmos pueden estar sesgados. Al realizar el muestreo, los algoritmos pueden cometer errores sistemáticos y seleccionar determinadas respuestas sobre otras. Ante estos problemas, la ley europea sobre inteligencia artificial aprobada el pasado diciembre da prioridad a que la herramienta se desarrolle según criterios éticos, transparentes e imparciales.
Los dispositivos médicos, según la norma, se consideran de alto riesgo y deben cumplir requisitos estrictos: tener datos de alta calidad, registrar su actividad, tener documentación detallada del sistema, proporcionar información clara al usuario, tener medidas de vigilancia humana y un alto nivel. robustez, seguridad y precisión, según explica la Comisión Europea.
Allá comenzar por Pol Solà de los Santos, presidente de Vincer.Ai, se encarga de auditar a las empresas para que puedan cumplir con las condiciones europeas. “Esto lo hacemos a través de un sistema de gestión de calidad compuesto por algoritmos, modelos y sistemas de inteligencia artificial. Se hace un diagnóstico del modelo lingüístico, y lo primero es ver si hay algún daño y cómo lo corregimos. Además, si una empresa tiene un modelo sesgado, recomiendan advertirle con una advertencia. “Si quisiéramos distribuir un medicamento que no es apto para niños de 7 años, sería impensable no avisar”, explica Solà de los Santos.
En el sector sanitario, las herramientas de inteligencia artificial (IA) se están volviendo comunes en las pruebas y programación de diagnóstico por imágenes. Ayudan a los profesionales sanitarios a agilizar su trabajo y ser más precisos. En radiología, se trata de “sistemas de ayuda”, indica Josep Munuera, director de radiodiagnóstico del Hospital Sant Pau de Barcelona y experto en tecnologías digitales aplicadas a la salud. “Los algoritmos están dentro de dispositivos de resonancia magnética y reducen el tiempo necesario para obtener la imagen”, explica Munuera. Así, una resonancia magnética que duraría 20 minutos se puede acortar a sólo siete minutos, gracias a la introducción de algoritmos.
Los sesgos pueden generar diferencias en la atención médica según el género, el origen étnico o la demografía. Un ejemplo se da en las radiografías de tórax, como explica Luis Herrera, arquitecto de soluciones de Databricks España: “Los algoritmos utilizados mostraron diferencias en la precisión según el género, lo que provocó diferencias en la atención. Específicamente, la precisión diagnóstica de las mujeres fue mucho menor. El sesgo de género, señala Munuera, es un clásico: “Tiene que ver con el sesgo poblacional y con las bases de datos. Los algoritmos se alimentan o consultan en bases de datos, y si las bases de datos históricas tienen un sesgo de género, la respuesta estará sesgada. Sin embargo, añade: “El sesgo de género en la salud existe independientemente de la inteligencia artificial. »
Cómo evitar los prejuicios
¿Cómo se recicla la base de datos para evitar sesgos? Arnau Valls, ingeniero coordinador del departamento de Innovación del Hospital Sant Joan de Déu de Barcelona, explica cómo se hizo en un caso de detección de covid en Europa, utilizando un algoritmo desarrollado con población china: “La precisión de la El algoritmo cayó un 20% y aparecieron falsos positivos. Tuvimos que crear una nueva base de datos y añadir imágenes de la población europea al algoritmo”.
Para afrontar un modelo sesgado como usuarios, debemos ser capaces de contrastar las respuestas que nos da la herramienta, afirma Herrera: “Necesitamos concienciar sobre el sesgo de la IA y promover el uso del pensamiento crítico, además de exigir transparencia a las empresas. y validar las fuentes.
Los expertos acuerdan no utilizar ChatGPT con fines médicos. Pero José Ibeas, director del grupo de nefrología del Instituto de Investigación e Innovación del Hospital Universitario Parc Taulí de Sabadell (Barcelona), sugiere que la herramienta evolucionaría positivamente si el chatbot consultar bases de datos médicas. “Estamos empezando a trabajar en ello. La forma de lograrlo es entrenar la base de datos de pacientes con el sistema OpenAI utilizando sus propios algoritmos e ingenieros. De esta forma se protege la confidencialidad de los datos”, explica Ibeas.
La tecnología ChatGPT es útil en el ámbito médico en determinados casos, reconoce Ibeas: “Su capacidad de generar estructuras, anatómicas o matemáticas, es total. La formación que tiene en estructuras moleculares es muy buena. Allí realmente no inventamos mucho. De acuerdo con el resto de expertos, Ibeas advierte de que la inteligencia artificial nunca sustituirá a un médico, pero subraya: “El médico que no conoce la inteligencia artificial será sustituido por aquel que la conoce. »
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
Suscríbete para seguir leyendo
Leer sin límites
_
