Tecnología y salud
Cómo conseguir que un 'médico robot' no sea peor que un humano
El uso principal de la IA en la medicina consiste en entrenar algoritmos con datos de pacientes y luego emplearla para analizar casos nuevos

Anthony Celi, experto en IA aplicada a la salud, ha estado de visita en Barcelona. / Zowy Voeten
Michele Catanzaro
La irrupción de la inteligencia artificial (IA) en la salud ha producido casos sorprendentes. Programas que confunden la marca de agua de una radiografía con algo metido en el cuerpo de un paciente. Algoritmos que desvelan el género y la raza de personas anónimas. Cardiólogos que fallan diagnósticos porque un 'software' les genera inseguridad .
No obstante, la idea del 'médico robot' basado en IA ya no es tan lejana. "Hay una burbuja: muchos médicos que nunca tuvieron nada que ver con la IA ahora se dedican a ella", afirma Alexandre Perera, investigador de la Universitat Politècnica de Catalunya y fundador de Vincer.ai, una empresa que se dedica a certificar el buen uso de la IA a la salud.
"Hace un par de años entré en el comité de ética del Hospital de Bellvitge porque habían aumentado mucho las propuestas de proyectos que emplean IA", afirma Toni Lorente, experto en gobernanza de la IA de la consultora The Future Society.
Recomendaciones automáticas
En Estados Unidos la IA ya da recomendaciones médicas. Así lo contó en Barcelona Leo Anthony Celi, médico de cuidados intensivos y experto en datos clínicos del Massachussets Institute of Technology (MIT). Celi visitó la ciudad en el marco del 'GenAI Health Hack', un taller de aplicaciones de IA a la salud organizado por el Hospital Clínic, el Departament de Salut y la Universitat de Barcelona.
El uso principal de la IA en la clínica consiste en entrenar algoritmos con datos de pacientes (historiales clínicos, imágenes médicas, etcétera) y luego emplearla para analizar casos nuevos. "En EEUU, los seguros usan la IA para escribir resúmenes de la situación médica de pacientes y en programas de apoyo a las decisiones clínicas. Los médicos siempre tienen que revisar y firmar, pero ya han surgido problemas", comenta Celi.
Por ejemplo, esos programas han llegado a recomendar a pacientes con cáncer que perdieran peso, una recomendación nefasta que la IA había aprendido de las recomendaciones para otros diagnósticos. También tienden a ofrecer tratamientos complejos con más frecuencia a los pacientes blancos. Durante la pandemia, uno de esos programas, pensado para identificar cuándo un paciente con coronavirus tenía que ingresar en la UCI, llegó a equivocarse en un 80% de los casos.
Modelos de pacientes
Estas aplicaciones solo son un primer paso. "La IA se puede utilizar para distinguir subgrupos de pacientes dentro de un mismo diagnóstico: por ejemplo, para prever quienes tendrán peor evolución entre los que tienen diabetes", explica Perera, no implicado en el taller del Clínic. La IA también podría reconocer señales tempranas de una enfermedad rara en los síntomas genéricos de un paciente, que podrían pasar desapercibidos por los médicos.
Perera ve un papel incluso para la IA generativa - la de ChatGPT o Midjourney, por ejemplo, que no se limita a analizar documentos o imágenes, sino que crea material nuevo. "Por ejemplo, se podría crear un modelo generativo del paciente diabético que describa su posible evolución", explica.
"Cuando se demuestre que la IA funciona mejor que un médico, para diagnosticar una enfermedad, por ejemplo, lo más ético sería utilizar la IA. Lo contrario sería quitarle oportunidades a los pacientes", afirma Perera.
Sesgos
Sin embargo, eso no siempre ocurre. Por ejemplo, Celi cita un estudio en el cual un sistema de triaje con IA no aportaba ninguna mejora respeto a la tarea de los cardiólogos. Pero lo que más le preocupa a este experto es que la IA amplifique los sesgos humanos.
"La IA no entiende el contexto de los datos con los cuales está entrenada", explica el científico. Por ejemplo, un conjunto de datos puede sugerir que las mujeres tiene peores éxitos en ciertas cirugías. Una IA entrenada con esos datos consideraría el hecho de ser mujer como un factor de riesgo adicional. "Pero eso no es cierto: la razón no es biológica, sino que hay más cirujanos hombres, que reconocen menos los síntomas de las mujeres", explica Celi. "El riesgo de la IA es que le estamos enseñando los mismos sesgos que tenemos los humanos", afirma el investigador.
Celi también advierte sobre el impacto de la IA en el comportamiento de los médicos. "Cuando a los radiólogos les dieron un copiloto basado en IA que les enseñaba sus errores, eso redujo su autoconfianza y resultó en que hicieran aún más errores", explica.
Auditar los algoritmos
"Todos estos sesgos son el resultado de un diseño de producto deficiente. Se pueden solucionar si se hacen las cosas bien", replica Perera. Sin embargo, también este experto coincide en que no se puede aplicar la IA a la ligera. "Se necesita un sistema de diagnóstico y certificación de su eficacia que asegure que realmente es mejor que un humano", explica. "Todos los centros quieren ser pioneros en adoptar la IA, pero eso no se puede hacer al coste di emplear soluciones suboptimales", afirma.
Lorente, tampoco implicado en el taller del Clínic, cree que los hospitales españoles están haciendo un buen trabajo de selección de proyectos responsables y efectivos con IA. La legislación europea, conocida com AI-act, ha establecido unos controles sobre la ética de esta nueva tecnología. Pero Perera advierte de un riesgo. "Es bastante complicado que una tecnología basada en IA llegue al sistema público de salud aquí. Los mecanismos de compra de tecnología innovadora son limitados. Hay el riesgo de que acabemos comprando IA de otros paíes que no han sido tan cuidadosos como nosotros", concluye.
- El momento Eddahchouri
- Condenado un hombre en A Coruña que afeitó las cejas y cortó el pelo a su pareja mientras dormía para denigrarla
- Estos son los nombres de pila prohibidos en España: el Ministerio de Justicia los cambiará sin consultar
- Derriba con su coche dos farolas en la tercera ronda y se da a la fuga
- Trey Thompkins: «Le dije a Heurtel que si venía al Leyma, también podía ayudarse a sí mismo»
- El Concello de A Coruña cederá cuatro parcelas a la Xunta para vivienda de promoción pública
- Un accidente múltiple deja dos heridos en Arteixo
- Una soltera destroza la autoestima de este camarero gallego en 'First dates': 'Me habéis traído un llavero