Modelos de IA en Radiología: Desafíos en la Evaluación de Diagnósticos y la Brecha de Equidad
La inteligencia artificial (IA) ha revolucionado el campo de la radiología, permitiendo avances significativos en la precisión diagnóstica y en la eficiencia del análisis de imágenes. Sin embargo, a medida que la IA se integra más en la medicina, surgen preocupaciones sobre su desempeño en diferentes grupos demográficos. Estudios recientes han revelado que los modelos de IA no siempre funcionan de manera equitativa para todos los pacientes, presentando fallas en su rendimiento, especialmente en mujeres y personas de color.
¿Qué son los atajos demográficos?
Investigadores del MIT descubrieron en 2022 que algunos modelos de IA son capaces de predecir con precisión la raza de un paciente a partir de radiografías de tórax, algo que incluso los radiólogos más experimentados no pueden hacer. Estos modelos que predicen con exactitud la raza también tienden a mostrar mayores brechas de equidad en su capacidad para diagnosticar imágenes de personas de diferentes razas o géneros. Este fenómeno sugiere que los modelos pueden estar utilizando “atajos demográficos” al realizar evaluaciones diagnósticas, lo que conduce a resultados incorrectos para ciertos grupos.
Según Marzyeh Ghassemi, profesora asociada del MIT y autora principal de un estudio reciente, los modelos de IA de alta capacidad son buenos predictores de características demográficas humanas como la raza, el sexo o la edad. Sin embargo, esta capacidad puede estar vinculada a un rendimiento desigual entre distintos grupos demográficos.
Impacto de los atajos demográficos en la equidad diagnóstica
El uso de atajos demográficos por parte de los modelos de IA puede resultar en un diagnóstico menos preciso para mujeres, personas de color y otros grupos subrepresentados. Los investigadores entrenaron modelos utilizando datos de radiografías de tórax de un hospital en Boston para predecir condiciones médicas como la acumulación de líquido en los pulmones, el colapso pulmonar o el agrandamiento del corazón. Aunque los modelos mostraron un buen rendimiento en general, también presentaron brechas de equidad significativas, es decir, discrepancias entre las tasas de precisión para hombres y mujeres, y para pacientes blancos y negros.
Estas discrepancias son preocupantes, especialmente porque muchos hospitales utilizan modelos de IA desarrollados en otros centros de salud, lo que podría significar que los modelos no funcionan igual de bien en diferentes poblaciones.
Estrategias para reducir las brechas de equidad
El equipo de investigación exploró varias estrategias para reducir estas brechas. Una de las estrategias incluyó entrenar los modelos para optimizar la “robustez de subgrupos”, recompensando a los modelos por mejorar su rendimiento en los grupos con peor desempeño y penalizándolos si su tasa de error para un grupo era mayor que para otros.
Otra estrategia fue utilizar enfoques “adversariales de grupo”, que intentan eliminar cualquier información demográfica de las imágenes. Ambos métodos mostraron mejoras en la equidad, pero solo cuando los modelos fueron probados en datos similares a los utilizados durante su entrenamiento.
Sin embargo, cuando los modelos “desbiased” fueron aplicados a datos de pacientes de otros hospitales, las brechas de equidad reaparecieron. Esto indica que los métodos actuales para reducir las disparidades en los modelos de IA pueden no ser suficientes cuando se trasladan a nuevos entornos de datos.
Recomendaciones para los Hospitales
Los investigadores recomiendan que los hospitales evalúen los modelos de IA en sus propias poblaciones de pacientes antes de implementarlos. Esto es crucial para garantizar que no estén generando resultados inexactos para ciertos grupos. Además, sugieren que se continúe investigando para desarrollar métodos que mejoren la equidad de los modelos en diversos contextos.
La integración de la IA en la radiología ofrece oportunidades sin precedentes para mejorar la atención médica, pero también presenta desafíos significativos en términos de equidad y precisión. Para garantizar que estos modelos beneficien a todos los pacientes por igual, es fundamental abordar las brechas de equidad y desarrollar estrategias que mejoren el rendimiento de la IA en diferentes poblaciones. La investigación continua y la evaluación rigurosa de los modelos en diversos contextos serán esenciales para alcanzar un futuro más equitativo en la medicina asistida por IA.
Para más información puede visitar Nature Medicine.
0 comentarios