La Inteligencia Artificial en Salud Pública y la Necesidad de Regulación

Resumen clínico: Sin la validación requerida, la inteligencia artificial en salud pública tiende a tener un rendimiento deficiente en los pacientes menos representados en sus datos de entrenamiento. Los autores abogan por la validación antes de la implementación.

Los departamentos de salud, presionados por la escasez de personal y presupuestos limitados, han encontrado en la inteligencia artificial (IA) un socio dispuesto. Los algoritmos ahora analizan las visitas a los departamentos de emergencia en busca de patrones de síntomas anómalos, clasifican vecindarios para priorizar el alcance y responden preguntas de los pacientes a través de chatbots. Esto es un trabajo que anteriormente requería personal que las agencias ya no tienen.

La pandemia de COVID-19 normalizó gran parte de esto casi de la noche a la mañana, ya que las agencias dependieron de herramientas automatizadas para prever aumentos de casos, rastrear la capacidad hospitalaria y promover el mensaje de vacunas.

Sin embargo, gran parte de lo que hace la IA en salud pública, incluyendo la analítica de vigilancia y la evaluación de riesgos para el alcance, cae fuera de cualquier procedimiento comparable. La adopción ha continuado de todos modos. En un ensayo analítico publicado en la American Journal of Public Health, dos pediatras examinan esta discrepancia y argumentan que el problema es estructural más que técnico.

Los productos farmacéuticos, las vacunas y las intervenciones clínicas deben someterse a revisión previa al mercado, monitoreo de seguridad y estándares de eficacia, mientras que la mayoría de los sistemas de IA no responden a una equivalencia, dejando un sistema de autorregulación por parte de la industria. Este arreglo, como es de esperar, favorece la rapidez en el acceso al mercado, la escala y el retorno de inversión sobre la equidad, la seguridad y las salvaguardias comunitarias.

Existen marcos éticos voluntarios, pero carecen de fuerza legal, y las agencias, abrumadas, están mal posicionadas para examinar las afirmaciones de los proveedores o negociar contratos que prioricen el bienestar de la población.

Los autores señalan el oxímetro de pulso como un estudio de caso. Sus algoritmos de absorción de luz, desarrollados predominantemente en poblaciones de piel más clara, sobreestimaron sistemáticamente la saturación de oxígeno en pacientes de piel más oscura durante la pandemia, por lo que los pacientes más susceptibles a enfermedades graves fueron los menos probables de ser triados con precisión.

Tratan esto como el patrón para el sesgo de automatización: los algoritmos comercializados como más objetivos que el juicio humano no eliminan el sesgo, sino que lo sistematizan. La discriminación incorporada en un sistema presentado como neutral se vuelve más difícil de reconocer y contestar. La misma lógica se extiende a aplicaciones de salud conductual configuradas según las prioridades de pagadores o empleadores, que el ensayo describe como brindar directrices estandarizadas disfrazadas de orientación personalizada basada en evidencia.

Los riesgos no son intercambiables entre poblaciones, argumentan los autores, y tampoco lo son las soluciones. Los niños enfrentan registros digitales permanentes construidos a partir de evaluaciones de comportamiento a las que no pueden consentir; las comunidades indígenas enfrentan el despliegue de IA que ignora los marcos de soberanía de datos; los adultos mayores son mal clasificados por modelos entrenados en cohortes más jóvenes; las familias indocumentadas pueden evitar la atención médica por completo cuando la recopilación de datos habilitada por IA suscita el espectro de la aplicación de la ley de inmigración. El programa del ensayo se basa en esa diversidad: evaluaciones obligatorias de impacto en equidad, validación en las comunidades de uso previsto, estándares nacionales para la transparencia y pruebas de equidad, y autoridad humana retenida sobre decisiones de gran impacto.

“El uso responsable de la IA en la práctica de salud pública debe, por lo tanto, calibrarse según esta diversidad y combinar una gobernanza cruzada con validación específica de la población, compromiso comunitario y salvaguardias adaptadas a cada grupo”, dice Terry Adirim, MD, MPH, pediatra en la Universidad de Servicios Uniformados de Ciencias de la Salud.

La prueba previa al mercado de la FDA cubre algunos dispositivos médicos habilitados para IA, pero no la analítica de vigilancia ni la evaluación de riesgos de alcance. Los autores también destacan plantillas de auditoría de fuera de las ciencias de la vida: un marco de riesgo del Instituto Nacional de Estándares y Tecnología, un estándar de vehículos autónomos de Underwriters Laboratories y directrices de la Asociación de Tecnología del Consumidor para una IA confiable. El ensayo sugiere estos como modelos para estándares nacionales mínimos, con revisión por niveles según el daño potencial y evaluaciones de equidad antes de que se implemente la IA.

Descargo de responsabilidad: Este contenido es solo para fines informativos y no sustituye el consejo médico profesional. Siempre consulte a un médico o a otro proveedor de salud calificado con cualquier pregunta que pueda tener respecto a una condición médica.

Fuente: https://www.epocrates.com/online/article/ai-enters-public-health-without-proper-oversight