Guía ética sobre el uso de inteligencia artificial en la atención médica

Resumen clínico

Es esencial informar a los pacientes sobre el uso de la inteligencia artificial (IA) en su atención y tratar los resultados producidos por la IA como un insumo que complementa, pero nunca reemplaza, el juicio del médico. La ACP considera la descalificación y el sesgo algorítmico como riesgos éticos que los médicos deben asumir, no solo problemas del sistema.

Los médicos no esperaron a contar con una guía ética sustancial antes de adoptar la IA, y lo mismo sucedió con sus sistemas de salud. Los escribas ambientales redactan notas, los chatbots responden a mensajes de pacientes y los algoritmos analizan mamografías, mientras que la respuesta de la profesión sobre cómo deben utilizarse estas herramientas aún se encuentra dispersa en marcos de gobernanza destinados a desarrolladores, reguladores e instituciones.

El Colegio Americano de Médicos considera que esta falta de guía es un problema que vale la pena resolver. La orientación ética existente se centra en cómo los sistemas deben gobernar los algoritmos, en lugar de lo que el clínico individual le debe al paciente individual cuando la IA entra en la consulta. Se está llegando a un consenso sobre valores amplios como la transparencia y la equidad, pero no necesariamente sobre lo que esos valores requieren dentro del consultorio. Un nuevo documento de posición de la ACP aborda esta cuestión directamente, fundamentando el uso ético de la IA en la relación paciente-médico y ofreciendo a los médicos un marco práctico para las herramientas que ya tienen en sus manos.

El documento establece cuatro posiciones. Primero, la IA debe implementarse para apoyar la relación paciente-médico, no para debilitarla. Segundo, los médicos y los estudiantes deben reafirmar las competencias de cuidado mientras desarrollan nuevas habilidades para el uso de IA. Tercero, la IA utilizada en la toma de decisiones debe respetar y promover el juicio clínico independiente del médico, en lugar de reemplazarlo. Y cuarto, los médicos, en colaboración con clínicas, hospitales y sistemas de salud, deben identificar y mitigar el sesgo algorítmico, incluidos sus orígenes sociales y estructurales.

En cuanto a la divulgación, el comité se posiciona a favor de la transparencia. Informar a los pacientes no requiere documentar cada detalle de cada modelo, argumentan. Sin embargo, la novedad de la IA y la inquietud pública justifican errar hacia una mayor divulgación, comenzando por lo básico, como comunicar que un escriba ambiental está funcionando y cómo se manejan los datos. El documento cita datos de encuestas que muestran que casi el 60% de los estadounidenses temen que el uso de IA empeore sus relaciones con los clínicos. Los médicos deben estar listos para explicar qué hace un sistema de IA y si se aplica al paciente en cuestión, de la misma manera que ya explican si los hallazgos de un ensayo son aplicables.

La descalificación es un problema ético, no meramente educativo, porque los pacientes se ven perjudicados cuando los sistemas automatizados cometen errores y el médico ya no puede detectar esos fallos. La IA autónoma debe ser rara, limitada a decisiones de bajo riesgo y baja complejidad, y siempre debe permitir que un clínico participe en el proceso. Los beneficios en términos de eficiencia que proporciona la IA deben traducirse en más tiempo de calidad con los pacientes, advierte el documento, no en la expectativa de que los médicos verán a un mayor número de ellos.

En cuanto al sesgo, se plantea una solución que va más allá de meras correcciones técnicas. La verdadera mitigación implica abordar la inequidad en salud y los determinantes sociales que moldearon los datos en primer lugar. Los médicos no deben suponer que todos los modelos están sesgados ni retener la IA de ciertos grupos, lo que puede generar un ciclo de retroalimentación que degrade el rendimiento para esos pacientes.

El documento fue elaborado por el Comité de Ética, Profesionalismo y Derechos Humanos de la ACP utilizando una revisión narrativa de investigaciones revisadas por pares, comentarios y directrices organizacionales sobre ética de la IA. Fue revisado por la Junta de Gobernadores de la ACP, múltiples consejos y expertos externos, y aprobado por la Junta de Regentes en abril de 2026. El marco se basa en un documento de política de la ACP de 2024 que enmarca la IA como inteligencia aumentada, una herramienta para asistir a los clínicos en lugar de reemplazarlos.

Mucho de lo que el documento requiere aún no existe. Las métricas de equidad de IA validadas aún deben desarrollarse, y el comité desea que se integren en etiquetas claras y estandarizadas que resuman las características básicas de un modelo para pacientes y médicos. Las reglas federales en evolución y las leyes estatales pueden responsabilizar a los entidades de atención médica cubiertas por la discriminación algorítmica, agudizando las implicancias de las posiciones sobre sesgo. Con la revisión de la FDA de dispositivos habilitados para IA aún bastante limitada, la ACP sostiene que la gobernanza local es esencial y señala los modelos que muchas organizaciones de salud ya están construyendo como el ámbito donde se desarrollarán las mejores prácticas.

Los autores concluyen: «Ahora es el momento para que los médicos consideren cómo aprovechar el potencial transformador de la IA mientras evitan el daño a los pacientes. Los principios éticos y los puntos de referencia de la relación, la autogobernanza y la competencia deben dar forma al uso de la IA en la práctica médica, basándose en ‘un código ético y un deber de servicio que, en medicina, prioriza la atención al paciente sobre el interés propio’, y el privilegio de autorregulación que se otorga a la medicina por la sociedad.»

Descargo de responsabilidad: Esta información no debe considerarse como una guía de tratamiento médico. Siempre consulte a un profesional de la salud para obtener asesoramiento específico y personalizado.

Fuente: https://www.epocrates.com/online/article/acp-issues-ethics-guidance-for-ai-at-point-of-care