La IA en Salud Debe Ser Asistencial, No Autónoma

A medida que la tecnología avanza en el campo de la salud, surge la cuestión de cómo se debe integrar la inteligencia artificial (IA) en la práctica médica. La IA debería ser un recurso asistencial, que apoye a los profesionales de la salud en su labor, en lugar de reemplazarlos o actuar de manera autónoma.

Desafíos de la IA en Medicina

En diversas situaciones, los médicos se ven obligados a firmar notas progresivas generadas por grabaciones ambientales, o a aceptar puntuaciones de riesgo predictivas incrustadas en los registros de salud electrónicos. Esto plantea una pregunta crítica: ¿Quién está realmente ejerciendo juicio en estas decisiones? La respuesta a esta pregunta definirá la próxima etapa de la IA en la atención médica.

Los miedos más sonados sobre la IA en medicina imaginan un escenario donde los algoritmos diagnostican y los médicos quedan obsoletos. Sin embargo, el verdadero riesgo podría ser más sutil. El temor radica en que los clínicos asuman la responsabilidad legal y ética de las decisiones mientras que, en la práctica, pierden autoridad y tiempo para ejercer este juicio adecuadamente.

La Necesidad de Cuidado y Vigilancia

Es fundamental dejar de tratar el uso de la IA como una única categoría. Herramientas como la documentación ambiental moldean el registro clínico, mientras que los sistemas predictivos dirigen la atención hacia ciertos riesgos. Sin embargo, cada una de estas herramientas plantea preguntas diferentes sobre consentimiento y responsabilidad. Agruparlas hace que se pierdan de vista las difíciles cuestiones que deben abordarse.

Un hilo conductor es la creciente desconexión entre donde reside la responsabilidad y donde se encuentra el control. A medida que algunos médicos firman notas generadas en gran medida por máquinas, se hace difícil buscar un equilibrio entre la precisión técnica y la complejidad humana inherente a la práctica de la medicina. La duda y el contexto social son esenciales en la atención al paciente, y son elementos que la IA podría pasar por alto.

El Sesgo de Automatización

La preocupación no es que los médicos obedezcan ciegamente a los algoritmos, sino que las condiciones organizativas como la presión del tiempo hagan que la revisión independiente de la información parezca ineficiente. Con el tiempo, los clínicos están en riesgo de convertirse en revisores de salidas generadas por máquinas en lugar de ser los creadores del juicio profesional.

Aquí es donde surgen dos salvaguardias vitales: el consentimiento debe ser específico y los clínicos deben tener cuidado con lo que las herramientas no pueden ver; aspectos sutiles de la interacción humana son cruciales para el diagnóstico y tratamiento adecuado.

Estándar de Responsabilidad

Lo que se necesita en las organizaciones de atención médica es un estándar claro: la IA debe ser asistencial, no autónoma. Esto significa que cada proceso asistido por IA debe tener un humano responsable asignado y un ámbito definido. También significa asegurarse de que el tiempo y la información estén disponibles para cambiar o rechazar la salida generada por la IA, y garantizar que los pacientes estén adecuadamente informados sobre el uso de estas tecnologías.

El debate público sobre la IA en salud suele dividirse en entusiasmo o alarma. La posición más equilibrada se encuentra en el medio: la IA puede ayudar a los clínicos a ver más, recordar mejor y razonar con mayor eficacia. Sin embargo, no debe usarse para simular juicio humano. La firma de un médico no puede convertirse en un acto ceremonial por debajo de una decisión producida por máquinas.

Disclaimer: Este contenido es solo informativo y no debe reemplazar el consejo médico profesional. Siempre consulte a un médico o un profesional de la salud calificado para obtener información sobre su situación médica.

Fuente: https://www.medpagetoday.com/opinion/second-opinions/122622