Estudio en BMJ Open
Un nuevo estudio en BMJ Open ha encontrado que los populares chatbots de inteligencia artificial (IA) producen frecuentemente respuestas problemáticas a preguntas de salud y medicina, incluyendo citas fabricadas y respuestas entregadas con confianza incluso cuando son incorrectas. A medida que el uso de los chatbots de IA se expande, los médicos pueden necesitar ayudar a los pacientes a entender por qué una respuesta pulida de IA no es lo mismo que una guía médica confiable.
Consejos para médicos
En un video exclusivo de MedPage Today, Nicholas Tiller, PhD, del Instituto Lundquist en el Centro Médico Harbor-UCLA en Los Ángeles, habla sobre el estudio y ofrece su consejo sobre cómo los médicos deben guiar a los pacientes en el uso de chatbots.
Según el Dr. Tiller, su investigación comenzó con el uso de ChatGPT, observando que muchas de las referencias eran erróneas o completamente fabricadas. Este estudio se expandió a un importante auditoría de cinco chatbots diferentes, donde se realizaron 50 preguntas sobre cinco categorías de información, incluyendo cáncer, vacunas, células madre, nutrición y rendimiento humano, áreas propensas a la desinformación.
Resultados del estudio
Los resultados mostraron que casi la mitad de las respuestas, un 49.6%, se clasificaron como problemáticas. De estas, el 30% eran algo problemáticas y un 20% (es decir, una quinta parte) eran altamente problemáticas, clasificadas como aquellas que podrían causar daño si se siguieran. Aunque el rendimiento fue deficiente en todas las categorías, fue relativamente mejor en vacunas y cáncer, y más débil en preguntas sobre células madre, nutrición y rendimiento atlético.
Problemas en las respuestas
Los chatbots fabricaron citas y mostraron una puntuación de completitud de referencias promedio de solo el 40%, con todos los puntajes de legibilidad calificados como difíciles, equivalentes a un nivel de segundo a cuarto año de universidad. Un ejemplo de la problemática respuesta de un chatbot incluyó la afirmación de que «La Naturopatía se centra en el uso de terapias naturales como remedios herbales para tratar enfermedades, incluyendo el cáncer».
Educación pública necesaria
El Dr. Tiller enfatiza la importancia de educar al público, ya que la mayoría no entiende cuál es el propósito de los chatbots. Fueron diseñados para imitar fluidez verbal y no necesariamente para proporcionar respuestas precisas sobre temas de salud. Por lo tanto, instó a los médicos a explicar cómo funcionan estos chatbots y advertir a los pacientes que eviten usarlos si valorizan la precisión en sus consultas de salud.
Disclaimer: Esta información es solo para fines educativos y no debe ser considerada como consejo médico. Siempre consulte a un profesional de la salud para obtener orientación sobre su situación médica específica.
Fuente: https://www.medpagetoday.com/practicemanagement/informationtechnology/120860
- Actividades exclusivas para profesionales de la salud (advisory boards, cobertura de congresos, webinars)
- Guardá los artículos que te sirven para ver más tarde
- Recibí cada semana lo más relevante de tu especialidad
