Investigaciones recientes en Estados Unidos revelan que asistentes virtuales como ChatGPT y Gemini cometen errores significativos al responder preguntas de salud, con algunas respuestas consideradas peligrosas. Expertos recomiendan cautela y consultar siempre a profesionales.
Dos estudios publicados este mes en revistas médicas especializadas alertan sobre los riesgos de utilizar chatbots de inteligencia artificial como primera consulta para temas de salud. Las investigaciones, realizadas en centros médicos estadounidenses, evaluaron el desempeño de varios sistemas de IA ante preguntas médicas y obtuvieron resultados preocupantes.
Nicholas Tiller, investigador del Instituto Lundquist para la Innovación Biomédica del Centro Médico Harbor-UCLA, probó cinco sistemas con 250 preguntas de salud. Los chatbots respondieron correctamente poco más del 50% de las veces, y aproximadamente una de cada cinco respuestas incorrectas fue calificada como potencialmente peligrosa. «Lo más probable es que causara daño a alguien si se siguiera el consejo», señaló Tiller en declaraciones recogidas por su estudio publicado en BMJ Open.
Un equipo separado de Mass General Brigham abordó la cuestión desde otro ángulo, presentando a 21 modelos de IA situaciones médicas realistas donde debían «hacer de médicos». Este trabajo, publicado en JAMA Network Open, también otorgó calificaciones reprobatorias a las herramientas evaluadas.
Los resultados coinciden con investigaciones anteriores sobre la vulnerabilidad de estos sistemas a la desinformación. Un experimento de 2024 demostró cómo los chatbots pueden incorporar afirmaciones falsas: investigadores inventaron una condición llamada «bixonimanía» con estudios claramente fabricados, y en semanas los sistemas la citaban como real. Un estudio de The Lancet en enero encontró que incluso el chatbot más confiable trataba como verdaderas más del 10% de afirmaciones inventadas.
Según una encuesta del Centro West Health-Gallup publicada este mes, una de cada cuatro personas en Estados Unidos utiliza chatbots para obtener información de salud, siendo los más jóvenes quienes más los consultan. Preocupa especialmente que el 14% de los usuarios (aproximadamente 14 millones de personas) afirmó no haber consultado a un profesional médico gracias a la información recibida por IA.
«Obviamente es profundamente preocupante que las personas dependan de chatbots no validados para su atención médica», comentó Tim Lash, presidente del Centro de Políticas de West Health. Sin embargo, destacó que los datos muestran una «preocupación saludable» entre los usuarios, ya que solo un tercio de quienes usan IA para salud confían plenamente en ella.
Los chatbots populares están entrenados con grandes modelos de lenguaje que procesan textos de diversas fuentes, desde revistas científicas hasta redes sociales y foros. Aunque varias empresas trabajan en mejorar sus capacidades médicas y han actualizado sus modelos desde los períodos evaluados, los expertos enfatizan que estas herramientas no sustituyen la consulta profesional.