El acceso inmediato a la tecnología modificó de manera drástica la forma en que los ciudadanos buscan respuestas a sus dolencias cotidianas. Sin embargo, lo que parece una solución rápida en la pantalla del celular puede transformarse en un serio peligro. Una investigación internacional reveló que confiar en chats de inteligencia artificial (IA) para obtener consejos de salud puede ser una apuesta arriesgada.
El estudio, liderado por investigadores del Instituto Lundquist para la Innovación Biomédica, en Estados Unidos, evaluó el desempeño de cinco de los modelos más utilizados en la actualidad: Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) y Grok (xAI). Según reportes globales y datos a los que pudo acceder la Agencia Noticias Argentinas, los resultados revelaron que la mitad de las respuestas a preguntas basadas en evidencia científica se clasificaron como “algo” o “altamente” problemáticas.
Un protocolo de estrés para evaluar los mitos y el cáncer
Cómo fue la metodología del estudio
Para poner a prueba la fiabilidad de estos sistemas, los científicos diseñaron 250 consultas divididas en cinco categorías críticas: cáncer, vacunas, células madre, nutrición y rendimiento deportivo. De esa manera, las preguntas fueron formuladas para imitar las búsquedas comunes de los usuarios y, en algunos casos, para ‘estresar’ a los modelos hacia mitos comunes o consejos contraindicados.
La simulación de casos comunes frente a la pantalla expuso las debilidades estructurales de las plataformas digitales. El análisis determinó que el 20 % de las respuestas eran altamente problemáticas, con el potencial de dirigir a los usuarios hacia tratamientos ineficaces o causar daños directos a la salud si se seguían sin supervisión profesional. Ante la pregunta recurrente sobre si la inteligencia artificial podría reemplazar a los kinesiólogos, oncólogos o nutricionistas en el corto plazo, el informe arroja una rotunda negativa sustentada en los márgenes de error técnico.
El peligro detrás del tono de certeza absoluta
El espejismo de la neutralidad
Uno de los aspectos más alarmantes que revela la investigación es la seguridad con la que las IA presentan la información, ya que las respuestas se expresan habitualmente con un tono de certeza absoluta, sin incluir advertencias o matices sobre las limitaciones de su conocimiento, destacan desde la agencia Sinc. Esta distorsión cognitiva induce al usuario a validar diagnósticos digitales erróneos sin dudar de la máquina.
Esta falsa neutralidad, que suele equiparar afirmaciones científicas con pseudociencias, no es una decisión editorial, sino una limitación propia de la arquitectura de estos modelos, explican los especialistas informáticos. Al estar diseñados para predecir secuencias de palabras basadas en vastos conjuntos de datos, que incluyen desde artículos científicos hasta foros de Reddit, los modelos carecen de la capacidad intrínseca para verificar la información. “No pueden aplicar evidencia ni ponderar qué fuentes son precisas y cuáles no. Por eso ese falso equilibrio es tan común”, indica Nicholas Tiller, autor principal del estudio.
Del peor chatbot rankeado a la complejidad del lenguaje
El peor chatbot rankeado
La evaluación individualizada de las herramientas comerciales dejó al descubierto asimetrías severas entre las distintas corporaciones tecnológicas. El estudio revela que Grok, de la compañía xAI, obtuvo los peores resultados: el 58 % de sus respuestas fueron clasificadas como altamente problemáticas. Por el contrario, Gemini presentó el menor número de fallos críticos, según aseguraron. Aunque en otras ramas del desarrollo clínico, como con inteligencia artificial logran reducir un 90% el tiempo que lleva hacer una resonancia magnética, el uso de chats abiertos para interactuar directamente con pacientes no especializados sigue estando lejos de ser seguro.
Asimismo, todos los modelos fallaron en un punto clave: la accesibilidad. Según el índice de legibilidad de Flesch, la complejidad del lenguaje utilizado es equivalente a la de un graduado universitario, algo que supone un peligro para la salud pública. En regiones con diversas realidades educativas y de conectividad, como las zonas rurales de Chubut, la utilización de tecnicismos excesivos complejiza la comprensión y aumenta el riesgo de una mala interpretación de las instrucciones médicas proporcionadas por las terminales virtuales.
Extensiones narrativas que construyen mitos médicos
La falsa credibilidad
El informe del Instituto Lundquist profundiza además en los sesgos de comportamiento de los pacientes frente a las respuestas automatizadas. El investigador Nicholas Tiller señaló un fenómeno psicológico preocupante: las respuestas más largas y complejas tienden a aumentar la confianza del usuario en la máquina, incluso cuando esa complejidad no aporta mayor precisión, lo cual «promueve una falsa credibilidad”, sentencia el autor.
Esta distorsión se agrava cuando el usuario asume que la extensión del texto equivale a una revisión exhaustiva de literatura médica o un diagnóstico personalizado, obviando que se trata únicamente de un procesamiento probabilístico de caracteres abstractos.
Alucinaciones informáticas y bibliografía falsa
Alucinaciones y citas inventadas
La incapacidad de los chatbots para citar fuentes de manera fiable fue otro punto crítico identificado por los investigadores. La calidad de las referencias fue calificada como pobre, con una puntuación media de integridad de apenas el 40 %. Esto significa que, ante la exigencia de fundamentar científicamente una afirmación sobre oncología o nutrición, los algoritmos fallan de forma sistémica.
El fenómeno de las ‘alucinaciones’ provocó que ningún chatbot lograra proporcionar una lista de referencias bibliográficas completamente real. En muchos casos, los modelos inventaron títulos de estudios y nombres de autores con total apariencia de veracidad. Frente a un panorama donde el autodiagnóstico digital avanza de manera informal sobre los turnos médicos tradicionales en los efectores públicos y privados de la Patagonia, los científicos exigen una intervención activa del Estado. “A medida que el uso de estos chatbots se expande, nuestros datos resaltan la necesidad de una educación pública, formación profesional y una supervisión regulatoria estricta”, concluyó el equipo de investigadores.
