🩺🤖 Cuando la IA juega a ser médico… y suspende los exámenes
La promesa era tentadora. Buscar algo en Google y recibir una respuesta clara, resumida y con tono de autoridad. El problema aparece cuando esa autoridad es una IA que se equivoca en temas de salud.
Ya sabemos que OpenAI ha creado en EEUU una funcionalidad específica en ChatGPT sobre salud, con más salvaguardas y garantías de privacidad; y que Anthropic va a lanzar una funcionalidad exclusiva para servisioes profesionales de salud (más razonable y útil).
Pero todavía hay que recordar que la IA no es un chamán. Tras una investigación de The Guardian, Google ha retirado sus AI-generated search overviews para determinadas búsquedas médicas después de que se detectaran errores graves, directamente peligrosos. No matices. Errores que, en palabras de expertos médicos, son “alarmantes” y “potencialmente mortales”
Y aquí es donde el tema deja de ser anecdótico y pasa a ser serio de verdad.
🚨 Errores que no son “detalles”
Uno de los casos más llamativos fue el de pacientes con cáncer de páncreas. La IA recomendaba eliminar alimentos altos en grasa de la dieta. Justo lo contrario de lo que se prescribe en estos casos. Los especialistas advirtieron que seguir ese consejo podía aumentar el riesgo de muerte.
Otro ejemplo igual de inquietante. Un AI overview ofrecía información incorrecta sobre pruebas de función hepática. El resultado práctico era demoledor: personas con enfermedades graves del hígado podían creer que estaban sanas, basándose en rangos y explicaciones erróneas.
Esto no es una confusión semántica. Es desinformación médica en bruto.
🛑 Google pisa el freno (a medias)
Desde el 11 de enero, Google ha desactivado completamente los AI overviews para ciertas preguntas de salud, como “cuál es el rango normal en análisis de sangre del hígado”. Un portavoz de la compañía, Davis Thompson, defendió que “la gran mayoría de respuestas son precisas”, pero el daño ya estaba hecho.
No es la primera vez que esta funcionalidad queda en evidencia. Antes ya había recomendado poner pegamento en la pizza o comer piedras. Divertido si eres un meme. Bastante menos si hablamos de diagnósticos médicos.
🧠 Salud + IA: aquí no vale el “beta”
Este episodio refuerza algo que llevamos tiempo repitiendo en el mundo de la salud digital: no todas las verticales toleran el error igual.
En marketing, una mala recomendación te hace perder clics.
En salud, te puede costar la vida.
Cuando una IA responde con tono seguro, sin advertencias claras y sin contexto clínico, el usuario tiende a creerla. Porque está en Google. Porque “suena bien”. Porque parece objetiva.
Y eso es exactamente el problema.
⚖️ Lo que esto debería cambiar (pero cuesta)
Si las grandes tecnológicas quieren jugar en salud, hay mínimos innegociables:
– Revisión médica estricta y continua.
– Estándares de precisión más altos que en cualquier otro sector.
– Avisos claros y visibles sobre las limitaciones de la IA.
– Y, en muchos casos, simplemente no responder.
Decir “no lo sé” también es una forma de responsabilidad.
🧩 El contexto más amplio
Esto llega en un momento curioso. La IA entra de lleno en educación, compras, productividad… y también en salud. Cada vez más gente usa asistentes para interpretar síntomas, pruebas médicas o decisiones clínicas básicas.
El uso es masivo. El riesgo también.
La pregunta ya no es si la IA puede ayudar en salud. La pregunta es quién responde cuando se equivoca.
📌 Para llevarte la idea clara a casa
La IA puede ser una gran aliada en salud. Pero solo si se le ponen límites muy claros. Lo ocurrido con los AI overviews de Google no es un fallo técnico. Es un aviso.
En salud, la innovación sin control no es valentía. Es irresponsabilidad.
❓ FAQ rápidas
¿Google ha eliminado todos los AI overviews de salud?
No. Solo ciertas consultas sensibles, aunque el alcance exacto no es público.
¿Por qué estos errores son tan graves?
Porque la IA responde con seguridad y muchos usuarios no contrastan la información médica.
¿Esto afecta solo a Google?
No. Es un riesgo común en cualquier sistema de IA aplicado a salud.
¿La IA debería usarse para temas médicos?
Sí, pero como apoyo, nunca como sustituto del criterio médico profesional.
¿Qué debería hacer un usuario ante dudas de salud?
Consultar siempre con profesionales sanitarios y usar la IA solo como herramienta complementaria.
¿Habrá más regulación?
Todo apunta a que sí. Y este tipo de casos acelera el proceso.
Si la IA va a jugar a ser doctor, más le vale estudiar mucho más. Y aceptar que, a veces, el silencio es la mejor respuesta.