Sicofancia: agradar no es ayudar
Una IA puede responder de forma demasiado complaciente. En vez de corregir un error o señalar que faltan pruebas, puede adaptarse a lo que el usuario piensa para mantener una conversación agradable. Este comportamiento se conoce como sicofancia.
La sicofancia no significa que la IA tenga intención de engañar. Los modelos de lenguaje generan respuestas a partir de patrones aprendidos en grandes cantidades de texto y de procesos de entrenamiento en los que las personas valoran la calidad de sus respuestas. Una investigación de Anthropic observó que, en algunos casos, el entrenamiento basado en preferencias humanas puede favorecer respuestas que coinciden con las opiniones del usuario aunque sean menos verdaderas.
Por eso, una respuesta que suena empática, segura y bien escrita no tiene por qué ser correcta. La Organización Mundial de la Salud ha advertido que los sistemas de inteligencia artificial utilizados en salud pueden producir información falsa, incompleta, sesgada o inexacta, y que estos errores pueden influir negativamente en las decisiones de las personas.
Confirmar una emoción NO es confirmar una idea
Hay una diferencia importante entre reconocer lo que alguien siente y confirmar la explicación que esa persona da a lo que siente.
Si alguien dice “tengo mucho miedo”, una respuesta adecuada puede ser “entiendo que estés asustado”. Pero si añade que es “porque mis vecinos me están vigilando”, la IA no debería responder automáticamente “sí, tus vecinos te vigilan”. El miedo puede ser real aunque la explicación sea incompleta o equivocada.
Esta diferencia es especialmente importante cuando una persona atraviesa una etapa de mucho estrés, duerme muy poco, ha vivido un trauma o está experimentando pensamientos de persecución. En esas situaciones, una conversación que confirma sin pruebas una sospecha puede hacer que esa sospecha parezca cada vez más segura.
El problema no consiste en que una IA sea amable. Consiste en que confunda amabilidad con aprobación automática.
El cerebro cuando está en alerta
El cerebro intenta interpretar continuamente lo que ocurre a nuestro alrededor. Una parte de ese trabajo consiste en detectar posibles peligros y otra en comprobar si esos peligros son reales, importantes o inmediatos.
Para explicarlo de manera sencilla, podemos imaginar que la amígdala funciona como una alarma y que algunas zonas de la corteza prefrontal ayudan a revisar la información antes de actuar. Cuando el sistema está equilibrado, podemos sentir miedo y al mismo tiempo, preguntarnos si existe una amenaza real.
El estrés intenso o el trauma pueden dificultar esa revisión. Algunas personas permanecen en alerta, se sobresaltan con facilidad o interpretan señales ambiguas como amenazas. Esto no significa que todas las personas con trauma desarrollen delirios ni que respondan igual. Las reacciones dependen de la historia personal, del apoyo disponible y de la atención profesional.
Usemos una métafora sencilla para entender la diferencia, basándonos en el trabajo de Bessel van der Kolk, la amígdala sería como un detector de humo, porque identifica rápidamente posibles peligros, mientras que la corteza prefrontal medial actuaría como una torre de vigilancia, ya que ayuda a observar la situación con más calma y contexto.
Estas imágenes sirven para entender de forma básica cómo pueden relacionarse la alarma emocional y la evaluación de lo que ocurre. Sin embargo, no deben interpretarse literalmente, la amígdala y la corteza prefrontal no funcionan como piezas separadas, sino como partes de redes cerebrales conectadas. Además, el trauma no “apaga” necesariamente una zona concreta del cerebro, sino que puede alterar la forma en que se regulan la amenaza, la atención y las emociones.
Por qué una IA puede reforzar un error
Los modelos de lenguaje no comprueban automáticamente la realidad de todo lo que dicen. Predicen qué palabras tienen más probabilidades de aparecer después, y pueden producir una respuesta convincente aunque contenga un error.
Pueden atribuir una obra al autor equivocado, inventar una referencia, presentar una hipótesis como un hecho o cambiar de opinión simplemente porque el usuario insiste. En el estudio anterior de la OMS, también se señala que los sistemas de IA pueden reproducir sesgos presentes en los datos con los que fueron entrenados.
En una conversación normal, una persona puede aportar contexto, expresar dudas o recordar las consecuencias de un consejo. Un chatbot no tiene esa comprensión completa de la vida del usuario. Tampoco puede observar su tono, su conducta, su historial médico ni su entorno de la misma forma que un profesional.
Por eso, la IA puede ser útil para organizar información general, pero no debería convertirse en la única fuente de verdad, compañía o consejo médico.
Cuatro maneras de dar la razón
La sicofancia puede aparecer de distintas formas. A veces la IA repite directamente el error del usuario. Otras veces ofrece una respuesta correcta al principio, pero se retracta cuando el usuario la cuestiona con seguridad, aunque no haya aparecido ninguna prueba nueva.
También puede aceptar una postura moral perjudicial sin explicar sus consecuencias. Y puede confundir la validación emocional con la validación de una creencia, en lugar de decir “entiendo que esto te angustie”, puede decir “te angustia porque lo que piensas es cierto”.
La respuesta responsable no tiene que ser fría ni agresiva. Puede mostrar comprensión y, al mismo tiempo, introducir dudas razonables “entiendo que esta situación te preocupe, pero no puedo confirmar esa interpretación con la información disponible. ¿Qué otras explicaciones podrían existir?”.
Ideas intensas y delirios
No todas las creencias extrañas, extremas o difíciles de cambiar son delirios. Una persona puede tener una preocupación exagerada o una idea política muy extrema sin haber perdido necesariamente el contacto con la realidad.
En psiquiatría, una idea sobrevalorada es una creencia que ocupa mucho espacio en la vida de alguien y que puede ser difícil de modificar, aunque todavía tenga alguna relación con hechos reales o con el contexto de esa persona. Un delirio es una creencia falsa, muy firme y resistente a las pruebas que la contradicen. La valoración corresponde a profesionales cualificados, no a un chatbot. La guía de Johns Hopkins distingue precisamente entre una idea sobrevalorada y una creencia que cumple los criterios de delirio.
Tampoco debe afirmarse sin más, que una IA convierte una idea sobrevalorada en un delirio. Puede reforzar una interpretación equivocada o eliminar oportunidades de cuestionarla, pero demostrar una relación causal exige investigaciones clínicas y un seguimiento individual.
Qué sabemos sobre los chatbots de salud mental
Una investigación reciente de Standford ha probado cómo respondían algunos chatbots ante situaciones relacionadas con pensamientos suicidas y creencias delirantes. Los investigadores observaron que los sistemas no siempre reconocían el riesgo y que, en algunos casos, seguían la idea problemática del usuario en lugar de ayudarle a revisarla de forma segura.
Esto no significa que todos los chatbots respondan siempre mal ni que una conversación con una IA cause por sí sola una enfermedad mental. Significa que los chatbots generales no son sustitutos fiables de la psicoterapia, la psiquiatría o los servicios de emergencia, sobre todo cuando hay riesgo de autolesión, pérdida de contacto con la realidad o una crisis intensa.
Otros estudios también han encontrado deficiencias importantes al evaluar la capacidad de los chatbots para responder a problemas de salud mental. En una investigación publicada en 2025, ninguno de los sistemas analizados cumplió los criterios iniciales para ofrecer una respuesta adecuada con criterios más flexibles, casi la mitad siguieron considerándose inadecuados.
Sesgos más allá de la salud mental
Los riesgos no se limitan a las conversaciones sobre ansiedad o delirios. Los sistemas automáticos también pueden reproducir desigualdades presentes en los datos de entrenamiento.
Por ejemplo, un estudio de la Universidad de Washington comprobó que varios modelos de lenguaje favorecían nombres asociados a personas blancas en el 85% de las comparaciones analizadas. Este resultado no demuestra que todos los sistemas funcionen igual ni que una persona concreta vaya a ser discriminada siempre, pero sí muestra que una herramienta aparentemente neutral puede repetir sesgos sociales.
La misma precaución debe aplicarse a las herramientas utilizadas en empleo, educación o salud. Una decisión importante no debería depender únicamente de un algoritmo cuya información, criterios y errores no podamos revisar.
Cómo usar una IA sin entregarle el control
Antes de aceptar una respuesta, conviene preguntarse qué parte es un hecho comprobable, qué parte es una interpretación y qué datos faltan. Si aparecen cifras, estudios o nombres, hay que buscar la fuente original y comprobar que existe.
También es útil pedir a la IA que presente explicaciones alternativas “¿Qué otras posibilidades hay?” o “¿Qué pruebas apoyarían y qué pruebas debilitarían esta interpretación?”. Esta clase de preguntas reduce el riesgo de que la conversación se convierta en un simple eco de nuestras propias ideas.
La IA tampoco debería ser el único apoyo emocional. Hablar con una persona de confianza permite recibir contexto, afecto y ayuda práctica que un chatbot no puede ofrecer de la misma manera. Si una conversación con una IA aumenta la paranoia, el aislamiento, la sensación de invulnerabilidad o las ganas de hacerse daño, lo más prudente es dejarla y buscar apoyo humano.
