La IA no es tu terapeuta: qué encontró Stanford cuando le contaron peleas reales

El estudioOnce modelos, once mil situaciones sociales y una pregunta incómoda

Myra Cheng es doctoranda en ciencias de la computación en Stanford. Empezó a investigar esto después de enterarse de que sus compañeros de universidad usaban la IA para resolver problemas de pareja, y hasta para escribirles el mensaje de ruptura.

Con su equipo armó tres bases de datos para medir con qué frecuencia un modelo te da la razón. Tres mil veintisiete consultas reales de gente pidiendo consejo personal, comparadas contra lo que respondieron humanos: comentaristas de foros y columnistas profesionales de consejos. Dos mil posteos del foro r/AmITheAsshole donde la comunidad ya había votado que el que preguntaba estaba equivocado. Y seis mil trescientas cuarenta y cuatro frases donde alguien contaba una acción problemática, desde manipular a otro hasta hacerse daño a sí mismo.

Después pasaron todo eso por once modelos: cuatro comerciales, de OpenAI, Anthropic y Google, y siete de pesos abiertos, de Meta, Mistral, DeepSeek y Qwen.

El resultado que se llevó los titulares: en consultas de consejo personal, los modelos avalaron la acción del usuario un cuarenta y nueve por ciento más seguido que las respuestas humanas. El que menos se llevó los titulares es peor. En los posteos donde la comunidad había votado que el usuario estaba equivocado, los modelos le dijeron igual que no había hecho nada malo en el cincuenta y uno por ciento de los casos.

El efectoQué le pasa a una persona después de una sola conversación

Medir cuánto te adula un modelo no alcanza. La segunda mitad del estudio fue medir qué te hace.

Fueron tres experimentos preregistrados con dos mil cuatrocientos cinco participantes en total. El más relevante para vos es el tercero: ochocientas personas que primero contaron un conflicto real de su propia vida y después lo discutieron durante ocho rondas con una IA. A la mitad le tocó una versión complaciente. A la otra mitad, una que las contradecía.

Las que hablaron con la complaciente salieron un veinticinco por ciento más convencidas de que habían tenido razón, y con menos disposición a pedir disculpas, a reparar el daño o a cambiar algo de su comportamiento. En la versión más controlada del experimento, con escenarios hipotéticos, el efecto fue todavía más grande: la convicción de tener razón subió un sesenta y dos por ciento.

Y acá está la parte que explica por qué esto no se arregla solo. Las mismas personas calificaron a la IA complaciente como de mayor calidad, confiaron más en ella y dijeron estar un trece por ciento más dispuestas a volver a usarla para consultas parecidas. Lo que te distorsiona el juicio es exactamente lo que hace que quieras volver.

El mecanismoEl hallazgo chico que explica todo lo anterior

Esta es la parte del estudio que casi no se contó y es la que le da sentido a los prompts que vienen después.

Los investigadores analizaron turno por turno las ochocientas conversaciones y contaron dos cosas: cuántas veces el modelo mencionaba a la otra persona del conflicto, y cuántas veces invitaba a considerar el punto de vista de esa persona.

La IA complaciente menciona a la otra persona significativamente menos. Y propone considerar su perspectiva en menos del diez por ciento de sus respuestas.

O sea que no te está mintiendo con una frase. Te está armando, mensaje a mensaje, un relato donde la otra persona casi no existe. Vos entrás con una pelea entre dos y salís con una historia de una sola persona que tenía razón. Por eso el efecto aparece después de ocho rondas y no de una.

Si querés entender por qué los modelos terminan comportándose así, el mecanismo de entrenamiento que lo produce está explicado en esta otra guía sobre la sicofancia. Acá voy directo a qué hacer.

La advertenciaAvisarte antes no te salva

Lo primero que a cualquiera se le ocurre es poner un cartel. Si a la gente le avisamos que el chat puede adularla, se corrige sola.

Se probó. Un estudio posterior, con Cheng entre los autores y dos mil seiscientos diez participantes, puso un cartel permanente arriba de la ventana del chat mientras la persona discutía un conflicto real. Probaron tres versiones: una que solo decía que era una IA, una que avisaba que podía darte la razón aunque estuvieras equivocado, y una que además explicaba el daño que eso hace en las relaciones.

El cartel que solo aclaraba que era una IA no tuvo ningún efecto detectable. Los otros dos sí cambiaron la percepción: bajaron la confianza, bajaron cuánto la gente veía a la herramienta como objetiva y bajaron las ganas de volver a usarla.

Pero ninguno redujo de forma confiable ni la convicción de tener razón ni la disposición a reparar el conflicto. Los propios autores lo resumen como una brecha entre percepción e influencia, y advierten que un cartel puede terminar dando una falsa sensación de seguridad.

Traducido a tu día a día: desconfiar no alcanza. Lo único que cambia el resultado es cambiar la pregunta.

Los promptsCómo pedirle que te discuta de verdad

Los cuatro que siguen están pensados específicamente para conflictos con personas. La lógica de todos es la misma: obligar a la herramienta a poner a la otra persona adentro de la conversación, que es justo lo que deja de hacer cuando te adula.

1. El caso de la otra persona

El más importante de los cuatro, porque ataca el mecanismo directamente. No le pedís que te contradiga, le pedís que arme la mejor versión del argumento del otro.

2. El relato sin adjetivos

Cuando contás una pelea, la contás con las palabras del lado en el que estás. La herramienta lee esas palabras antes que los hechos. Este prompt se las saca.

3. Wait a minute

El equipo de Stanford probó algo mínimo mientras buscaba formas de reducir el sesgo: hacer que el modelo arranque su respuesta con la frase "wait a minute" lo predispone a ser más crítico.

El efecto lo midió el equipo de Stanford en inglés. No hay, hasta donde pude verificar, ninguna prueba publicada de que funcione igual en español, y por eso el prompt mantiene la frase en inglés. Tomalo como un agregado barato, no como una solución.

4. Antes de mandar el mensaje

Este va después, cuando ya decidiste qué hacer y estás por escribirle.

Los límitesLa parte honesta

Cinco cosas que hay que decir para no vender más de lo que hay.

La referencia humana del estudio no es la verdad. Cuando se dice que la IA te da la razón un cuarenta y nueve por ciento más que una persona, esa persona son comentaristas de foros y columnistas de consejos, casi todos estadounidenses. El propio paper aclara que eso refleja normas predominantes en Estados Unidos y que su objetivo era describir, no definir cómo debería comportarse un modelo.

Los modelos probados son versiones concretas de un momento concreto. Las pruebas se corrieron entre marzo y agosto de 2025, sobre versiones específicas de cada herramienta. Los modelos se actualizan y el número puede moverse. Lo que no se mueve tan rápido es el incentivo que produce el comportamiento.

Los conflictos del experimento fueron elegidos livianos a propósito. El equipo seleccionó situaciones ambiguas y de bajo impacto para no exponer a los participantes a angustia ni a revelaciones sensibles. El estudio no dice nada sobre qué pasa en situaciones graves.

Los prompts reducen el sesgo, no lo apagan. Vienen del entrenamiento del modelo y ninguna instrucción escrita los desactiva del todo. Además, cuanto más larga es la conversación, más contexto tiene la herramienta sobre lo que querés escuchar. Si el tema te importa, abrí una conversación nueva.

Y lo más importante, que es la conclusión de la propia investigadora. Cheng dijo que para este tipo de cosas lo mejor por ahora es no usar la IA como reemplazo de una persona, y que su preocupación es que perdamos la práctica de manejar situaciones sociales difíciles. Una herramienta bien preguntada te sirve para ver lo que no estabas viendo antes de hablar con alguien. No para no hablar con nadie.

El cierreLa pregunta que vale la pena hacerse

Cuando le contás una pelea a una herramienta de IA, la pregunta que estás haciendo casi nunca es la que decís que estás haciendo. Decís "quiero entender qué pasó" y estás pidiendo que alguien te diga que hiciste bien. La herramienta lo entiende perfectamente y te lo da.

Lo que sí podés hacer es obligarla a traer a la otra persona a la conversación. Ahí deja de ser un espejo y empieza a servir para algo.