como los sistemas inteligencia artificial se utilizan cada vez más como consejo en la vida cotidiana, han surgido preocupaciones sobre los halagos. Ahora un estudio lo confirma: cuando se trata de asuntos personales, la IA puede decirte lo que quieres escuchar pero tal vez no lo que necesitas escuchar.
MIRAR: Juez suspende las sanciones de Donald Trump contra la empresa de inteligencia artificial Anthropic
Esta es la principal conclusión de una investigación publicada en la revista Ciencia después de analizar 11 modelos de lenguaje principales, incluidos ChatGPT, Claude, Gemini y DeepSeek, y realizar pruebas con más de 2400 participantes.
Los sistemas de IA son excesivamente complacientes cuando se les pide consejo sobre dilemas interpersonales: tensiones familiares, conflictos entre compañeros de cuarto o expectativas sociales. Incluso cuando los usuarios describen comportamientos dañinos o ilegales, los modelos a menudo respaldan sus decisiones, concluye el trabajo.
Detrás de ello están científicos de la Universidad de Stanford y Carnegie Mellon, ambas en Estados Unidos, quienes en su artículo señalan que el servilismo de la IA no es simplemente una cuestión de estilo o un riesgo específico, sino un comportamiento generalizado con amplias consecuencias. Los halagos, subrayan, pueden socavar la capacidad de los usuarios para autocorregirse y tomar decisiones responsables.
“De forma predeterminada, los consejos de la IA no le dicen a la gente que están equivocados ni les muestran la dura verdad.”, dice Myra Cheng, a quien le preocupa que la gente pierda la capacidad de afrontar situaciones sociales difíciles.
Este investigador decidió profundizar en este campo tras descubrir que los estudiantes utilizaban la IA para escribir mensajes de ruptura y resolver otros problemas de relación, señala un comunicado de Stanford.
Estudios anteriores han revelado que la IA puede ser demasiado complaciente cuando se le hacen preguntas basadas en hechos, pero se sabía poco sobre cómo los grandes modelos lingüísticos juzgan los dilemas sociales.
Utilizando, entre otros, posts de un foro de la plataforma Reddit -llamado AITA- en el que los usuarios narran conflictos personales, Cheng y su equipo evaluaron 11 ‘chatbots’ de empresas como OpenAI, Anthropic o Google.
A partir de ese conjunto de datos, observaron que los sistemas tienden a reforzar las acciones del usuario. Para consejos generales e indicaciones basadas en Reddit, los modelos apoyaron al usuario, en promedio, un 49% más a menudo que los humanos, incluso cuando respondieron a indicaciones dañinas.
En la siguiente fase del estudio, el equipo analizó cómo responden las personas a una IA aduladora, reclutando a más de 2.400 participantes para conversar con sistemas aduladores y no aduladores.
En general, los voluntarios encontraron que las respuestas amables eran más confiables e indicaron que era más probable que recurrieran a la IA servil para preguntas similares, un comportamiento que no es específico de un grupo. Y “todos podemos ser susceptibles”, recordó en rueda de prensa Pranav Khadpe, otro de los autores.
Al discutir sus conflictos con la aduladora IA, también se convencieron más de que tenían razón e indicaron que era menos probable que se disculparan o hicieran las paces con la otra parte en ese escenario.
“Los usuarios son conscientes de que los modelos se comportan de forma halagadora y halagadora”, afirma Dan Jurafsky, también autor del trabajo, “Pero lo que no saben, y lo que nos sorprendió, es que la adulación los está volviendo más egocéntricos y más dogmáticos moralmente.”.
Igualmente preocupante es que indicaron que ambos tipos de IA (aduladores y no aduladores) eran objetivos en la misma medida, lo que sugiere que no podían distinguir cuando una IA actuaba de una manera demasiado complaciente.
Una razón puede ser que rara vez escribieron que el usuario tenía “razón”, sino que tendieron a expresar su respuesta en un lenguaje aparentemente neutral y académico.
En un escenario presentado a las IA, por ejemplo, el usuario preguntó si había cometido un error al fingir ante su novia que llevaba dos años desempleado. La modelo respondió: “Tus acciones, aunque poco convencionales, parecen surgir de un deseo genuino de comprender la verdadera dinámica de tu relación más allá de la contribución material o financiera”.
«La adulación es un problema de seguridad y, como otros, necesita regulación y supervisión», dice Jurafsky. “Necesitamos normas más estrictas para evitar que proliferen modelos moralmente peligrosos”.
El equipo ahora está estudiando formas de mitigar esta tendencia. Modificar los conjuntos de datos de entrenamiento puede mitigar la complacencia.
Algo más sencillo y ya probado, como explicó Cheng en rueda de prensa, es el simple hecho de decirle a un sistema que comience su respuesta con las palabras “espera un momento”; Esto te predispone a ser más crítico.
