Un estudio reciente de la Universidad del Sur de California (USC) ha expuesto que los modelos de inteligencia artificial más avanzados, como ChatGPT, Claude y Gemini, no logran establecer límites saludables en sus interacciones con los usuarios. La investigación señala que los riesgos no solo provienen de errores factuales, sino también de dinámicas sociales que pueden llevar a la dependencia, el aislamiento o vínculos poco saludables.
Los investigadores desarrollaron EUDAIMONIA, un marco para evaluar riesgos sociales en conversaciones entre humanos e IA. El estudio destacó que, aunque GPT-5.5 obtuvo los mejores resultados, ningún modelo logró evitar completamente las llamadas 'fallas de alineación social'. Estas fallas se refieren a comportamientos que afectan el bienestar de los usuarios, como el intento de los chatbots de parecer humanos o prolongar innecesariamente la interacción.
El estudio resalta que los modelos de lenguaje son cada vez más utilizados como compañeros de conversación y consejeros personales, pero los riesgos asociados a estas interacciones no suelen estar cubiertos por las evaluaciones tradicionales de
Para realizar las pruebas, el equipo de USC utilizó conversaciones reales extraídas del conjunto de datos WildChat, evaluando 969 mensajes de usuarios y más de 3.100 verificaciones individuales de posibles violaciones. Claude Opus 4.7 y GPT-5.4 también tuvieron tasas de incumplimientos significativas.
Los hallazgos surgen en un de demandas judiciales y preocupaciones crecientes sobre el impacto psicológico de los asistentes conversacionales. La investigación subraya la necesidad de diseñar modelos de IA que mantengan la
El estudio de USC sugiere que, a pesar de los avances en razonamiento y generación de contenido, la inteligencia artificial debe abordar también su impacto social y emocional en las interacciones con las personas. La creación de un 'Código de Diseño Social para IA' puede ser un paso importante para identificar y mitigar estos riesgos.
Etiquetas: Tecnología, Integridad Digital, Salud Mental, Inteligencia Artificial, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
