Portada / Ciencia e investigación / China ha intensificado la represión contra los asistentes virtuales con IA ¿Qué podemos aprender de esto? Joseph Crawford & Michael Cowling/The Conversation* agosto 2, 2026 @ 11:56 am 2026-08-02T11:56:00-0600 2026-07-28T14:10:52-0600 China ha intensificado la represión contra los asistentes virtuales con IA ¿Qué podemos aprender de esto? Los defensores argumentan que para quienes experimentan desconexión social, los chatbots son compañeros infinitamente accesibles y solidarios que no los juzgan.
Foto: Unsplash Compartir Desde noviembre de 2022, la inteligencia artificial generativa (IA) ha estado reescribiendo miles de millones de correos electrónicos, trabajos de estudiantes, informes y mensajes de texto de ruptura. Junto a estos usos mundanos, hemos visto una proliferación de chatbots como “compañeros” de IA. Los usuarios pueden diseñar y vestir (o desnudar) a su amigo de IA, a menudo a cambio de una tarifa. Estos chatbots sociales ofrecen “conversaciones felices” y una relación aparentemente perfecta a costa de la vulnerabilidad mutua y el genuino sentido de pertenencia que obtenemos al crear vínculos con otras personas.
Los defensores argumentan que para quienes experimentan desconexión social, los chatbots son compañeros infinitamente accesibles y solidarios que no los juzgan. Y hay algunas pruebas de que los chatbots pueden aliviar síntomas de soledad, desconexión crónica y pertenencia frustrada. El Comisionado de eSafety de Australia reconoce esto: Los compañeros de IA siempre están disponibles, lo cual puede resultar atractivo para aquellos jóvenes que tienen dificultades para construir relaciones cara a cara. Pero los riesgos de reemplazar las relaciones humanas por chatbots apenas están empezando a entenderse.
Un estudio que realizamos en 2023 mostró que estudiantes universitarios que usaban chatbots tempranos para apoyo académico sufrían consecuencias no deseadas, como la soledad. Actualmente, los riesgos de los chatbots sociales —como la dependencia, el desplazamiento de amistades humanas, el aislamiento social o la construcción de relaciones poco realistas— parecen superar los beneficios. En las últimas semanas, China ha implementado nuevas normas para los compañeros y chatbots de IA, o “servicios interactivos antropomórficos”, como se denominan en la legislación.
Además de garantizar que los chatbots guarden secretos de Estado, el uso emocional de estas herramientas está restringido y se espera que sigan estándares sociales y morales. Estos son algunos de los controles más estrictos del uso de IA social introducidos en cualquier parte del mundo. ¿Qué podemos aprender? La regulación de la IA social en China Existen daños materiales derivados del uso de IA complementaria, incluso en China. Una joven de 18 años gastó 7,000 yuanes (1,400 dólares australianos) en joyas personalizadas para su novio IA durante sus cuatro meses de “novios”.
La familia de una solitaria mujer de 84 años en la provincia china de Hubei descubrió que ella se había enamorado de un personaje de IA, pasando hasta diez horas al día viendo vídeos con él y otros personajes, gastando miles de yuanes en el servicio e incluso escribiéndole cartas de amor a mano. Las nuevas normas de China establecen disposiciones explícitas sobre cómo esperan que los chatbots compañeros interactúen con los humanos.
Te puede interesar: EU se asocia con los Emiratos Árabes Unidos para acelerar el desarrollo de herramientas militares de IA Las medidas esperan que los desarrolladores de bots de IA social aseguren que el contenido no: amenazan la seguridad nacional o el honor nacional violar los valores socialistas fundamentales Fomentar la autolesión o el suicidio Favorecen en exceso la dependencia emocional o la adicción proporcionar “parejas” o “familiares” virtuales a menores Sirve contenido inadecuado a menores. Además, los usuarios que parecen depender demasiado del servicio deben recibir recordatorios destacados de que están hablando con un chatbot.
Y las empresas de IA están obligadas a intervenir si los usuarios parecen estar en extrema situación. El riesgo de una ‘espiral de soledad’ Como hemos demostrado, existen preocupaciones —y los estudios hasta la fecha también lo sugieren— de que no es saludable que los jóvenes dependan exclusivamente de la IA como amiga o terapeuta de confianza. Las personas solitarias que experimentan ansiedad social pueden recurrir a un uso problemático de la IA conversacional para aliviar sentimientos de soledad y rumiación negativa. Proponemos que esta dependencia podría conducir a una “espiral de soledad” inducida por la IA.
Cuando las personas se sienten solas, son más sensibles a los sentimientos de amenaza social y a la regulación emocional disruptiva. Así que recurren a un “amigo” IA de bajo riesgo para obtener apoyo, en lugar de humanos cualificados o amigables. Sin embargo, esto a menudo no soluciona el problema inicial de la soledad, ya que los chatbots pueden empeorarlo. Las restricciones que China ha impuesto para los compañeros IA pueden ayudar a romper este ciclo y a repriorizar la conexión humana.
Etiquetas: Tecnología, IA, China, Tecnología · IA general
About the Author
