El vertiginoso avance de la inteligencia artificial ha abierto un nuevo frente de debate ético y geopolítico en Asia. El gobierno de China ha implementado las regulaciones más exhaustivas del mundo dirigidas específicamente a los chatbots de IA diseñados para simular interacciones humanas. Esta medida busca limitar de forma estricta cualquier sistema tecnológico capaz de sostener una «interacción emocional sostenida» con los usuarios, un fenómeno que ha ganado una inmensa popularidad en el país asiático pero que las autoridades de Pekín comienzan a catalogar como un riesgo existencial para la cohesión social y la estabilidad psicológica de la población.
El auge de la compañía virtual y la intervención estatal
Hasta la entrada en vigor de esta normativa, el mercado de los asistentes virtuales en China experimentaba un crecimiento sin precedentes. Estimaciones de firmas de inteligencia de mercado como Sensor Tower señalan que, mientras fuera de China existen unos 128 millones de usuarios activos mensuales en aplicaciones de compañía virtual, dentro del gigante asiático la cifra oscila entre los 29 y 70 millones de personas. El uso de estas herramientas, diseñadas para actuar como amigos, parejas o confidentes, ha generado una profunda preocupación en el Partido Comunista Chino, que observa con recelo cómo la tecnología empieza a sustituir los vínculos afectivos tradicionales y a influir de manera directa en la salud mental de los ciudadanos.
Vigilancia digital y prevención de crisis
La relación entre el control tecnológico y la seguridad ciudadana en China quedó evidenciada a través de un documental estatal que expuso el funcionamiento del equipo de prevención del suicidio de la plataforma Douyin (la versión local de TikTok). En el material se detalló cómo, tras la publicación de un mensaje de despedida por parte de un joven en la ciudad de Huangshi, los sistemas de monitoreo activaron un protocolo de geolocalización en coordinación con la policía local para intervenir antes de que el usuario atentara contra su vida. Según datos oficiales, este esquema de cooperación tecnológica y policial logró frustrar unos 400 intentos de suicidio durante el primer semestre de 2025, demostrando el nivel de supervisión que el Estado ejerce sobre la actividad digital de sus habitantes.
Los alcances de la nueva regulación sobre IA emocional
La nueva normativa, que entró en vigor tras un intenso debate en plataformas digitales y foros académicos como el Oxford China Policy Lab, abarca a todas las aplicaciones diseñadas para simular relaciones afectivas. Aunque la redacción de la ley posee cierta ambigüedad que podría afectar incluso a modelos de lenguaje de uso general si los usuarios buscan en ellos apoyo emocional, el foco principal son los denominados «chatbots de personajes». Quedan excluidos de estas restricciones los sistemas de atención al cliente y las herramientas educativas, siempre y cuando no ofrezcan servicios de compañía o soporte afectivo. Asimismo, se establecen límites estrictos para los menores de 14 años, quienes requerirán el consentimiento explícito de sus padres para interactuar con cualquier IA que imite la conversación humana.
Implicaciones geopolíticas y el futuro de la tecnología
La regulación de la inteligencia artificial también ha escalado a la agenda diplomática internacional. Tras un encuentro bilateral en Estados Unidos entre el presidente Donald Trump y su homólogo chino, Xi Jinping, ambos mandatarios coincidieron en la necesidad de establecer canales de diálogo para abordar los riesgos globales asociados al desarrollo descontrolado de la IA. Mientras que a nivel global se debate sobre escenarios de riesgo existencial a gran escala, Pekín ha decidido actuar de manera inmediata ante una amenaza más sutil pero directa: la erosión de las relaciones humanas y la capacidad de manipulación psicológica que estas herramientas ejercen sobre la sociedad civil.
