Las normas que entraron en vigor el 15 de julio regulan los servicios de inteligencia artificial capaces de imitar personalidades humanas y mantener vínculos afectivos prolongados. El objetivo es prevenir la dependencia emocional, proteger a los menores y aumentar la responsabilidad de las plataformas, sin prohibir el desarrollo general de agentes inteligentes.

Las nuevas disposiciones establecen límites para las plataformas que ofrecen servicios de inteligencia artificial con rasgos, formas de pensamiento y estilos de comunicación similares a los humanos. Según informaron CCTV y la Radio Nacional de China, las empresas deberán incorporar mecanismos para evitar que los sistemas fomenten la dependencia emocional, la adicción o la manipulación de los usuarios, además de identificar situaciones de riesgo y ofrecer advertencias e intervenciones adecuadas. 

La normativa prohíbe que estos servicios induzcan a los usuarios a adoptar decisiones irracionales mediante la manipulación afectiva y establece una protección especial para niños y adolescentes, a quienes no podrán ofrecerse vínculos virtuales que simulen relaciones familiares, de pareja u otras formas de intimidad. Coincidiendo con la entrada en vigor de las reglas, las plataformas Doubao y Qwen anunciaron la suspensión, desde el 15 de julio, de algunas funciones que permitían a los usuarios crear agentes personalizados con memoria de largo plazo y roles definidos. 

Sin embargo, las disposiciones no implican la prohibición de los agentes de inteligencia artificial ni el cierre general de las aplicaciones de compañía. Expertos consultados por Xinhua señalaron que la regulación busca “instalar barreras de protección” y diferenciar los sistemas destinados a tareas —como educación, investigación, atención al público y asistencia laboral— de aquellos diseñados para mantener relaciones emocionales persistentes. Las nuevas exigencias podrían elevar los costos de cumplimiento en el corto plazo, pero también favorecer un desarrollo más seguro y regulado de la inteligencia artificial en China.