El proyecto busca regular sistemas que simulan personalidades humanas e interactúan con usuarios.
El regulador cibernético de China dio a conocer este sábado un proyecto de normas que reforzaría la supervisión de los servicios de inteligencia artificial diseñados para simular personalidades humanas y generar interacciones emocionales con los usuarios, propuesta que fue abierta a comentarios del público y forma parte de los esfuerzos del gobierno chino por establecer lineamientos para el uso de estas tecnologías orientadas al consumo.
De acuerdo con el documento, las normas se aplicarían a productos y servicios de inteligencia artificial disponibles al público en China que presenten rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos simulados.
La regulación abarcaría interacciones realizadas mediante texto, imágenes, audio, video u otros formatos digitales.
El proyecto plantea que los proveedores de estos servicios deberán advertir a los usuarios sobre el uso prolongado de las plataformas e intervenir cuando se detecten señales de dependencia.
También establece que las empresas asuman responsabilidades de seguridad durante todo el ciclo de vida del producto, incluyendo la revisión de algoritmos, la seguridad de los datos y la protección de la información personal.
Asimismo, la iniciativa se enfoca en los posibles riesgos psicológicos asociados a este tipo de tecnología. Los proveedores tendrían la obligación de identificar estados emocionales de los usuarios y evaluar niveles de dependencia.
En casos de emociones extremas o conductas adictivas, las plataformas deberán aplicar medidas de intervención conforme a lo establecido en las normas.
El proyecto fija límites claros en materia de contenido y comportamiento, al señalar que los servicios no deberán generar información que ponga en riesgo la seguridad nacional, difunda rumores o promueva la violencia u obscenidad. Estas disposiciones se suman al marco regulatorio que China ha desarrollado desde 2021 para algoritmos de recomendación, servicios de inteligencia artificial generativa y protección de datos.
