El Tribunal Supremo de China dio a conocer nuevas normas para determinar en qué casos el uso de inteligencia artificial (IA), incluidos los llamados deepfakes, puede derivar en consecuencias legales.
De acuerdo con el máximo órgano judicial del país, utilizar imágenes, rostros o voces generados mediante IA para difundir información falsa o perjudicar la reputación de una persona puede ser perseguido por la ley. También podría ser sancionada la creación o distribución de clones digitales sin el consentimiento de la persona afectada, según información difundida por la agencia oficial Xinhua.
Las disposiciones no se limitan a los deepfakes. El tribunal también abordó las llamadas “alucinaciones” de los sistemas de IA, es decir, aquellos casos en los que un modelo genera información errónea, falsa o inventada.
En este sentido, los proveedores de servicios de inteligencia artificial podrían enfrentar responsabilidades legales si, después de recibir una notificación de un usuario sobre contenido que vulnera sus derechos, no toman medidas oportunas para corregir o detener la afectación.
Los usuarios, por su parte, también podrían ser responsables si inducen deliberadamente a un sistema de IA a generar contenido ilegal o destinado a perjudicar a terceras personas.
Otro de los puntos señalados por el Tribunal Supremo es el uso de algoritmos para discriminar a consumidores mediante precios o condiciones diferentes para un mismo producto o servicio sin una justificación válida.
Esta práctica, vinculada especialmente con plataformas de comercio electrónico, también podría ser considerada ilegal bajo los nuevos criterios.
“No podemos esperar que cada consumidor se convierta en un experto en detección de engaños. La ley debe actuar con rapidez para proteger sus derechos e intereses”, afirmó Zhou Jiahai, director de la oficina de investigación del Tribunal Supremo.
Las nuevas directrices se conocen en un momento de fuerte expansión de la industria china de inteligencia artificial y de creciente competencia tecnológica con Estados Unidos.
En los últimos meses, empresas chinas han presentado nuevos modelos de IA, entre ellos Kimi K3, desarrollado por Moonshot, y GLM-5.2, de Zhipu.
En julio, el presidente chino, Xi Jinping, pidió reforzar la supervisión y la gobernanza de la inteligencia artificial para que sean “precisas y efectivas”, además de perfeccionar de forma constante las medidas destinadas a evitar una eventual pérdida de control sobre esta tecnología emergente.
