Wen Li, una vendedora de Shanghái en la industria del hospedaje, sospechó que un algoritmo estaba interfiriendo con ella cuando ella y un amigo usaron la misma aplicación de transporte compartido una noche. China está a punto de regular la IA.
El amigo de Wen, que pedía viajes en coches de lujo con menos frecuencia, vio un precio más bajo por el mismo viaje. Wen culpó a los algoritmos de la compañía y dijo que querían sacarle más dinero.
Las empresas chinas de transporte compartido dicen que los precios varían debido a las fluctuaciones del tráfico. Sin embargo, algunos estudios e informes de noticias afirman que las aplicaciones pueden ofrecer diferentes precios. Esto va en función de factores que incluyen el historial de viajes y el teléfono que usa una persona.
El 1 de marzo China prohibió este tipo de discriminación algorítmica como parte de lo que puede ser el esfuerzo más ambicioso del mundo para regular la IA. Según las reglas, las empresas tendrán prohibido utilizar información personal para ofrecer a los usuarios diferentes precios por un producto o servicio.
Las reglas generales cubren algoritmos que establecen precios, controlan los resultados de búsqueda, recomiendan vídeos y filtran contenido. Impondrán nuevas restricciones a las principales empresas de transporte, comercio electrónico, transmisión y redes sociales.
China está a punto de regular la IA
Las regulaciones extenderán una represión extraordinaria contra las empresas tecnológicas más populares y valiosas de China. Esto incluye grandes multas y otro tipo de acciones.
Los que formulan las políticas en otros lugares están tomando nota. «Acabo de estar esta mañana en una reunión con el Ministerio de Relaciones Exteriores de los Países Bajos y me preguntaron si China estaba haciendo cosas que nosotros no hacíamos». Esto lo dijo Rogier Chreemers, experto en derecho y gobernanza chinos de la Universidad de Leiden en los Países Bajos.
Las regulaciones son conocidas como Disposiciones de gestión de recomendación algorítmicas del servicio de información de Internet. Fueron redactadas por la Administración del ciberespacio de China. Se trata de un organismo poderoso que hace cumplir las normas de ciberseguridad, censura de Internet y comercio electrónico. Entre otras cosas, prohíben las cuentas falsas, la manipulación de números de tráfico y la promoción de contenido adictivo.
También brindan protección a los repartidores, conductores de servicios de transporte y otros trabajadores temporales.
Algunas disposiciones tienen como objetivo abordar las quejas sobre los servicios online. Según las normas, por ejemplo, las empresas tendrán prohibido utilizar características personales para ofrecer a los usuarios precios diferentes por un mismo producto. También se les pedirá que notifiquen a los usuarios y les permitan optar por no participar cuando se utilizan algoritmos para hacer recomendaciones.
IA sí, pero controlada
Las empresas que violen las reglas podrían enfrentarse a multas. Se les prohibirá inscribir a nuevos usuarios, se les retirarían las licencias comerciales o verían cerrados sus sitios web o aplicaciones.
Algunos elementos de las nuevas regulaciones pueden resultar difíciles o imposibles de hacer cumplir. Puede ser técnicamente desafiante controlar el comportamiento de un algoritmo que cambia continuamente debido a una nueva entrada, por ejemplo.
Sin embargo, el público chino parece apoyar en gran medida las medidas destinadas a frenar el poder de las grandes plataformas tecnológicas. Hay que tener en cuenta el número que representa la población china que utiliza los servicios todos los días.
Los últimos 18 meses han demostrado que los reguladores chinos no son tímidos a la hora de castigar a empresas destacadas. La aplicación de transporte compartido Didi se retiró de las tiendas de aplicaciones chinas poco después de su salida a bolsa en EE.UU. Esto fue debido a las preocupaciones del gobierno por sus prácticas de datos. Alibaba también ha visto multas millonarias por violaciones antimonopolio.