Los comentarios siguen al informe de la ONU que detalla posibles abusos de los derechos humanos asociados con el uso de IA. El Alto Comisionado de la ONU pide que se prohíban las herramientas de IA perjudiciales.
El Alto Comisionado de la ONU para los derechos humanos ha pedido una moratoria sobre los sistemas de inteligencia artificial. Se basa en que amenazan los derechos humanos hasta que los gobiernos puedan establecer salvaguardias.
«Las aplicaciones de IA que violan las leyes de derechos humanos deben prohibirse», dijo el Alto Comisionado en un comunicado.
Sus comentarios coinciden con una publicación de un informe de la ONU en el que se advierte sobre los abusos de derechos humanos existentes. Estos involucran sistemas de IA en varios sectores, incluida en la aplicación de la ley.
El informe advertía sobre posibles abusos a través del uso irresponsable de la inteligencia artificial. Incluía suposiciones erróneas de los algoritmos de IA que podían categorizar erróneamente a las personas como terroristas o estafadores, por ejemplo.
El Alto Comisionado de la ONU pide que se prohíban las herramientas de IA perjudiciales
El informe también expresó su preocupación por la incapacidad de la mayoría de los modelos de IA para explicar sus resultados. A esto lo llamó «el problema de la caja negra». Los algoritmos de aprendizaje automático no se basan en reglas, sino que utilizan matrices de números entre un gran número de neuronas digitales.
El documento de la ONU también planteaba preocupaciones sobre la privacidad. Argumentaban que las herramientas de IA no necesitan capacitarse en datos personales para inferir resultados sobre el comportamiento de una persona.
«Las herramientas de inteligencia artificial pueden hacer inferencias de largo alcance sobre las personas. Pueden hacerlo incluso sobre su condición mental y física. Pueden permitir la identificación de grupos, como personas con inclinaciones políticas o personales particulares».
El informe sugería varias medidas para mitigar los efectos adversos sobre los derechos humanos. Estos incluyen legislación y regulación, colaboración entre el sector público y privado y la debida diligencia al implementar sistemas de IA.
También se pedía la transparencia sobre la naturaleza de lo sistemas utilizados. Quién lo está utilizando y para qué, junto con qué datos se usan.
La transparencia es algo que la Comisión Federal de Comercio también ha defendido. Sin embargo, la ONU ahora va más allá, aconsejando a los gobiernos que creen registros que contengan esta información.
«La inteligencia artificial puede ser una fuerza para el bien, ayudando a las sociedades a superar algunos de los grandes desafíos de nuestro tiempo. Pero las tecnologías de IA pueden tener efectos negativos, incluso catastróficos, si se utilizan sin tener suficiente en cuenta cómo afectan a las personas y a sus derechos humanos».