Regulación esencial para frenar IA para vigilancia, desinformación: expertos en derechos

 Regulación esencial para frenar IA para vigilancia, desinformación: expertos en derechos

 

 https://news.un.org/en/story/2023/06/1137302

 En un comunicado el viernes, los expertos dijeron que las tecnologías emergentes, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más "en contextos sensibles", sin el conocimiento o consentimiento de las personas.

Deben trazarse las 'líneas rojas urgentes'
“Se necesitan líneas rojas regulatorias urgentes y estrictas para las tecnologías que afirman realizar reconocimiento de emociones o género”, dijeron los expertos, entre los que se encuentra Fionnuala Ní Aoláin, relatora especial sobre la promoción y protección de los derechos humanos en la lucha contra el terrorismo.

 Los expertos designados por el Consejo de Derechos Humanos condenaron el uso y los impactos ya "alarmantes" del spyware y las tecnologías de vigilancia en el trabajo de los defensores de los derechos humanos y los periodistas, "a menudo bajo la apariencia de seguridad nacional y medidas antiterroristas".

También pidieron una regulación para abordar el desarrollo vertiginoso de la IA generativa que permite la producción masiva de contenido en línea falso que difunde desinformación y discurso de odio.

Consecuencias del mundo real
Los expertos destacaron la necesidad de garantizar que estos sistemas no expongan más a las personas y comunidades a violaciones de derechos humanos, incluso mediante la expansión y el abuso de prácticas de vigilancia invasivas que infringen el derecho a la privacidad, facilitan la comisión de graves violaciones de derechos humanos, incluso desapariciones forzadas y discriminación.

También expresaron su preocupación por el respeto a las libertades de expresión, pensamiento, protesta pacífica y por el acceso a los derechos económicos, sociales y culturales esenciales y los servicios humanitarios.

“Las tecnologías y aplicaciones específicas deben evitarse por completo cuando la regulación de las denuncias de derechos humanos no es posible”, dijeron los expertos.

Los expertos también expresaron su preocupación de que el desarrollo de la IA generativa esté impulsado por un pequeño grupo de actores poderosos, incluidas empresas e inversores, sin requisitos adecuados para llevar a cabo la diligencia debida en materia de derechos humanos o consultar con las personas y comunidades afectadas.

Y el trabajo crucial de la regulación interna a través de la moderación del contenido, a menudo lo realizan personas en situaciones de explotación laboral, señalaron los expertos independientes.

Más transparencia
“Se necesita con urgencia una regulación para garantizar la transparencia, alertar a las personas cuando se encuentran con medios sintéticos e informar al público sobre los datos de capacitación y los modelos utilizados”, dijeron los expertos.

Los expertos reiteraron sus llamados a la cautela sobre el uso de la tecnología digital en el contexto de las crisis humanitarias, desde la recopilación de datos a gran escala, incluida la recopilación de datos biométricos altamente confidenciales, hasta el uso de tecnologías avanzadas de vigilancia dirigida.

“Instamos a la moderación en el uso de tales medidas hasta que se comprendan completamente las implicaciones más amplias de los derechos humanos y se establezcan sólidas salvaguardas de protección de datos”, dijeron.

Cifrado, privacidad primordial
Subrayaron la necesidad de garantizar soluciones técnicas, incluido un cifrado sólido de extremo a extremo y acceso sin restricciones a redes privadas virtuales, y asegurar y proteger las comunicaciones digitales.

“Tanto la industria como los Estados deben rendir cuentas, incluso por sus impactos económicos, sociales, ambientales y de derechos humanos”, dijeron. “La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y patrones de opresión”.

Los relatores especiales y otros expertos en derechos son designados por el Consejo de Derechos Humanos de la ONU, tienen el mandato de monitorear e informar sobre temas específicos o situaciones de países, no son personal de la ONU y no reciben un salario por su trabajo.