Europa ha dado un gran paso hacia la regulación de la IA

 Europa ha dado un gran paso hacia la regulación de la IA

 

 https://www.weforum.org/agenda/2023/06/eu-artificial-intelligence-ai-rules/

 Los legisladores de la Unión Europea acordaron el miércoles cambios en el borrador de las reglas de inteligencia artificial para incluir una prohibición del uso de la tecnología en la vigilancia biométrica y para que los sistemas de IA generativa como ChatGPT divulguen contenido generado por IA.

Las enmiendas a la ley histórica propuesta por la Comisión de la UE destinadas a proteger a los ciudadanos de los peligros de la tecnología podrían provocar un choque con los países de la UE que se oponen a una prohibición total del uso de IA en la vigilancia biométrica.

La rápida adopción de ChatGPT de OpenAI respaldado por Microsoft y otros bots ha llevado a los principales científicos de IA y ejecutivos de la compañía, incluidos Elon Musk de Tesla y Sam Altman de OpenAI, a aumentar los riesgos potenciales que se plantean para la sociedad.

"Mientras que las grandes empresas tecnológicas hacen sonar la alarma sobre sus propias creaciones, Europa se ha adelantado y ha propuesto una respuesta concreta a los riesgos que la IA está empezando a plantear", dijo Brando Benifei, co-ponente del proyecto de ley.

 ¿Cómo garantiza el Foro Económico Mundial el desarrollo ético de la inteligencia artificial?

 Entre otros cambios, los legisladores de la Unión Europea quieren que cualquier empresa que utilice herramientas generativas divulgue el material con derechos de autor utilizado para entrenar sus sistemas y que las empresas que trabajan en "aplicaciones de alto riesgo" realicen una evaluación del impacto sobre los derechos fundamentales y evalúen el impacto ambiental.

Los sistemas como ChatGPT tendrían que revelar que el contenido fue generado por IA, ayudar a distinguir las llamadas imágenes falsas de las reales y garantizar la protección contra el contenido ilegal.

Microsoft (MSFT.O) e IBM (IBM.N) dieron la bienvenida al último movimiento de los legisladores de la UE, pero esperaban un mayor perfeccionamiento de la legislación propuesta.

“Creemos que la IA requiere barandillas legislativas, esfuerzos de alineación a nivel internacional y acciones voluntarias significativas por parte de las empresas que desarrollan e implementan la IA”, dijo un portavoz de Microsoft.

Los legisladores ahora tendrán que discutir los detalles con los países de la UE antes de que el borrador de las reglas se convierta en legislación.

 'La IA es intrínsecamente buena'
Si bien la mayoría de las grandes empresas tecnológicas reconocen los riesgos que plantea la IA, otras como Meta (META.O), propietaria de Facebook e Instagram, han desestimado las advertencias sobre los peligros potenciales.

"La IA es intrínsecamente buena, porque el efecto de la IA es hacer que las personas sean más inteligentes", dijo el miércoles el científico jefe de IA de Meta, Yann LeCun, en una conferencia en París.

En el proyecto de ley actual de la UE, se agregaron a la lista de alto riesgo los sistemas de inteligencia artificial que podrían usarse para influir en los votantes y el resultado de las elecciones y los sistemas utilizados por las plataformas de redes sociales con más de 45 millones de usuarios.

Meta y Twitter entrarán en esa clasificación.

"La IA plantea muchas preguntas, social, ética y económicamente. Pero ahora no es el momento de presionar ningún 'botón de pausa'. Al contrario, se trata de actuar rápido y asumir la responsabilidad", dijo el jefe de industria de la UE, Thierry Breton.

Dijo que viajaría a los Estados Unidos la próxima semana para reunirse con el CEO de Meta, Mark Zuckerberg, y Altman de OpenAI para discutir el borrador de la Ley de IA.

La Comisión anunció el borrador de las reglas hace dos años, con el objetivo de establecer un estándar global para una tecnología clave para casi todas las industrias y negocios, ya que la UE busca alcanzar a los líderes de IA de Estados Unidos y China.