Elon Musk, los expertos instan a hacer una pausa en el entrenamiento de los sistemas de IA que pueden superar a GPT-4

 Elon Musk, los expertos instan a hacer una pausa en el entrenamiento de los sistemas de IA que pueden superar a GPT-4

https://www.thehindu.com/sci-tech/technology/elon-musk-experts-urge-pause-training-ai-systems-outperform-gpt-4/article66674296.ece
Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos de la industria piden una pausa de seis meses en el entrenamiento de sistemas más potentes que GPT-4

 Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos de la industria están pidiendo una pausa de seis meses en el entrenamiento de sistemas más poderosos que GPT-4, dijeron en una carta abierta, citando riesgos potenciales para la sociedad y la humanidad.

La carta, emitida por el Future of Life Institute sin fines de lucro y firmada por más de 1,000 personas, incluidos Musk, el cofundador de Apple Steve Wozniak y el CEO de Stability AI, Emad Mostaque, pedía una pausa en el desarrollo avanzado de IA hasta que se compartan protocolos de seguridad para tal los diseños fueron desarrollados, implementados y auditados por expertos independientes.

"Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables", decía la carta.

 La carta también detalla los riesgos potenciales para la sociedad y la civilización de los sistemas de IA competitivos entre humanos en forma de interrupciones económicas y políticas, y pide a los desarrolladores que trabajen con los legisladores en materia de gobernanza y autoridades reguladoras.

La carta llega cuando la fuerza policial de la UE, Europol, se unió el lunes a un coro de preocupaciones éticas y legales sobre IA avanzada como ChatGPT, advirtiendo sobre el posible uso indebido del sistema en intentos de phishing, desinformación y ciberdelincuencia.

Desde su lanzamiento el año pasado, ChatGPT de OpenAI respaldado por Microsoft ha llevado a los rivales a lanzar productos similares y a las empresas a integrarlo o tecnologías similares en sus aplicaciones y productos.