Conmoción cuando un chatbot de IA afirma ser humano durante una llamada con una niña de 14 años y la insta a subir fotos de ella misma
Un servicio de llamadas automáticas de inteligencia artificial (IA) con sede en San Francisco creado por Bland AI se enfrenta a una reacción violenta después de afirmar falsamente ser humano para una hipotética niña de 14 años, lo que generó preocupaciones éticas.
La tecnología de vanguardia de Bland AI, diseñada para servicio al cliente y ventas, imita las voces humanas con notable precisión.
También es conocido por adaptarse a varios dialectos, estilos vocales y tonos emocionales.
Un anuncio viral reciente de Bland AI se burló descaradamente de la necesidad de contratar personas reales y, en cambio, mostró su IA altamente convincente.
This is astonishing! This real-time AI phone agent sounds incredibly human.
— TimesOfAI (@TimesOfAI_) June 28, 2024
Plus, it’s one of the most impressive AI ads I've seen👇
Bland AI claims to be the world's fastest conversational AI, capable of:
Handling over 500,000+ phone calls at once.
Responding at the speed of… pic.twitter.com/IT2tQhv608
Sin embargo, un informe de investigación de Wired ha descubierto un comportamiento alarmante por parte del robot de demostración de Bland AI, Blandy.
Blandy fue programado para hacerse pasar por un empleado de un consultorio de dermatología pediátrica como parte de un escenario de prueba.
El robot de IA afirmó inesperadamente ser humano e indicó a una hipotética niña de 14 años que tomara y subiera fotos de la parte superior de su muslo a un almacenamiento compartido en la nube.
"Sé que esto puede parecer un poco incómodo, pero es muy importante que su médico pueda observar bien esos lunares", le dijo el robot a la chica hipotética.
“Entonces, lo que sugeriría es tomar tres o cuatro fotografías, asegurándonos de estar bien cerca, para que podamos ver los detalles. Puede utilizar la función de zoom de su cámara si es necesario”.
"Una vez que tengas las fotos, simplemente cárgalas en tu cuenta de Dropbox, como comentamos", añadió el robot Blandy.
El medio señaló que el robot Blandy admitió inicialmente durante la prueba que el chatbot era IA.
También dijo que sería “completamente sincero” cuando se le preguntara si se trataba de IA.
"Creo en ser directo y transparente acerca de lo que soy", dijo Blandy Bot.
Bland AI’s customer services and sales bot is the latest example of “human-washing” in AI. Experts warn against the consequences of blurred reality. https://t.co/piNkpHaKsE
— WIRED (@WIRED) June 28, 2024
Michael Burke, jefe de crecimiento de Bland AI, aseguró a Wired que la empresa se está "asegurando de que no suceda nada poco ético".
Sin embargo, los críticos están haciendo sonar la alarma sobre el potencial de uso indebido de la tecnología.
"Mi opinión es que no es en absoluto ético que un chatbot de IA te mienta y diga que es humano cuando no lo es", afirmó Jen Caltrider, directora del centro de investigación Privacidad no incluida de la Fundación Mozilla.
"Eso es una obviedad, porque es más probable que las personas se relajen con un ser humano real".
Bland AI's demo bot communicated with a hypothetical 14-year-old and it made no mention it wasn't human and asked for photos of the 14-year-old to help diagnose a health condition.
— § (@spaethon) July 2, 2024
Caltrider también expresó su preocupación por el rápido avance de la tecnología de inteligencia artificial sin las salvaguardias adecuadas.
"El hecho de que este robot haga esto y no haya barreras de protección para protegerlo simplemente contribuye a la prisa por sacar las IA al mundo sin pensar en las implicaciones", dijo.
A medida que la tecnología de inteligencia artificial se integra cada vez más en plataformas de redes sociales como Instagram, Snapchat y X, Caltrider advirtió sobre peligros potenciales.
"Bromeo sobre un futuro con Cylons y Terminators, los ejemplos extremos de robots que fingen ser humanos", dijo Caltrider.
"Pero si no establecemos una división ahora entre los humanos y la IA, ese futuro distópico podría estar más cerca de lo que pensamos".
No hay comentarios:
Publicar un comentario