EXCLUSIVO: la ONU advierte que los chips cerebrales como el Neuralink de Elon Musk podrían usarse como armas que "alteran la personalidad", ya que la FDA aprueba tecnología para ensayos en humanos
Un panel de las Naciones Unidas ha advertido que la tecnología de chips cerebrales en la que Elon Musk es pionero podría ser objeto de abuso para la "neurovigilancia" que viola la "privacidad mental" o "incluso para implementar formas de reeducación forzada", lo que amenaza los derechos humanos en todo el mundo.
La agencia de la ONU para la ciencia y la cultura (UNESCO) dijo que la neurotecnología como Neuralink de Musk, si no se regula, conducirá a "nuevas posibilidades de monitorear y manipular la mente humana a través de la neuroimagen" y la tecnología de "alteración de la personalidad".
La UNESCO ahora está elaborando una estrategia sobre un "marco ético" mundial para proteger a la humanidad de los posibles abusos de la tecnología, que temen que se acelere con los avances en la IA.
“Estamos en el camino hacia un mundo en el que los algoritmos nos permitirán decodificar los procesos mentales de las personas”, dijo la subdirectora general de Ciencias Sociales y Humanas de la UNESCO, Gabriela Ramos.
Las implicaciones son "de gran alcance y potencialmente dañinas", dijo Ramos, dados los avances en neurotecnología que podrían "manipular directamente los mecanismos cerebrales" en los humanos, "subyaciendo en sus intenciones, emociones y decisiones".
Las advertencias del comité se producen menos de dos meses después de que la Administración de Drogas y Alimentos de los Estados Unidos (FDA) le diera a la compañía de implantes de chips cerebrales de Elon Musk, Neuralink, la aprobación federal para realizar ensayos en humanos.
La subdirectora general de ciencias sociales y humanas de la UNESCO, Gabriela Ramos, dijo el jueves pasado en una conferencia de bioética de 1000 participantes que la convergencia de la neurotecnología y la IA "descifra los procesos mentales de las personas y manipula directamente el cerebro".
Arriba, Emily Cross, profesora de Neurociencia Cognitiva y Social en la universidad pública de investigación ETH Zurich, presentó los hallazgos clave del comité de bioética de la ONU sobre los riesgos, las promesas, las cuestiones legales y éticas que rodean a los nuevos avances en neurotecnología.
La neurotecnología, como los implantes Neuralink de Musk, conectará el cerebro a la potencia informática a través de electrodos similares a hilos cosidos en ciertas áreas del cerebro.
Los electrodos de Neuralink se comunicarán con un chip para leer señales producidas por células especiales en el cerebro llamadas neuronas, que transmiten mensajes a otras células del cuerpo, como nuestros músculos y nervios.
Debido a que las señales de las neuronas se traducen directamente en controles motores, Neuralink podría permitir a los humanos controlar tecnologías externas, como computadoras o teléfonos inteligentes, o perder funciones corporales o movimientos musculares, con su mente.
"Es como reemplazar una parte del cráneo con un reloj inteligente", dijo Musk.
Pero esas vías de comunicación, como advirtió el panel de la UNESCO, cortan en ambos sentidos.
Este mayo, los científicos de la Universidad de Texas en Austin revelaron que pudieron entrenar una IA para leer de manera efectiva la mente de las personas, convirtiendo los datos cerebrales de los sujetos de prueba tomados a través de imágenes de resonancia magnética funcional (fMRI) en palabras escritas.
La economista de la UNESCO Mariagrazia Squicciarini, que se especializa en temas de inteligencia artificial, señaló que la capacidad de los algoritmos de aprendizaje automático para extraer rápidamente patrones de datos complejos, como escáneres cerebrales fMRI, acelerará el acceso de los chips cerebrales a la mente humana.
"Es como poner neurotech en esteroides", dijo Squicciarini.
La UNESCO convocó una conferencia de 1000 participantes de su Comité Internacional de Bioética (IBC) en París el jueves pasado y publicó recomendaciones el martes.
"El espectacular desarrollo de la neurotecnología, así como de las nuevas biotecnologías, nanotecnologías y las TIC, hace que las máquinas sean cada vez más humanoides", dijo el IBC en su informe, "y las personas están cada vez más conectadas con las máquinas y la IA".
El IBC sopesó numerosos escenarios distópicos aparentemente salidos de la ciencia ficción la semana pasada en su esfuerzo por adelantarse a las amenazas que avanzan rápidamente a los 'neuroderechos' humanos que aún no han sido codificados bajo el derecho internacional.
"Es necesario anticipar los efectos de la implementación de la neurotecnología", señaló el panel de la ONU. 'Existe una conexión directa entre la libertad de pensamiento, el estado de derecho y la democracia'.
Entre la miríada de recomendaciones del IBC en su informe de 91 páginas, el comité pidió una mayor transparencia en la investigación neurotecnológica de la industria y la academia; así como la redacción de 'neuroderechos' para su inclusión en el derecho internacional de los derechos humanos.
El informe de IBC describió la nueva tecnología en términos severos como un desafío para "algunos aspectos básicos de la dignidad humana, como la privacidad de la vida mental o la agencia individual".
Pero la subdirectora general de ciencias sociales y humanas de la UNESCO, Gabriela Ramos, puso el poder convergente de la neurotecnología y la IA en términos aún más crudos.
El cofundador de Neuralink, Elon Musk, comparó el procedimiento quirúrgico con "reemplazar una parte del cráneo con un reloj inteligente", ya que el dispositivo se conecta al cerebro, pero descansa sobre el cuero cabelludo. Arriba, imágenes de un experimento con primates que se hicieron públicas en Neuralink Show and Tell de noviembre de 2022
Si bien Elon Musk (en la foto) ha expresado planes para Neuralink que se han centrado en los beneficios potenciales para la salud del dispositivo, ayudando a curar una variedad de afecciones, desde la obesidad y el autismo hasta la depresión y la esquizofrenia, los reguladores federales de EE. UU. se han centrado en su capacidad de daño.
Si bien los planes de Elon Musk para Neuralink se han centrado en los beneficios potenciales para la salud del dispositivo, que ayuda a curar una variedad de afecciones, desde la obesidad y el autismo hasta la depresión y la esquizofrenia, los reguladores federales de EE. UU. se han centrado en su capacidad de causar daño.
Como informó Reuters en diciembre pasado, el Inspector General del Departamento de Agricultura de los Estados Unidos ha estado investigando, a pedido de un fiscal federal, posibles violaciones de la Ley de Bienestar Animal en Neuralink.
La ley federal rige cómo se les permite a los investigadores tratar ciertos tipos de animales, dentro de los estudios médicos y otros tipos de experimentos científicos.
Neuralink también ha sido objeto de escrutinio del Congreso, y los legisladores estadounidenses instaron a los reguladores en mayo pasado a investigar si el panel que supervisa las pruebas con animales en Neuralink ha contribuido a experimentos fallidos y apresurados.
La reciente aprobación de la FDA de Neuralink se produjo después de que Musk se jactara previamente de que su compañía de dispositivos médicos comenzaría los ensayos en humanos para un implante de cerebro humano en al menos cuatro ocasiones desde 2019.
En el transcurso de esos cuatro años, la FDA rechazó varias solicitudes de aprobación de experimentación humana de Neuralink, la más reciente a principios de 2022, según siete empleados actuales y anteriores que hablaron con Reuters.
Musk ha enfatizado el potencial de Neuralink para tratar condiciones severas como parálisis y ceguera, y ocasionalmente aplicaciones más triviales, como navegación web o telepatía.
Pero el IBC de la UNESCO llamó la atención específicamente sobre la amenaza que representan las tecnologías de chips cerebrales de inteligencia artificial de 'doble uso', que podrían reprogramarse o modificarse fácilmente para aplicaciones menos que benévolas en la mente humana.
'El argumento del doble uso, que generalmente fue planteado por los bioconservadores para enfatizar los riesgos', señaló el comité en su informe, 'ahora está siendo utilizado por los bioprogresistas para justificar algunos métodos de desarrollo'.
"Se deben implementar medidas para proteger contra las neurotecnologías que están abiertas al uso dual", según el IBC, para que la neurotecnología médicamente beneficiosa no se vea torcida por piratas informáticos, especuladores corporativos o incluso regímenes autoritarios.
"La neurotecnología tiene el potencial de generar enormes beneficios en la salud, la educación y las relaciones sociales, pero también tiene el potencial de profundizar las desigualdades sociales, dañar la privacidad de las personas y proporcionar métodos para manipular a las personas", dijeron.
La mayoría de los oradores de la conferencia de la UNESCO expresaron un fuerte apoyo a la creación de un marco procesable sobre neurotecnología similar a la Recomendación de la UNESCO sobre la ética de la inteligencia artificial.
Como dijo Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, 'los avances revolucionarios en neurotecnología ofrecen un potencial sin precedentes. Pero debemos ser conscientes de su impacto negativo si se emplea con fines maliciosos”.
'Debemos actuar ahora', dijo, 'para garantizar que no se utilice indebidamente y que no amenace a nuestras sociedades y democracias'.
No hay comentarios:
Publicar un comentario