Inteligencia artificial explicable (XAI) (archivado)

 Inteligencia artificial explicable (XAI) (archivado)

 

 https://www.darpa.mil/program/explainable-artificial-intelligence

 

 El éxito espectacular en el aprendizaje automático ha dado lugar a un torrente de aplicaciones de inteligencia artificial (IA). Los avances continuos prometen producir sistemas autónomos que percibirán, aprenderán, decidirán y actuarán por sí mismos. Sin embargo, la efectividad de estos sistemas está limitada por la incapacidad actual de la máquina para explicar sus decisiones y acciones a los usuarios humanos (Figura 1). El Departamento de Defensa (DoD) enfrenta desafíos que exigen sistemas más inteligentes, autónomos y simbióticos. La IA explicable, especialmente el aprendizaje automático explicable, será esencial para que los futuros combatientes comprendan, confíen adecuadamente y manejen de manera efectiva una generación emergente de socios de máquinas con inteligencia artificial.

El programa de IA explicable (XAI) tiene como objetivo crear un conjunto de técnicas de aprendizaje automático que:

●Producir modelos más explicables, manteniendo un alto nivel de rendimiento de aprendizaje (precisión de predicción); y
●Permita que los usuarios humanos comprendan, confíen adecuadamente y administren de manera efectiva la generación emergente de socios con inteligencia artificial.

Los nuevos sistemas de aprendizaje automático tendrán la capacidad de explicar su razón de ser, caracterizar sus fortalezas y debilidades y transmitir una comprensión de cómo se comportarán en el futuro. La estrategia para lograr ese objetivo es desarrollar técnicas de aprendizaje automático nuevas o modificadas que produzcan modelos más explicables. Estos modelos se combinarán con técnicas de interfaz humano-computadora de última generación capaces de traducir los modelos en diálogos explicativos comprensibles y útiles para el usuario final (Figura 2). Nuestra estrategia es buscar una variedad de técnicas para generar una cartera de métodos que proporcionarán a los futuros desarrolladores una gama de opciones de diseño que cubran el espacio comercial de rendimiento versus explicabilidad.

 

 Figure 2. XAI Concept

 XAI es uno de los pocos programas actuales de DARPA que se espera que habilite "sistemas de IA de tercera ola", donde las máquinas entienden el contexto y el entorno en el que operan y, con el tiempo, construyen modelos explicativos subyacentes que les permiten caracterizar los fenómenos del mundo real.

El programa XAI se centra en el desarrollo de múltiples sistemas al abordar problemas de desafío en dos áreas: (1) problemas de aprendizaje automático para clasificar eventos de interés en datos multimedia heterogéneos; y (2) problemas de aprendizaje automático para construir políticas de decisión para que un sistema autónomo realice una variedad de misiones simuladas. Estas dos áreas de problemas de desafío se eligieron para representar la intersección de dos enfoques importantes de aprendizaje automático (clasificación y aprendizaje por refuerzo) y dos áreas de problemas operativos importantes para el Departamento de Defensa (análisis de inteligencia y sistemas autónomos).

Además, los investigadores están examinando la psicología de la explicación.

Los prototipos de investigación de XAI se prueban y evalúan continuamente a lo largo del programa. En mayo de 2018, los investigadores de XAI demostraron las implementaciones iniciales de sus sistemas de aprendizaje explicables y presentaron los resultados de los estudios piloto iniciales de sus evaluaciones de Fase 1. Las evaluaciones completas del sistema de Fase 1 se esperan para noviembre de 2018.

Al final del programa, la entrega final será una biblioteca de herramientas que constará de módulos de software de aprendizaje automático e interfaz hombre-computadora que podrían usarse para desarrollar futuros sistemas de IA explicables. Una vez que se complete el programa, estos conjuntos de herramientas estarán disponibles para un mayor refinamiento y transición a aplicaciones comerciales o de defensa.