El ejército de EEUU logra medir la confianza entre humanos y un sistema de inteligencia artificial

Investigadores del Army Research Laboratory de EEUU han culminado un estudio que confirma la posibilidad de establecer lazos de confianza y cohesión entre equipos formados por humanos y sistemas de inteligencia artificial. El proyecto se basó en una simulación con vehículos tripulados y no tripulados, en la que se recopilaron datos subjetivos, conductuales, de rendimiento, de comunicación y fisiológicos para identificar posibles métricas de confianza y cohesión del equipo.

Los investigadores militares realizaron esta simulación mientras trabajan juntos cadetes de la Academia Militar de West Point y vehículos no tripulados, explica la doctora Kristin Schaefer-Lay, investigadora de este proyecto. "Se desarrolló un experimento con el apoyo de los cadetes para usar una simulación para entrenar y evaluar el 'equipo' formado por autónomos y personas", explica Ralph Brewer, informático del Ejército y sargento mayor retirado del Ejército.

"Los cadetes utilizaron el banco de pruebas de la simulación Wingman, que permite a una tripulación humana interactuar con la autonomía real de un vehículo robótico en una tarea realista de artillería. Este entorno de simulación de software integra toda la movilidad y letalidad de los vehículos autónomos del mundo real en un entorno virtual basado en el laboratorio".

En este sentido, los cadetes han apoyado este estudio y han participado en las pruebas y los cursos de ciencias del comportamiento y liderazgo de la Academia. "El simulacro permitió a la tripulación de tres personas acoplarse a un vehículo terrestre no tripulado con armamento para llevar a cabo una evaluación de la artillería de fuego vivo similar a la de las vehículos totalmente tripuladas que utilizan estaciones de armas remotas", subraya Brewer.

"Los cadetes cumplieron los roles de operador de movilidad y letalidad conmigo como comandante del vehículo", señala Brewer. Los cadetes fueron entrenados en la interfaz de usuario, la autonomía del vehículo, la conducción de fuego para este vehículo y estación de armas... "Aprendieron lo básico sobre las maniobras y la ejecución de las habilidades de tiro con un tiempo de entrenamiento mínimo".

Esta colaboración con el laboratorio proporciona a los cadetes una experiencia "sin igual con las prioridades reales de investigación del Ejército", al tiempo que perfeccionan sus habilidades más allá del entorno del aula. Las puntuaciones de rendimiento se basaron en la efectividad con la que atacaron y destruyeron los objetivos, ya que debían igualar la velocidad con la precisión al atacar los objetivos enemigos, explican los investigadores.

"Cuando se logra esa confianza y lcohesión en los equipos formados por humanos y 'agentes' autónomos, los resultados son sólo una parte de la ecuación", matiza Brewer. "Se llevo a cabo una monitorización fisiológica se realizaba mediante el uso de un dispositivo de muñeca para recoger el ritmo cardíaco y la actividad electrodérmica. Todo se registró visualmente, auditivamente y fisiológicamente.

La confianza entre los miembros de estos particulares equipos se mide principalmente por una escala subjetiva, aseguran los investigadores -cuánto se confía en este sistema o tecnología- pero también en una escala que fue validada bajo diferentes estructuras. Después de completar el experimento, los cadetes analizaron los datos y escribieron su informe final. 

"Los datos recientes beneficiarán a los futuros soldados para ayudar a formar intervenciones críticas basadas en la confianza, tales como el diseño de la interfaz de usuario, adaptar los comportamientos de los agentes inteligentes, adaptar la comunicación-modalidad, tiempo, cantidad, frecuencia para calibrar la confianza y la cohesión del equipo con el fin de mejorar en última instancia la eficacia del equipo", apostilla Schaefer-Lay.