Los expertos estadounidenses están desarrollando una red neuronal que puede explicar las decisiones que toman los robots de combate. Esto aumentará el nivel de confianza humana en los "soldados electrónicos".
El proyecto de Inteligencia Artificial Explicable, o simplemente XAI (Inteligencia Artificial Explicable), permitirá que humanos y robots se entiendan mejor entre sí. La red neuronal XAI construirá una cadena lógica de "razonamiento" del robot y mostrará a la persona por qué la máquina ha tomado tal decisión, por ejemplo, abrir fuego sobre un objetivo específico.
El desarrollo está en marcha para crear unidades de combate mixtas robot-humano en el Ejército de los EE. UU. Hasta ahora, es difícil de imaginar, pero en unas pocas décadas los robots se convertirán en soldados de pleno derecho, como las personas. Además, son capaces de reemplazar a una persona en situaciones en las que puede ser necesario abrir fuego contra un objetivo vivo. Tal reemplazo liberará formalmente a una persona de la responsabilidad de tomar una decisión letal, pero no podrá privarlo de dudas y remordimientos, y también puede causar desconfianza en los robots. Nunca se sabe, ¿tal vez los robots son en realidad maníacos electrónicos a los que les gusta matar?
norte
El proyecto XAI debería resolver este problema en la interacción humano-robot. Gracias a la introducción del nuevo sistema, los militares (los que aún son personas vivas) podrán comprender con qué criterio la máquina ha evaluado tal o cual objeto o persona como amenaza. Además, XAI facilitará la adaptación de los robots de combate a las realidades de un conflicto militar específico y reducirá el grado de crueldad sin sentido.
El nuevo desarrollo será útil no solo para los militares. También se puede utilizar en el ámbito civil: en la industria, los sistemas de seguridad y la medicina. Bill Ferguson, un destacado especialista de Raytheon, que participa directamente en el desarrollo de una red neuronal, da un ejemplo de tal uso. “Si la inteligencia artificial detecta signos de cáncer de pulmón en los rayos X, el médico puede averiguar por qué la máquina lo decidió. La computadora resaltará todas las áreas sospechosas que el médico podría haber ignorado, confundiéndolas con artefactos de imagen. Después, el médico podrá determinar por sí mismo si vale la pena corregir el diagnóstico o si la red neuronal estaba equivocada”, explica el científico.
