Un nuevo estudio ha demostrado que manifestar prejuicios hacia los demás no requiere inteligencia especial y puede desarrollarse fácilmente en máquinas con inteligencia artificial.
Los psicólogos y especialistas en tecnología de la información de la Universidad de Cardiff y el MIT han demostrado que los grupos de máquinas autónomas pueden presentar sesgos simplemente definiendo tal comportamiento, copiándolo y enseñándolo mutuamente.
Puede parecer que el prejuicio es un fenómeno puramente humano, que requiere inteligencia humana para formar opiniones o estereotipos sobre una persona o grupo. Si bien algunos tipos de algoritmos informáticos ya han mostrado sesgos como el racismo y el sexismo basados en el estudio de registros públicos y otros datos generados por humanos, un nuevo trabajo demuestra la capacidad de la IA para desarrollar grupos con prejuicios de forma independiente.
La investigación se publica en Scientific Reports. Se basa en simulaciones por computadora de cómo los agentes virtuales sesgados pueden formar grupos e interactuar entre sí. Durante la simulación, cada individuo toma la decisión de ayudar a alguien de su grupo o de otro, dependiendo de la reputación de ese individuo, así como de su propia estrategia, que incluye sus niveles de prejuicio hacia los forasteros. Después de realizar miles de simulaciones, cada individuo aprende nuevas estrategias copiando a otros, ya sean miembros de su propio grupo o de toda la "población".
norte
La frecuencia acumulada relativa de las características de los agentes por el nivel de prejuicio / Roger M. Whitaker.
“ Después de ejecutar estas simulaciones miles y miles de veces seguidas, comenzamos a comprender cómo se desarrolla el sesgo y qué condiciones se necesitan para cultivarlo o prevenirlo ”, dijo el coautor del estudio, el profesor Roger Whitaker, del Instituto para la Investigación del Crimen y la Seguridad y la Facultad de Ciencias de la Computación y Ciencias de la Computación de la Universidad de Cardiff. “Nuestras simulaciones muestran que el sesgo es una fuerza poderosa de la naturaleza y, a través de la evolución, se puede estimular en poblaciones virtuales para dañar conexiones más amplias con otros. La protección contra los grupos prejuiciosos puede conducir inadvertidamente a la formación de otros grupos prejuiciados, provocando una mayor división de la población. Un prejuicio tan generalizado es difícil de revertir.
Los datos de la investigación también incluyen a individuos que aumentan sus niveles de sesgo al copiar preferentemente a aquellos que obtienen los mejores resultados a corto plazo, lo que a su vez significa que tales decisiones no necesariamente requieren habilidades especiales.
“Es totalmente plausible que las máquinas autónomas, capaces de identificarse con la discriminación y copiar a otras, puedan en el futuro ser susceptibles a los fenómenos de prejuicio que vemos en la sociedad”, prosigue el profesor Whitaker. “Muchos desarrollos de IA que vemos hoy involucran autonomía y autocontrol, es decir, el comportamiento de los dispositivos también está influenciado por quienes los rodean. Los ejemplos recientes incluyen el transporte y la Internet de las cosas. Nuestra investigación proporciona una visión teórica de dónde los agentes simulados recurren periódicamente a otros en busca de recursos.
Video promocional:
Los investigadores también encontraron que bajo ciertas condiciones, incluida la presencia de subpoblaciones más divididas de la misma sociedad, el sesgo es más difícil de reforzar.
“Con una gran cantidad de subpoblaciones, los sindicatos de grupo imparciales pueden cooperar sin ser explotados. También disminuye su condición de minoría al tiempo que reduce su susceptibilidad a establecer sesgos. Sin embargo, esto también requiere circunstancias en las que los agentes tengan una disposición más favorable hacia interacciones fuera de su grupo”, concluyó el profesor Whitaker.
Vladimir Guillén
