El algoritmo Compas, que ha trabajado para la policía estadounidense desde 1998, analizó los datos de los imputados y luego, con base en la información recibida, ayudó a decidir, por ejemplo, si el delincuente debía ser puesto en libertad bajo fianza o permanecer bajo custodia. Al elegir una medida de moderación, el sistema tuvo en cuenta la edad, el género y el historial en el ámbito penal. Durante 20 años de "servicio", el algoritmo fue evaluado por más de un millón de personas, pero recientemente fue declarado incompetente, tras lo cual fue retirado de inmediato.
Los científicos de Dartmouth College probaron la precisión del sistema y si se puede confiar en él. Para ello, reclutaron a autónomos, gente común y corriente sin formación jurídica, para que tomaran sus propias decisiones en base a información breve sobre las personas, dando a los sujetos información sobre género, edad, antecedentes penales y varios otros parámetros.
La precisión del pronóstico de los autónomos que tenían un expediente pequeño fue de casi el 70 por ciento, mientras que el programa se quedó a la zaga de las personas en un cinco por ciento, mientras dependía de 137 puntos de biografía. El análisis de los juicios del algoritmo mostró que es más probable que el programa sospeche de los prisioneros negros.
"Los errores en tales casos pueden ser muy costosos, por lo que vale la pena considerar si este algoritmo debe usarse para emitir veredictos judiciales", dice uno de los autores del estudio.
Habiendo estudiado el principio del algoritmo, los investigadores llegaron a la conclusión de que cuanto más joven es el acusado y más arrestos tiene a sus espaldas, mayor es la probabilidad de una recaída, por lo tanto, los especialistas en inteligencia artificial reconocieron la tecnología como poco confiable.
Viacheslav Larionov
