Un estudio realizado por científicos del Instituto de Tecnología de Massachusetts reveló los detalles del proceso de análisis de datos por inteligencia artificial, que a menudo se guía por estereotipos sexistas y racistas en la toma de decisiones. Varios sistemas que participaron en el experimento demostraron susceptibilidad al prejuicio humano.
El diario británico "The Daily Mail" escribe que tras recibir los resultados del estudio, el equipo de científicos se comprometió a reprogramar la inteligencia artificial, eliminando problemas previos. Según Irene Chen, que trabaja en el Instituto de Tecnología de Massachusetts, los informáticos tienden a apresurarse a llegar a la conclusión de que la única forma de eliminar elementos de racismo y sexismo en los algoritmos de inteligencia artificial es mejorar el código del software. La calidad de los algoritmos es directamente proporcional a los datos con los que operan. La investigación de Chen con David Sontag y Fredrik D. Johannson muestra que más datos disponibles pueden cambiar radicalmente las cosas para mejor.
En un experimento, el equipo analizó un sistema que predijo los ingresos de una persona en función de la información disponible. El análisis ha demostrado que en el 50% de los casos, el algoritmo tiende a predecir que el ingreso de una mujer será, en promedio, menor que el de un hombre. Al aumentar la cantidad de datos disponibles 10 veces, los científicos encontraron que el factor de tal error disminuyó en un 40%.
Además, en un estudio del sistema que se utiliza en los hospitales y predice la supervivencia de los pacientes sometidos a cirugía severa, la precisión de las predicciones fue mucho menor para la raza mongoloide que para los caucásicos y negroides. Sin embargo, los científicos argumentan que el uso de la técnica de análisis avanzada puede reducir significativamente la precisión de la predicción para pacientes que no pertenecen a la raza mongoloide. Esto muestra que es posible que más datos disponibles no siempre corrijan los errores de algoritmo. En cambio, los científicos deberían recibir más información sobre los grupos discriminados.
norte
El nuevo método plantea otra pregunta para los investigadores de aprendizaje automático sobre cómo analizar datos de manera eficiente sin discriminación existente.
¿Cómo funciona el aprendizaje automático en sistemas impulsados por IA?
Los sistemas de inteligencia artificial se basan en redes neuronales artificiales (ANN), que extrapolan las técnicas de almacenamiento y aprendizaje de información utilizadas por el cerebro humano a los sistemas mecánicos. Las RNA se entrenan para encontrar patrones en las fuentes de información disponibles, incluido el habla, el texto y las imágenes. Mejorar la precisión del análisis de datos es uno de los requisitos previos fundamentales que son anteriores a los últimos avances en inteligencia artificial.
La inteligencia artificial "normal" utiliza los datos de entrada para informar al algoritmo sobre el tema de análisis, mientras opera con una gran cantidad de información.
Video promocional:
Las aplicaciones prácticas del aprendizaje automático incluyen los servicios de traducción de Google, el reconocimiento facial de las fotos de Facebook y los filtros en Snapchat que escanean los rostros antes de aplicar efectos visuales en línea.
El proceso de entrada de datos suele llevar mucho tiempo y suele estar limitado por el flujo de información sobre un aspecto del objeto en estudio. Un nuevo tipo de ANN, una red neuronal generativa adversaria, se opone a las capacidades de dos robots diferentes con inteligencia artificial a la vez, provocando que un sistema menos inteligente aprenda a expensas del segundo sin participación humana. Esta técnica mejora drásticamente la eficiencia y la velocidad del aprendizaje automático al tiempo que aumenta la calidad del análisis de datos.
Oliy Kurilov
