La noticia de que la automatización tarde o temprano comenzará a privar masivamente a las personas de sus trabajos y las dejará detrás de la valla de la utilidad social es poco probable que evoque emociones positivas en una persona que mira hacia el futuro. Espectáculos como "The Terminator" o, por ejemplo, el fresco "World of the Wild West" añaden leña al fuego, que también contribuyen a la hucha común de preocupaciones, pero desde el punto de vista del desarrollo de la inteligencia artificial "hostil".
¿Son reales estos miedos? Tal vez. O tal vez esto sea solo histeria artificial. Pero sea como fuere, el Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) cree que el desarrollo de la inteligencia artificial y los sistemas de automatización debe "ser coherente con el pleno respeto y cumplimiento de los valores morales y principios éticos humanos".
norte
El instituto presentó sus ideas en forma de un documento de 136 páginas llamado "Diseño éticamente alineado", que es una especie de "estándar" para el diseño, producción y desarrollo de robots e inteligencia artificial. El documento fue desarrollado con la ayuda de más de 100 expertos mundiales en el campo de la inteligencia artificial, el derecho, la ética, la filosofía y la política. Es decir, con la participación de los más destacados académicos, científicos y representantes del sector gubernamental.
“Al proporcionar a los expertos y desarrolladores las mejores prácticas para crear productos, servicios y sistemas automatizados e inteligentes que respeten nuestros principios éticos humanos, podremos abordar nuestros miedos a estas tecnologías y centrarnos en los beneficios que estas tecnologías pueden aportar a la humanidad. no solo en el futuro, sino hoy”, dijo Konstantinos Karachalios, director gerente de la IEEE Standards Association, en un comunicado.
El IEEE señala que la iniciativa es completamente abierta y están listos para propuestas y discusiones de temas de interés de ingenieros, desarrolladores y diseñadores de sistemas de automatización y desarrollo de IA. Al mismo tiempo, están dispuestos a llevar a cabo un diálogo completo, ya que la retroalimentación sobre este tema es uno de los aspectos más importantes en el desarrollo de los estándares discutidos.
En cuanto a las propuestas descritas en el propio documento, se incluyen consideraciones sobre metodología de investigación y desarrollo; describe preocupaciones sobre la creación de "cajas negras". En otras palabras, el documento advierte a la industria de la IA y la automatización contra el desarrollo propietario.
Video promocional:
Desde un punto de vista más fundamental, lo que propone el IEEE plantea varias preguntas interesantes a la vez, la más importante de las cuales es quizás la siguiente: ¿se puede programar la moralidad? ¿Es realmente posible ajustar la IA y las tecnologías de automatización a los "estándares y valores humanos y sociales" a los que se refiere el documento IEEE?
Sin embargo, el IEEE insiste en la importancia y la necesidad de los estándares. Después de todo, gracias a ellos, podremos estar seguros de que la gente no sufrirá al final al crear y desarrollar nuevas tecnologías.
“Los estándares podrán proporcionar control industrial de tecnologías inteligentes y autónomas. Los sistemas inteligentes son cada vez más complejos y, por tanto, su comportamiento no programado puede volverse peligroso. Para resolver este problema, es necesaria la supervisión del procedimiento para el desarrollo de sistemas inteligentes y autónomos.
“Los investigadores y desarrolladores involucrados en el desarrollo e implementación de sistemas autónomos e inteligentes tendrán que enfrentar un conjunto de medidas de cumplimiento más progresivo y complejo para cuestiones de seguridad moral y técnica. Por tanto, deberán abordar su trabajo de forma más responsable”.
Si se mira la situación en su conjunto, el IEEE ha dado un paso muy importante y de hecho necesario hacia la “humanización” de los sistemas autónomos e inteligentes.
NIKOLAY KHIZHNYAK
