El tema de la inteligencia artificial avanzada (IA) en el futuro generalmente conlleva ciertos temores, por ejemplo, que será capaz de autoaprendizaje y se desarrollará tanto que la gente ya no podrá entenderlo. En las manos equivocadas, e incluso por sí solo, un algoritmo tan avanzado podría apoderarse de gobiernos y ejércitos, introducir métodos orwellianos de vigilancia y manipulación, establecer el control sobre la sociedad e incluso comandar un ejército de drones de combate autónomos en el campo de batalla.
Pero algunos expertos en inteligencia artificial no ven estos temores como válidos. De hecho, una IA muy avanzada puede gobernar mejor el mundo que los humanos. Tales temores son peligrosos en sí mismos porque pueden impedirnos aprovechar esa oportunidad.
"Tal vez la no implementación de la IA represente un peligro para la humanidad", dijo el investigador de IA de Facebook, Thomas Mikolov, en una conferencia en Praga sobre los desafíos de crear IA a nivel de la inteligencia humana.
Mikolov explica que los humanos, como especie, son muy débiles a la hora de tomar decisiones a largo plazo para obtener resultados beneficiosos. Los seres humanos han talado las selvas tropicales para extraer materias primas, sin darse cuenta (o sin interés) de que, por lo tanto, contribuyeron a la degradación de nuestro planeta, tal vez de manera irreversible.
norte
Pero un sistema de inteligencia artificial avanzado podría proteger a la humanidad de su propia miopía.
“La gente no es capaz de prever un futuro lejano, digamos, 20-30 años por delante. Quizás al crear una IA que sea mucho más inteligente que nosotros, podamos ayudarnos a evitar desastres futuros.
Por supuesto, Mikolov pertenece a una minoría de científicos que creen que una IA altamente desarrollada será benevolente. Durante la conferencia, muchos oradores expresaron un temor generalizado a la IA, más a menudo en relación con su posible uso para fines peligrosos por parte de actores malintencionados, cuyo peligro no debe subestimarse.
No sabemos con certeza si será posible crear una IA de propósito general capaz de realizar cualquier tarea de pensamiento disponible para los humanos, y quizás incluso mejor que ellos.
Video promocional:
El futuro de la IA avanzada parece prometedor, pero plantea muchas preocupaciones éticas. Ni siquiera conocemos todas las preguntas que habrá que responder.
Sin embargo, la mayoría de los participantes en la conferencia de Praga estuvieron de acuerdo en que las reglas deben elaborarse antes de que sean necesarias. Ya es necesario crear tratados internacionales, comités de ética y organismos reguladores en gobiernos, empresas y comunidades científicas. La implementación de tales instituciones y protocolos reducirá la probabilidad de que un gobierno hostil, un investigador desprevenido o incluso un "científico" verdaderamente loco activen la IA maliciosa o utilicen un algoritmo complejo de otra manera como arma. Y en el peor de los casos, tendremos remedios.
Al introducir las reglas y precauciones necesarias, podremos vivir en armonía con una IA altamente desarrollada en el futuro; tal vez algún día incluso nos salve.
Vadim Tarabarko
