Como investigador de IA, a menudo me enfrento a la opinión de que muchas personas le tienen miedo a la IA y en lo que puede convertirse. De hecho, si miras desde la perspectiva de la historia humana, mientras prestas atención a lo que la industria del entretenimiento nos está alimentando, no es sorprendente que la gente tenga miedo de una rebelión cibernética que nos obligue a vivir en áreas aisladas y convertir a otros en un tipo de baterías humanas "tipo Matrix". …
Y, sin embargo, para mí, al mirar todos estos modelos informáticos evolutivos que utilizo en el desarrollo de la IA, es difícil pensar que mis criaturas inofensivas, limpias como las lágrimas de un bebé, en la pantalla de mi computadora algún día puedan convertirse en monstruos de una distopía futurista. ¿Puedo realmente ser llamado un "destructor de mundos", como Oppenheimer se lamentó una vez y dijo sobre sí mismo después de dirigir el programa para crear una bomba nuclear?
¿Quizás aceptaría tal fama, o quizás los críticos de mi trabajo tienen razón después de todo? Tal vez debería dejar de evitar preguntas sobre los miedos que tengo sobre la IA como experto en IA.
norte
Miedo a la imprevisibilidad
La computadora HAL 9000, un sueño hecho realidad para el escritor de ciencia ficción Arthur Charles Clarke y que el cineasta Stanley Kubrick le dio vida en A Space Odyssey de 2001, es un excelente ejemplo de un sistema que colapsó debido a circunstancias imprevistas.
En muchos sistemas complejos, el Titanic, el transbordador espacial de la NASA y la planta de energía nuclear de Chernobyl, los ingenieros tuvieron que combinar muchos componentes. Quizás los arquitectos de estos sistemas eran muy conscientes de cómo funcionaba cada uno de sus elementos individualmente, pero no entendían lo suficientemente bien cómo todos estos componentes trabajarían juntos.
Video promocional:
El resultado fueron sistemas que nunca fueron completamente comprendidos por sus propios creadores, lo que tuvo consecuencias bien conocidas. En cada caso, el barco se hundió, dos lanzaderas explotaron y casi toda Europa y partes de Asia se enfrentaron al problema de la contaminación radiactiva, un conjunto de problemas relativamente menores, pero que, casualmente, ocurrieron al mismo tiempo y crearon un efecto catastrófico.
Puedo imaginar perfectamente cómo nosotros, los creadores de IA, podemos llegar a resultados similares. Tomamos los últimos avances e investigaciones en ciencia cognitiva (la ciencia del pensamiento - ed.), Los traducimos en algoritmos informáticos y agregamos todo esto a los sistemas existentes. Estamos tratando de desarrollar IA sin comprender completamente nuestra propia inteligencia y conciencia.
Los sistemas como Watson de IBM o Alpha de Google son redes neuronales artificiales con una potencia computacional impresionante y la capacidad de abordar tareas verdaderamente complejas. Pero por ahora, lo único que conducirá a un error en su trabajo será el resultado de una pérdida en el juego intelectual "Jeopardy!" o una oportunidad perdida de derrotar a otro mejor juego de mesa de lógica del mundo, Go.
Estas consecuencias no son de naturaleza global. De hecho, lo peor que le puede pasar a la gente en este caso es que alguien pierda alguna cantidad de dinero en las apuestas.
Sin embargo, la arquitectura de la IA se está volviendo más compleja y los procesos informáticos son cada vez más rápidos. Las capacidades de IA solo aumentarán con el tiempo. Y ya esto nos llevará al hecho de que comenzaremos a asignar cada vez más responsabilidad a la IA, incluso a pesar de los crecientes riesgos de circunstancias imprevistas.
Somos muy conscientes de que "los errores son parte de la naturaleza humana", por lo que será simplemente físicamente imposible para nosotros crear un sistema verdaderamente seguro en todo.
Miedo al mal uso
Realmente no me preocupa la imprevisibilidad de las consecuencias en el trabajo de la IA, que desarrollo utilizando el llamado enfoque de neuroevolución. Creo entornos virtuales y los poblo de criaturas digitales, dándoles órdenes a sus cerebros para resolver problemas de creciente complejidad.
Con el tiempo, la eficiencia de estas criaturas para resolver problemas aumenta y evoluciona. Aquellos que hacen el mejor trabajo son seleccionados para la reproducción, creando una nueva generación sobre su base. A lo largo de las generaciones, estas criaturas digitales desarrollan habilidades cognitivas.
Por ejemplo, en este momento estamos dando los primeros pasos en el desarrollo de máquinas hasta el nivel de realizar tareas de navegación simples, tomar decisiones simples o memorizar un par de bits de información. Pero pronto veremos el desarrollo de máquinas que pueden realizar tareas más complejas y tener un nivel general de inteligencia mucho más eficiente. Nuestro objetivo final es crear inteligencia a nivel humano.
En el transcurso de esta evolución, intentaremos encontrar y corregir todos los errores y problemas. Con cada nueva generación, las máquinas serán mejores para hacer frente a los errores que las anteriores. Esto aumentará las posibilidades de que podamos identificar todas las consecuencias impredecibles en las simulaciones y eliminarlas antes de que puedan realizarse en el mundo real.
Otra oportunidad que brinda el método evolutivo de desarrollo es dotar de ética a la inteligencia artificial. Es probable que características éticas y morales de una persona como la confiabilidad y el altruismo sean el resultado de nuestra evolución y un factor en su continuación.
Podemos crear un entorno construido y capacitar a las máquinas para que demuestren amabilidad, honestidad y empatía. Esta podría ser una forma de asegurarnos de desarrollar más sirvientes obedientes que robots asesinos despiadados. Sin embargo, aunque la neuroevolución puede reducir el nivel de consecuencias no deseadas en el comportamiento de la IA, no puede evitar el uso indebido de la inteligencia artificial.
Como científico, tengo que estar a la altura de mi compromiso con la verdad e informar de lo que descubrí a través de mis experimentos, me gusten o no los resultados. Mi trabajo no es determinar qué me gusta y qué no. Lo único importante es que puedo hacer público mi trabajo.
norte
Miedo a las prioridades sociales incorrectas
Ser científico no significa perder su humanidad. Tengo que volver a conectarme con mis esperanzas y miedos en algún nivel. Como individuo motivado moral y políticamente, debo considerar las posibles consecuencias de mi trabajo y su posible efecto en la sociedad.
Como científicos y como representantes de la sociedad, todavía no hemos llegado a una idea clara de qué es exactamente lo que queremos obtener de la IA y en qué debería convertirse eventualmente. Por supuesto, esto se debe en parte al hecho de que todavía no comprendemos completamente su potencial. Pero aún así, debemos comprender y decidir claramente qué queremos obtener de la inteligencia artificial verdaderamente avanzada.
Una de las áreas más importantes a las que la gente presta atención cuando habla de IA es el empleo. Los robots ya están haciendo un trabajo físico complejo para nosotros, como ensamblar y soldar piezas de carrocería. Pero un día llegará el día en que los robots tendrán la tarea de realizar tareas cognitivas, es decir, se les encargará lo que antes se consideraba una habilidad exclusivamente única de la persona misma. Los coches autónomos pueden sustituir a los taxistas; Los aviones autónomos no necesitarán pilotos.
En lugar de recibir atención médica en salas de emergencia llenas de personal y médicos siempre cansados, los pacientes podrán realizar exámenes y aprender diagnósticos utilizando sistemas expertos con acceso instantáneo a todo el conocimiento médico. Las operaciones quirúrgicas serán realizadas por robots no susceptibles a la fatiga, con una "mano entrenada" perfectamente.
El asesoramiento legal estará disponible en un marco legal integral. Para obtener asesoramiento sobre inversiones, recurriremos a sistemas expertos de pronóstico de mercado. Quizás algún día todo el trabajo humano sea realizado por máquinas. Incluso mi trabajo se puede hacer más rápido mediante el uso de una gran cantidad de máquinas que investigan sin descanso cómo hacer que las máquinas sean más inteligentes.
En la realidad de nuestra sociedad actual, la automatización ya está obligando a las personas a dejar sus trabajos, haciendo que los ricos propietarios de tales máquinas automatizadas sean aún más ricos y el resto aún más pobre. Pero este no es un problema científico. Este es un problema político y socioeconómico que la propia sociedad debe resolver.
Mi investigación no cambiará eso, pero mis fundamentos políticos, junto con la humanidad, pueden conducir a circunstancias en las que la inteligencia artificial puede convertirse en una función extremadamente útil, en lugar de ampliar la brecha entre el uno por ciento de la élite mundial y el resto de nosotros.
Miedo a un escenario catastrófico
Llegamos al miedo final que nos impuso el loco HAL 9000, Terminator y cualquier otra superinteligencia villana. Si la IA continúa evolucionando hasta superar la inteligencia humana, ¿un sistema superinteligente artificial (o una colección de tales sistemas) consideraría a los humanos como inútiles? ¿Cómo podemos justificar nuestra existencia frente a una superinteligencia capaz de hacer y crear lo que ninguna otra persona puede hacer? ¿Seremos capaces de evitar el destino de ser borrados de la faz de la Tierra por las máquinas que ayudamos a crear?
Por lo tanto, la pregunta más importante en tales circunstancias sonará así: ¿por qué nos necesitará la superinteligencia artificial?
Si tal situación hubiera sucedido, probablemente diría que soy una buena persona que incluso contribuyó a la creación de esta superinteligencia, a la que ahora estoy frente. Apelaría a su compasión y empatía, para que la superinteligencia me deje, tan compasivo y empático, vivo. También agregaría que la diversidad de especies en sí misma tiene valor y el universo es tan grande que la existencia de la especie humana en él es en realidad bastante insignificante.
Pero no puedo hablar por toda la humanidad, por lo que me será difícil encontrar un argumento válido para todos nosotros. Es solo que cuando nos miro a todos, realmente veo que hemos hecho mucho y lo estamos haciendo mal. El odio mutuo reina en el mundo. Vamos a la guerra unos contra otros. Distribuimos alimentos, conocimientos y atención médica de manera injusta. Contaminamos el planeta. En este mundo, por supuesto, hay muchas cosas buenas, pero si miras todas las cosas malas que hemos creado y seguimos creando, será muy difícil encontrar un argumento que sustente nuestra existencia continua.
Afortunadamente, todavía no tenemos que justificar nuestra existencia. Todavía tenemos tiempo. De 50 a 250 años, dependiendo de qué tan rápido se desarrolle la inteligencia artificial. Nosotros, como especie, tenemos la capacidad de unirnos y encontrar una buena respuesta a la pregunta de por qué la superinteligencia no debería borrarnos de la faz del planeta.
Será muy difícil resolver este problema. Después de todo, decir que apoyamos la diversidad y las diferencias etnoculturales, y hacerlo, son cosas completamente diferentes. Cómo decir que queremos salvar el planeta y hacerle frente con éxito.
Todos nosotros, ya sea cada individuo o sociedad en su conjunto, debemos prepararnos para un escenario catastrófico, utilizando ese tiempo para estar listos para mostrar y demostrar por qué nuestras creaciones deben permitirnos seguir existiendo. O simplemente podemos continuar creyendo ciegamente que tal desarrollo de eventos es imposible y simplemente dejar de hablar sobre este tema.
Sin embargo, no importa el peligro físico que la superinteligencia pueda representar para nosotros, no debemos olvidar que también representará un peligro político y económico. Si no encontramos una manera de mejorar nuestro nivel de vida, terminaremos simplemente alimentando el capitalismo con un trabajador de inteligencia artificial que servirá solo a unos pocos seleccionados que tienen todos los medios de producción.
Este artículo fue publicado originalmente en línea en theconversation.com por Arend Hintze, profesor asociado en el Departamento de Biología Integrativa, Ciencias de la Computación e Ingeniería de la Universidad Estatal de Michigan.
Nikolay Khizhnyak
