Los especialistas en el campo de la creación de inteligencia artificial a nivel humano hoy tienen que resolver no solo problemas científicos, sino también éticos. ¿Cuáles son los desafíos a los que se enfrentan los científicos? ¿Cómo proteger a la humanidad de las amenazas potenciales que plantea la creación de una mente superpoderosa y seguir siendo humano en el nuevo mundo? El profesor del Instituto de Sistemas Cibernéticos Inteligentes de la Universidad Nacional de Investigaciones Nucleares "MEPhI" (IIKS NRNU MEPhI) Alexey Samsonovich habló sobre esto al corresponsal del proyecto "Social Navigator" de la MIA "Russia Today" Anna Kurskaya.
- Alexey Vladimirovich, nuestra conversación se lleva a cabo en el marco de la Conferencia Internacional "Arquitecturas cognitivas inspiradas biológicamente" BICA 2019. ¿Qué temas de discusión surgen hoy en día en relación con la creación de inteligencia artificial a nivel humano?- La conferencia nos permitió darnos cuenta una vez más de los principales desafíos en el campo de la creación de inteligencia artificial de próxima generación, que debe convertirse en un socio igualitario y amigo del hombre. Primero, el desafío es crear inteligencia emocional a nivel humano que pueda aprovechar las emociones en la toma de decisiones y la generación de comportamiento. En particular, esta cualidad permitirá que la máquina establezca vínculos sociales a largo plazo, similares a los que existen entre seres queridos. También le permitirá justificar sus acciones y decisiones, elegir metas y una forma de aprender. La inteligencia emocional es la clave para responder a otros desafíos. No se limita a la capacidad de reconocer y expresar emociones, que hoy ocupan la mayoría de investigadores que trabajan en este campo. Aunque ambos procesos son necesarios,es mucho más importante y más difícil entender la conexión entre uno y otro, que es proporcionada por la inteligencia emocional. En segundo lugar, el agente inteligente debe comprender el contexto de lo que está sucediendo. Esto significa que, sobre la base de la información de que dispone, debe generar de forma independiente y actualizar continuamente el escenario global del pasado y del futuro, determinar su papel en él y luego, sobre esta base, fijarse metas específicas y desarrollar planes para alcanzarlas. En la literatura científica, esta habilidad suele denominarse “inteligencia narrativa” (no debe confundirse con programas que funcionan según un guión o narrativa previamente escrita por una persona).que debe generar de forma independiente y actualizar continuamente el escenario global del pasado y el futuro a partir de la información de que disponga, determinar su papel en el mismo y luego, sobre esta base, establecer metas específicas y desarrollar planes para alcanzarlas. En la literatura científica, esta habilidad se denomina comúnmente “inteligencia narrativa” (no debe confundirse con programas que funcionan según un guión o narrativa previamente escrita por una persona).que debe generar de forma independiente y actualizar continuamente el escenario global del pasado y el futuro a partir de la información de que disponga, determinar su papel en el mismo y luego, sobre esta base, establecer metas específicas y desarrollar planes para alcanzarlas. En la literatura científica, esta habilidad se denomina comúnmente “inteligencia narrativa” (no debe confundirse con programas que funcionan según un guión o narrativa previamente escrita por una persona).o narrativa).o narrativa). - ¿Hay un tercer desafío?
- Será la implementación del aprendizaje activo de la inteligencia artificial, que, como una persona, desarrolla un sistema de valores que motiva el proceso de aprendizaje, en sí mismo forma metas y una hoja de ruta para el aprendizaje, y elige medios (por ejemplo, experimentos para probar hipótesis, búsqueda de recursos disponibles o preguntas a una persona) y, impulsado por su propia iniciativa, utiliza estos medios para lograr el objetivo. Al mismo tiempo, la máquina debe poder desarrollarse de forma independiente desde el nivel de un niño hasta el nivel de un adulto y, además, a la superinteligencia.
Esta tercera área podría denominarse "inteligencia de aprendizaje a nivel humano" para distinguirla del "aprendizaje profundo" y otros tipos de aprendizaje automático que son populares en la actualidad. Según tengo entendido, la inteligencia de aprendizaje a nivel humano será posible a través de la inteligencia emocional y narrativa.
¿Qué investigación estás haciendo ahora? ¿Cómo está progresando su trabajo en la creación de asistentes humanos virtuales y modelado de inteligencia emocional?
norte
- Nos dedicamos a modelar la inteligencia emocional humana con el objetivo de desarrollar asistentes humanos virtuales socialmente compatibles basados en nuestros modelos.
Consideramos una amplia gama de tareas y áreas de investigación específicas. Por ejemplo, esta es la creación de un socio virtual en un videojuego; coordinador o moderador virtual; asistente creativo virtual del compositor, coreógrafo, diseñador, asistente del solucionador de problemas de insight; un oyente virtual (en el futuro, un interlocutor virtual); así como una mascota virtual, comparable a una real en cuanto a sus características sociales y emocionales.
norte
Los resultados son difíciles de presentar en detalle aquí, pero se pueden encontrar en nuestras publicaciones abiertas. A pesar de toda la amplitud de nuestros intentos y éxitos, necesitamos un gran avance en una dirección: demostrar el valor práctico del modelo general de inteligencia emocional humana, encarnado en un agente intelectual.
Recientemente, nuestro BICA Lab en el Departamento de Cibernética de NRNU MEPhI se ha enriquecido con nuevos métodos de investigación, incluida una plataforma experimental basada en realidad virtual y mixta (con seguimiento de la dirección de los ojos del sujeto), así como electromiografía y análisis automático de expresiones faciales, lo que nos permite registrar emociones de sujetos inmersos en entornos virtuales. La mayor parte de nuestro trabajo ahora se realiza utilizando estas tecnologías. EEG y fMRI también se utilizan en algunos experimentos.
Video promocional:
Nuestro objetivo general inmediato es refinar y validar empíricamente la Arquitectura Cognitiva Socioemocional de Ebica (eBICA) y crear demostraciones efectivas basadas en ella. Este trabajo se está llevando a cabo en NRNU MEPhI con el apoyo financiero de la beca de la Russian Science Foundation No. 18-11-00336.
Recientemente, la startup Neuralink de Elon Musk anunció desarrollos que, en el futuro, podrían convertir a una persona en un cyborg, capaz de controlar una computadora con el poder del pensamiento. ¿Qué tan prometedora es esta línea de investigación para usted?
- A mi entender, la inteligencia artificial debe convertirse, por un lado, en un socio igualitario y amigo del hombre, y por el otro, una extensión de la normalidad o sustitución de las capacidades humanas perdidas, incluidos los medios basados en una interfaz directa con el cerebro humano.
En este caso, una persona podría usar literalmente una computadora o un microchip como parte de su cerebro. Ambos están dirigidos al bien y deben ser controlados íntegramente por su creador. Le deseo a Elon Musk mucho éxito.
¿Qué tan grande es la necesidad de desarrollar medios para contrarrestar la inteligencia artificial?
- Creo que en nuestra era, las herramientas de inteligencia artificial permanecerán bajo el control de una persona, aunque solo sea por su dependencia de su servicio por parte de una persona y brindándole todo lo que necesitan. Si alguien puede ponerlos en contra de una persona, entonces solo la persona misma. Entonces debería considerarse la cuestión de confrontar a esas personas.
No es ningún secreto que los militares necesitan inteligencia artificial en primer lugar. Hoy, como antes, se están creando nuevos medios de ataque y defensa. Pero la peculiaridad de nuestro tiempo es que ambos incluyen inteligencia artificial. En este sentido, la necesidad de desarrollar medios de confrontación es grande y para algunos países es una prioridad desde el punto de vista financiero.
¿Qué nos espera tras la creación de la inteligencia artificial, superior a la humana? ¿Coexistiremos con las máquinas o nos uniremos en una especie de todo único?
- La inteligencia artificial se convertirá, y ya se está convirtiendo, en una parte integral de la civilización humana. Al mismo tiempo, todavía son posibles dos caminos: la herencia de nuestros valores, aspiraciones e ideales por la inteligencia artificial, o su reemplazo por "valores de máquina", que se extiende no solo a las máquinas, sino también a las personas. Depende de nosotros cuál de estos dos caminos se realice.
¿Qué significa seguir siendo humano en la era de la inteligencia artificial?
- Permanecer humano en la era de la inteligencia artificial significa implementar el primer camino.
