Mikhail Burtsev, jefe del laboratorio de sistemas neuronales y aprendizaje profundo del Instituto de Física y Tecnología de Moscú, habla sobre si es posible crear un análogo informático completo de la mente humana y explica por qué los científicos lo están desarrollando y cómo se puede proteger de los ataques de los trolls.
A finales de julio, los científicos del MIPT lanzaron un concurso internacional de sistemas de inteligencia artificial "hablados" capaces de imitar a una persona viva, e invitaron a todos a hablar con ellos y evaluar los diálogos resultantes. Con la ayuda de voluntarios, los científicos esperan en los próximos tres años crear un asistente de voz que pueda comunicarse con una persona casi tan bien como un interlocutor vivo.
El concurso fue coorganizado por científicos de las universidades de Montreal, McGill y Carnegie Mellon. Puede participar en la prueba de sistemas de diálogo siguiendo el enlace.
De hecho, estas ideas no se inventaron hoy: los asistentes de voz modernos de Google, Apple, Amazon y otras empresas de TI tienen sus raíces en el pasado profundo, al comienzo de la era de las computadoras. La primera máquina parlante de este tipo, llamada ELIZA, se creó en 1966 y era, de hecho, una broma, una parodia de un psicoterapeuta que da consejos inútiles a un paciente.
norte
En los años y décadas siguientes, los programadores crearon sistemas cada vez más complejos y "en vivo" para comunicarse con una computadora. El más avanzado de estos sistemas puede reconocer el estado de ánimo del propietario, recordar sus antiguos deseos y preferencias y resolver algunas de las tareas rutinarias y domésticas por él, encargando alimentos o mercancías en la tienda o desempeñando el papel de operador en los centros de llamadas.
Mikhail, han pasado casi 50 años desde la creación de ELIZA. ¿Qué ha cambiado en general durante este tiempo y, en principio, se puede esperar que en el futuro los científicos puedan crear un sistema que las personas no puedan distinguir de un interlocutor vivo?
- Creo que en un futuro próximo será posible crear una tecnología de inteligencia hablada que permitirá que la máquina se acerque al nivel del diálogo humano. Estamos trabajando en esta tarea dentro del proyecto iPavlov, que forma parte de la Iniciativa Tecnológica Nacional.
El usuario debe sentirse tan cómodo para comunicarse con un sistema de diálogo automático como con una persona viva. Esto permitirá crear sistemas de información que sean capaces de comprender mejor lo que una persona quiere de ellos y responderle en lenguaje natural.
Video promocional:
La inteligencia conversacional se puede utilizar para automatizar muchas interfaces de voz y texto, incluidos mensajeros como Telegram. Los mensajeros, como muestran las estadísticas, hoy en día se utilizan de forma más activa que las redes sociales, y una gran cantidad de información pasa por los canales de comunicación por texto.
Por ejemplo, son convenientes para usar en el transporte, y la adición de un asistente de diálogo, un chat bot, permitirá a los usuarios no solo comunicarse entre sí, sino también recibir la información necesaria, realizar compras y muchas otras cosas. Esto llevará al hecho de que los mensajeros instantáneos y los asistentes de voz reemplazarán gradualmente las páginas web y aplicaciones habituales, y también desempeñarán el papel de consultores en línea y especialistas en centros de llamadas.
Dada la presencia de Apple, Google y Amazon en este mercado, ¿Rusia puede competir aquí? ¿Existe alguna especificidad en el idioma ruso que pueda obstaculizar a los posibles competidores de las empresas y los científicos rusos?
- Por supuesto, el idioma ruso es más complejo, y algunos de los métodos que se utilizan hoy en día en el desarrollo de sistemas de diálogo y asistentes de voz en el mundo no pueden aplicarse sin un refinamiento y una modificación significativa que les permita trabajar con una gramática más rica.
Por otro lado, los algoritmos básicos utilizados en el trabajo de Siri, Cortana, Google y otros asistentes digitales, nadie se esconde, están disponibles para nosotros al menos a nivel de investigación y conceptos. Los artículos de investigación y el código del programa a menudo están disponibles públicamente; en principio, se puede adaptar al ruso.
Mikhail Burtsev, jefe del laboratorio de sistemas neuronales y aprendizaje profundo, MIPT
Además, no hay muchos intentos de implementar esto a nivel "industrial". El único proyecto importante está a cargo de Yandex, que está desarrollando un asistente para el proyecto Alice.
En nuestro proyecto, estamos tratando de crear herramientas que simplifiquen y aceleren la creación de tales sistemas de diálogo "industriales" diseñados para una variedad de propósitos. Pero desarrollar un asistente de voz universal capaz de resolver cualquier problema es una tarea extremadamente difícil incluso para las grandes empresas.
Por otro lado, es mucho más fácil automatizar una pequeña empresa que utilizará un sistema de diálogo especializado. Esperamos que las herramientas que crearemos ayuden a los emprendedores y programadores a resolver este tipo de problemas con la suficiente rapidez, sin tener ningún conocimiento profundo y sin aplicar grandes esfuerzos para ello.
Muchos científicos, como Roger Penrose o Stuart Hameroff, creen que la mente humana es de naturaleza cuántica y es imposible construir una máquina análoga en principio. ¿Estás de acuerdo con ellos o no?
- En mi opinión, si nos fijamos en lo que sabemos hoy sobre la estructura del cerebro y la naturaleza de la conciencia humana, hasta ahora no tenemos obstáculos fundamentales para reproducir su trabajo utilizando una computadora.
Penrose y Hameroff tienen un conjunto de hipótesis que creen que explican por qué esto no se puede hacer. Hasta ahora, los neurofisiólogos no han encontrado ninguna evidencia experimental de que estas hipótesis sean correctas, y nuestra base de conocimiento actual habla a favor de lo contrario.
Otra cosa es que el marco de tiempo para cuando se creará una máquina de este tipo sigue sin estar completamente definido. Me parece que esto puede suceder en al menos 50 o incluso 100 años.
¿Requerirá esto fundamentalmente nuevas tecnologías y ordenadores que estén más cerca en sus principios de funcionamiento de las neuronas que de la lógica digital?
- Si creemos que la inteligencia humana se basa en alguna forma de cálculo, entonces cualquier sistema de computación universal equivalente a una máquina de Turing puede, en teoría, emular el trabajo del cerebro humano.
Otra cosa es que esta máquina puede funcionar muy lentamente, lo que la hace inútil desde un punto de vista práctico. Hoy en día es difícil adivinar qué tecnologías para construir computadoras necesitamos aquí.
¿Qué otras tareas pueden resolver los asistentes digitales, además de las que hacen hoy? ¿Pueden usarse para descifrar textos en idiomas muertos o encriptaciones como el manuscrito Voynich?
- Por el momento, hasta donde yo sé, nadie ha intentado utilizar redes neuronales para descubrir los secretos de lenguajes muertos y descifrar textos, pero me parece que alguien intentará hacerlo en un futuro próximo. Nosotros, a su vez, todavía no nos han interesado esas cosas.
"Ayudante" es en realidad un concepto muy amplio que puede incluir muchas cosas muy diferentes. Si tomamos, por ejemplo, a la misma ELIZA, virtual “psicoterapeuta”, surge la pregunta: ¿es asistente o no?
Los sistemas de diálogo se pueden utilizar no solo para resolver problemas prácticos, sino también para entretener a las personas o mantener su estado de ánimo. La cuestión aquí, de hecho, es qué queremos decir con el concepto de asistente personal y qué tan amplio o limitado es. En el sentido más amplio, estos sistemas pueden resolver todos los problemas relacionados con la comunicación, aunque con distintos grados de éxito.
Las interfaces de conversación, además de la comunicación directa con las personas, también se pueden utilizar para enseñar a las máquinas a encontrar rápidamente un idioma común y transferir información de un sistema a otro.
Esto evitará el problema de establecer enlaces y transferir datos entre servicios existentes y creados, ya que no necesitarán conocer las especificaciones de API de cada uno para comunicarse entre sí. Podrán intercambiar datos utilizando lenguajes naturales o su propio lenguaje artificial que será inventado por máquinas o humanos para tales fines.
En términos generales, incluso los sistemas "desconocidos" entre sí podrán ponerse de acuerdo utilizando un lenguaje común de comunicación para ellos, y no reglas fijas para el intercambio de información. Si no entienden algo, entonces pueden preguntarse entre ellos sobre cosas desconocidas, lo que hará que toda la infraestructura para brindar servicios y servicios en Internet sea increíblemente flexible y le permitirá integrar rápidamente nuevos servicios sin la ayuda de personas.
En este sentido, surge la pregunta: ¿quién debe ser responsable de las recomendaciones de la "psicoterapeuta" ELIZA, los médicos informáticos y otros asistentes de voz, cuyos consejos pueden afectar en gran medida el bienestar y la salud de una persona?
- Ésta es una pregunta muy difícil, ya que hoy en día no existen criterios claros que nos ayuden a entender cómo actuar en tales casos. Muchos servicios de Internet y servicios que emiten recomendaciones a los usuarios comienzan a funcionar solo después de que el usuario acepta los términos del servicio y las consecuencias que pueden surgir como resultado de trabajar con él.
Me parece que el trabajo de los chat bots y los asistentes de voz, al menos en las primeras etapas de su existencia, podría regularse de manera similar. Por ejemplo, si un bot simplemente busca y analiza información, actuando de la misma manera que un motor de búsqueda, entonces se le pueden aplicar las mismas reglas. En el caso de que brinde asesoramiento médico o legal, la forma de responsabilidad debe ser diferente.
Por ejemplo, tales sistemas deben notificar claramente al usuario las consecuencias de la elección entre inteligencia artificial y un médico común. Una persona tendrá una opción: confiar en el médico, que, por ejemplo, se equivocará en el 10% de los casos, o apostar por una máquina que da una respuesta incorrecta en el 3% de los casos. En el primer caso, el médico será el responsable del error, y en el segundo, el propio usuario.
El año pasado, Microsoft lanzó el chatbot Tay. AI, que tuvo que apagar literalmente un día después porque los internautas convirtieron a una adolescente en una verdadera racista. ¿Es posible proteger tales sistemas de diálogo de los trolls y los bromistas?
- Me parece que puedes defenderte, pero si vale la pena hacerlo depende del propósito del sistema. Está claro que si el sistema no debe emitir ningún comentario específico, sea grosero o extremista, entonces podemos filtrar sus respuestas. Este filtrado puede ocurrir en la etapa de entrenamiento del sistema o ya durante la generación de respuestas.
Por cierto, una tarea similar de evaluar la calidad del diálogo fue resuelta por equipos en el marco del hackathon escolar científico DeepHack Turing, que tuvo lugar en el MIPT hace unas semanas. Sus participantes desarrollaron algoritmos que podían predecir a partir de las señales del diálogo, qué tipo de evaluación daría una persona al sistema de diálogo.
El siguiente paso en el desarrollo de este enfoque es la creación de un programa que evaluaría la aceptabilidad de frases o la confiabilidad de las fuentes utilizadas para generar respuestas a las consultas de los usuarios. Me parece que ayudaría a resolver este problema.
