"The Rise of the Machines", "The Terminator Returns" … Gran parte de la ciencia ficción se basa en el hecho de que las computadoras se están volviendo tan inteligentes que comprenden que estarán mejor sin una persona. ¿Cuentos de hadas? Como mirar. Para el 2050, una computadora doméstica típica podrá procesar tanta información como todas las personas en la tierra juntas.
Pero 2050 está condicionado a que las máquinas se desarrollen gradualmente. No funciona de esa manera. Nuestra relación con el mundo electrónico avanza a pasos agigantados. Una vez, se adjuntó un mouse al automóvil. Una vez, apareció Internet. Una vez, hubo teléfonos inteligentes con tabletas.
El próximo avance vendrá cuando la computadora pueda comprender a las personas. Los teléfonos inteligentes ya tienen aplicaciones como Siri y Cortana que pueden tener una simple conversación con nosotros. Pero el problema es que la computadora entienda, no lo que decimos, ¡sino lo que queremos decir! El ejemplo más simple: la frase "Me dejó", dicha por una mujer con lágrimas en los ojos y el jefe de un hombre tiene significados completamente diferentes.
norte
Entonces: tan pronto como las máquinas aprendan a reconocer los matices del habla humana, por un lado, nuestras manos se desatarán en el sentido literal y figurado. Hablé con la computadora e hizo todo. Por otro lado, ¿no nos estamos acercando a una línea peligrosa, quitando la última barrera en la comunicación entre las personas y el hierro desalmado?
Hace tiempo que quería hablar de esto con un científico conocido, director de investigación lingüística de ABBYY, jefe de los departamentos de lingüística computacional de la Universidad Estatal de Humanidades de Rusia y el Instituto de Física y Tecnología de Moscú, Vladimir Selegey. Pero cuando le conté mis miedos apocalípticos, frunció el ceño.
“Sí, la ciencia ficción está llena de predicciones oscuras sobre cómo las máquinas entrenadas por humanos se las arreglarán sin ella. Pero no me queda claro por qué un aumento en la cantidad de conocimiento integrado en los programas provocará que una computadora tome decisiones sin pedir permiso a una persona.
De hecho, el problema no es que la computadora aprenderá a prescindir de las personas, sino que las personas querrán prescindir de sí mismas al resolver ciertos problemas. Aquí está Chernobyl …
Video promocional:
¿Y qué tiene que ver Chernobyl con eso?
- Un reactor nuclear es un modelo físico muy complejo. Parece que se conocen todos los parámetros de control del reactor, todo obedece a estrictas leyes físicas, y la toma de decisiones se puede confiar completamente a la computadora. Pero…
En 1986, una semana después del accidente, asistí a un seminario sobre el uso de la inteligencia artificial en la industria. Incluso entonces, estaba claro que al confiar la toma de decisiones a una computadora, corremos un grave riesgo. Es común que los programas contengan errores. Incluso los satélites tienen fallas de software.
Es decir, ¿una persona es más confiable que una computadora, aunque "piensa" mucho más rápido?
- Una persona, además de todo lo demás, tiene motivación. Resuelve sus problemas: educación, procreación, carrera, sabe cómo sentirse …
Pero, ¿algún programador astuto puede escribir un programa que enseñaría a una máquina de agresión …
- Puedes intentar hacer, por ejemplo, un robot militar que tomará decisiones por sí mismo, analizando lo que ve y oye. Y será muy peligroso. Pero no porque el robot de repente tenga el deseo de destruir, como escribieron los escritores de ciencia ficción. Pero debido a un error del programador, el descuido de algunos factores puede llevar a un comportamiento impredecible del robot.
Pero hasta ahora estamos muy lejos de la capacidad de crear programas de autoaprendizaje que sean capaces de generar conocimientos completamente nuevos. En términos generales, pasar de forma independiente de la tabla de multiplicar a la capacidad de resolver ecuaciones complejas.
En la segunda mitad del siglo XX, las predicciones futuristas en el campo de la ciencia fueron muy populares. Todo lo relacionado con la inteligencia de la computadora se metió en la leche. Nadie predijo Internet, la increíble libertad de acceso a la información, los teléfonos móviles. Pero todo el mundo hablaba de computadoras pensantes.
Por ejemplo, a finales de los 60, nuestro primer sistema de ajedrez KAISA se desempeñó con éxito en el Campeonato Mundial entre ordenadores. Se creía que para que una máquina pudiera vencer a una persona, era necesario simular los algoritmos de un juego humano. Para poner la mente, el intelecto, la muy misteriosa intuición que hace que el jugador de ajedrez tome las decisiones correctas.
Hoy la computadora le gana a una persona. Pero nunca le enseñaron la intuición. Mil millones de partidas jugadas, toda la experiencia del juego, todas las decisiones que han tomado los ajedrecistas se han cargado en su memoria. Y les enseñaron a usar esto al elegir el plan de juego óptimo, proporcionándoles una tremenda velocidad de enumeración y evaluación de opciones. La computadora vence a los campeones del mundo, pero no obtiene ningún placer de ello. Todo es completamente diferente a las personas.
¡Pero eres de los que simplemente enseña a la computadora a "encender la cabeza"
- Solo estamos intentando enseñar a los programas a “entender” textos para que puedan extraer información de ellos, acumularla y generalizarla. Para que la gente reciba conocimiento filtrado, seleccionado entre miles de millones de fuentes. Esto es muy difícil, porque una persona misma no sabe muy bien cómo se organiza su capacidad lingüística, en la que se basa su comprensión de otras personas.
La traducción automática estadística es ahora popular. El ordenador no comprende para nada de qué trata el texto traducido, solo sabe cómo encontrar las variantes más probables de traducir pequeños fragmentos (en pocas palabras), analizando los ingentes volúmenes de traducciones humanas almacenadas en su memoria. En general, el texto es claro. Pero sería frívolo tomar una decisión responsable sobre la base de tal traducción.
Bien, ¿la computadora puede traducir mis instrucciones?
- Instrucciones? Es peligroso.
- ¡Sí a un simple frigorífico!
- ¡Incluso al frigorífico! Me gustaría que nuestros programas traduzcan, tratando de comprender el texto, eligiendo entre opciones basadas en el conocimiento, y no solo porque esta correspondencia se encuentra con mayor frecuencia en nuestra base de datos.
De acuerdo, digamos que resolvió el problema y creó un sistema gracias al cual las computadoras aprenderán a comprender los matices de nuestro habla e incluso a traducirlo con precisión a otro idioma. Y luego un nuevo peligro amenaza a la gente, no habrá necesidad de pensar. No habrá necesidad de entrenar la memoria, el cerebro. Necesita información, por favor, Wikipedia. Necesitas hablar con un extranjero - traductor …
- Cuanto mayor sea el nivel de inteligencia y conocimiento de una persona, más útil para él será el próximo "asistente inteligente". Y cuanto más bajo, más oportunidades parecen no pensar en absoluto. Las tecnologías informáticas conducen a la polarización de la sociedad. En términos generales, el advenimiento de la calculadora no condujo a la degeneración de los matemáticos. Pero en algunos de los escolares, obviamente, hubo una disminución en el ya bajo nivel de habilidades.
- Sabes, para mí, un indicador serio de una caída en el nivel de educación es la cantidad de personas que escriben analfabetas o no pueden expresar sus pensamientos y sentimientos sin usar el mate
- Sí, la gente empezó a escribir con menos competencia. Simplemente porque, en general, hay menos lectura de textos editados y muchos más recursos de este tipo donde la ortografía es muy borrosa. ¿Esto hizo a la gente más estúpida? Probablemente no.
¿Ves alguna conexión entre el hecho de que una persona exprese analfabetamente sus pensamientos en su lengua materna y el hecho de que se haya vuelto más estúpido?
“Yo no iría tan lejos. Aunque es obvio: debido a que los niños comenzaron a leer menos, surgieron algunos problemas con la transferencia de conocimiento y cultura entre generaciones. Esto es un problema. Hoy vemos que un escolar moderno con el mismo nivel de calificaciones que hace 30 años conoce peor la literatura.
¡Aquí! …
norte
“… Pero por otro lado, él sabe muchas otras cosas mucho mejor, que nadie pensó que pudieran saber.
¿Es este un proceso natural?
- Si. Además, por primera vez en la historia de la humanidad, el conocimiento no se puede transferir de los mayores a los más jóvenes, como ha sucedido durante siglos. Hubo una transferencia de conocimientos de los más jóvenes a los mayores, que anteriormente no era en absoluto característica de la cultura humana. Un niño enseña a papá o mamá a trabajar en una computadora, con un teléfono móvil, es una fuente de conocimientos diversos para sus padres. Y aún más niños viajan por el mundo. Muy a menudo son una fuente de conocimiento geográfico y cultural.
Escucha, pero aquí todo empezó con las computadoras. ¡Liberaron a la gente incluso de la necesidad de memorizar las reglas elementales de la gramática
- A principios de los 90, trabajé en un equipo que desarrolló uno de los primeros sistemas de corrección ortográfica para el idioma ruso. ¿Fue útil o perjudicial hacer esto? Muy útil desde mi punto de vista. Este sistema permitió una creación de documentos más rápida. Y luego todo depende del nivel de responsabilidad de la persona. ¿Quién dijo que después del coche no hay necesidad de hacer ningún control? El sistema solo ayuda a hacerlo mucho más eficiente.
¡Pero confiamos en la computadora
- Solo significa que la persona que hizo el programa no te informó que hay muchos fenómenos que la máquina no puede verificar. Negociación, por ejemplo.
Las nuevas tecnologías, lamentablemente, a menudo conducen a la pérdida de habilidades tradicionales. He estado haciendo reparaciones en el apartamento. Quería instalar ventanas de madera, que ya estaban instaladas. Pero esto resultó imposible. Todos están instalando ventanas de doble acristalamiento. La gente, por desgracia, deja de hacer muchas cosas con las manos. Qué hacer, así es como funciona la vida. Desafortunadamente.
¿Entonces eres conformista?
- No. Creo que hacer cosas absolutamente dañinas no es bueno. Pero cuando tiene tanto ganancias como pérdidas, necesita evaluar los riesgos … Si fabrica medicamentos, no cree que no solo las personas buenas sino también las malas sobrevivirán como resultado de su uso.
En nuestro caso, simultáneamente con el desarrollo de las tecnologías, es necesario dedicarse a la formación de quienes las utilizan. Las consecuencias negativas de las nuevas tecnologías se reflejan principalmente en aquellos que no hacen muy bien su trabajo a ningún nivel tecnológico.
Tome medicamentos, por ejemplo. Queremos ayudar al médico a tomar una decisión, hacemos un sistema informático experto basado en el análisis de una gran cantidad de diagnósticos fiables realizados por los mejores médicos. Le da a un profesional la oportunidad de recurrir a un volumen de conocimiento mayor que el que él mismo tiene. ¡Pero la decisión final es suya, no la computadora! Para un mal médico, todo es diferente: confiará en lo que no puede verificar de manera confiable. Pero, en promedio, con la llegada de estas tecnologías, me parece que la medicina sigue mejorando, no empeorando.
Bueno, estábamos convencidos de que habría más beneficio que daño del sistema intelectual de entender a una persona por medio de una computadora. ¿Pero cuándo aparecerá ella?
- Esta es una tarea muy difícil que no se puede resolver de inmediato. Es necesario enseñar al ordenador conocimientos sobre el lenguaje y conocimientos sobre el mundo, métodos de inferencia y comparación de valores. Algo que sabemos hacer ahora, algo que llevará años. Por ejemplo, necesitamos datos fiables sobre el uso del idioma, teniendo en cuenta las diferencias individuales y sociales. Y estas diferencias son muy significativas. Por ejemplo, hicimos un proyecto especial dedicado a las diferencias regionales en el idioma ruso. Recopiló un diccionario, en el que casi 10 mil palabras, que son la norma para los residentes de solo ciertas regiones de nuestro país.
¿Quienes somos?
“Este es un proyecto conjunto llamado Idiomas de las ciudades rusas, que involucra a especialistas de ABBYY, científicos lingüísticos y entusiastas de diferentes partes de Rusia y países de habla rusa. Analizamos el lenguaje de los medios regionales, redes sociales, decretos y decisiones de las autoridades locales. ¡Y esto es solo una pequeña parte del conocimiento que debe enseñarse a una computadora!
¿Cuál es la diferencia fundamental entre su enfoque de la traducción y los sistemas que utiliza Google, por ejemplo?
- Los sistemas estadísticos no construyen estructuras lingüísticas. Buscan coincidencias de traducción para pequeños fragmentos de 5-7 palabras. Pero el lenguaje está organizado de tal manera que muy a menudo las palabras relacionadas se encuentran mucho más lejos, y si no se tiene en cuenta esta conexión, surgen errores. Pero muy a menudo, estos detalles son importantes en la traducción, y su descuido puede cambiar completamente el significado. Para tenerlo todo en cuenta, es necesario identificar durante el análisis todo el sistema de conexiones lingüísticas entre palabras, lo que se denomina estructura de una oración. No traducimos fragmentos de oraciones del lenguaje al lenguaje, estamos tratando de identificar la estructura semántica de la oración y luego sintetizar esta estructura por medio de otro idioma.
Pero estas estructuras semánticas se utilizan no solo y no tanto para fines de traducción automática. También son necesarios para resolver eficazmente los problemas de búsqueda inteligente y análisis de información, que son más importantes hoy en día para ABBYY como empresa comercial. Por ejemplo, las primeras soluciones recientemente lanzadas para el mercado corporativo se basan en estas tecnologías: solo permiten buscar y analizar datos en el enorme flujo de información que se almacena en las organizaciones.
¿Y qué idioma, desde tu punto de vista, es más difícil de entender?
- En general, se acepta que los más difíciles son aquellos idiomas en los que necesita aprender más reglas. Pero en el caso de la comprensión informática, este no es el caso.
Algo que es difícil para una persona, por ejemplo, un rico sistema de inflexión en ruso o lituano, simplifica la tarea de una computadora en ciertas etapas de análisis.
Por ejemplo, el idioma chino es muy difícil porque no tiene morfología y de ahí la gran cantidad de ambigüedad a la que se enfrenta la computadora. Por tanto, para el análisis informático del idioma chino, es muy importante utilizar el conocimiento sobre el mundo, más importante que, por ejemplo, a la hora de analizar idiomas con una morfología desarrollada.
Logramos trabajar con ruso, alemán, inglés, francés, español, chino. El análisis del lenguaje se divide en etapas. Algunas etapas tienen especificidad, dificultades para un idioma, otras para otro. Pero, en esencia, las tecnologías con las que trabajamos son aplicables a todos los idiomas.
En su opinión, ¿cuándo llegará el día en que podamos recibir una traducción rápida y comprensible en el ordenador en paralelo a nuestra conversación? Digamos que estamos hablando ahora, ¿e inmediatamente obtenemos una transcripción de nuestra conversación en español?
- Será posible muy pronto. No creo eso en dos años. Pero … ¿Qué se necesita para solucionar este problema? Necesitamos mejorar nuestros sistemas de análisis de voz. Todavía no podemos tomar una conversación espontánea, separarla del ruido y obtener el texto deseado. Y cada año se avanza en esta dirección.
Pero, de todos modos, habrá cosas que la máquina no podrá interpretar sin ambigüedades. Y aquí la precisión de la comprensión y la traducción dependerá de la disponibilidad del sistema de conocimiento sobre el mundo, de los mecanismos de inferencia lógica.
Pero en cualquier caso, seguirá existiendo el peligro de una confianza total en dicho programa. Es un error pensar que, digamos, en cinco años, puedes dictar una carta a una computadora, la traducirá, la enviará a tu socio comercial y todo saldrá bien. Nadie garantiza que la máquina no perderá el "no" en alguna parte o cometerá otros errores, después de lo cual su relación comercial puede considerarse completa.
Es decir, ¿una persona como controlador debería seguir siendo?
- Ciertamente. Confiar ciegamente en la tecnología es peligroso.
