Los robots están evolucionando rápidamente; se acerca el momento en que llenarán las calles, oficinas, apartamentos e incluso nuestros cuerpos. ¿Estamos listos para existir al lado de máquinas que se comportan como humanos y ya han comenzado a competir con nosotros por trabajos? Surgen muchos problemas humanitarios.
¿Qué se le puede confiar a un robot y qué es mejor rechazar? ¿Es capaz de tomar decisiones, sentir emociones, tiene cierto libre albedrío y es responsable de sus acciones? ¿Cómo integrar a los robots en la sociedad? Estas preguntas parecen ingenuas. Mientras. Pero puede resultar que las respuestas a ellos decidan el destino de nuestra civilización.
Cuando se apagaron las luces, empezó a sonar una candente melodía de las que suelen acompañar a las modelos en la pasarela. Y nosotros (el personal de la revista Schrödinger's Cat) vimos dos enormes ojos rojos en forma de corazón. El robot se acercó a la audiencia con dignidad y gracia. Los ojos se convirtieron en dos círculos azules, irradiando buenas intenciones e ingenuidad infantil, las manos extendidas hacia la gente. Se volvió a encender la luz.
- ¡Alantim! - el jefe del proyecto Promobot y el jefe del departamento de robótica del Instituto Tecnológico de Moscú (MTI) Alexey Yuzhakov lo presentó al público. - En 2012, lo llamábamos Promobot, luego se le quedó pegado el insultante apodo de Monument, luego tenía el sonoro nombre de Bogdan, pero ahora es Alantim, en honor a los creadores del nuevo mundo Alan Turing y Tim Berners-Lee.
norte
Foto: Skoltech / kot.sh
Alantim todavía se volvió de un lado a otro y fue a hablar con los periodistas, llenándolos de chistes e historias sobre cómo los robots tomarán el poder en la Tierra y le cambiarán el nombre a Promobotia. Una cola de chicas inmediatamente se alineó con él, deseando ser fotografiadas con una criatura tan linda. Alantim conoció a las niñas, respondió preguntas sobre el significado de la vida y el tipo de cambio del dólar y recordó a todas.
Así transcurrió la primera jornada laboral del nuevo subdirector del Departamento de Robótica del Instituto Tecnológico de Moscú, el robot Alantim.
Video promocional:
Un auto con caracter
Alantim no es una criatura única. El equipo de Perm, que creó los promobots, ya vendió 60 dispositivos de este tipo, y este año firmó contratos para otros 124, cumpliendo prácticamente el plan anual de toda Rusia para el suministro de robótica de servicio: en 2014, solo se vendieron unos 200 robots de servicio doméstico.
Un promobot es un robot autónomo con carácter, diseñado para trabajar en lugares concurridos: promotor, guía, showman. Sabe reconocer algunas de las emociones del interlocutor, es capaz de comprender la pregunta que se le dirige y encontrar la respuesta en la Web, y si no comprende la pregunta, intenta reírse de ella.
Mientras tanto, fuimos a la cabeza de Alantim - Vicerrector del MIT Evgeny Pluzhnik
[El gato de Schrödinger] ¿Cómo se te ocurrió la idea de contratar un robot para la organización?
[Grigory Bubnov] Nos acabamos de dar cuenta de que tarde o temprano llegará el momento en que los robots comenzarán a contratar. Y decidimos convertirnos en pioneros.
[KSh] Así que no es por nada que digan que los robots están reclamando nuestros trabajos
[GB] En realidad, esto no es una broma, sino una amenaza muy seria, especialmente en áreas donde se emplea a un gran número de personas. Creo, por ejemplo, que ya en esta década, los coches con control autónomo se venderán ampliamente, y después de eso muchos conductores se quedarán sin trabajo. Los gobiernos se enfrentarán inevitablemente a este desafío: deben comenzar a pensar en cómo crear nuevos empleos y programas de reciclaje.
[KSh] ¿Cómo piensa utilizar Alantim? ¿Como un juguete vistoso?
[GB] ¡No solo! Por ejemplo, tiene una tarea de investigación: acumular datos sobre la comunicación de los robots con las personas, estudiar las reacciones individuales a los robots. Esta información ayudará a que la apariencia y el comportamiento de futuras modificaciones de Alantim sean más humanos y cómodos para la comunicación.
Foto: Skoltech / kot.sh
[KSh] ¿Qué tipo de información está recopilando?
[GB] En primer lugar, datos sobre las reacciones a su comportamiento: tiene un sistema para reconocer las emociones. Por ejemplo, ¿cómo reaccionan los demás cuando levanta la mano? ¿Y si su manera de hacer algo los asusta? Nuestros gestos han sido perfeccionados por la evolución - no dudamos, digamos, rascándonos la nuca - y con un robot todavía tenemos que recorrer todo este camino hacia un comportamiento "natural". Por cierto, recuerda a las personas fotografiándolas.
Pero puede haber problemas: las imágenes de personas se consideran datos personales y existe una ley que restringe su uso. En general, aquí surgirán muchas preguntas de naturaleza legal; por ejemplo, ¿es necesario pagar el impuesto sobre la renta por la electricidad que se le dio al empleado del robot para que la cargue? Creo que pronto veremos cómo la legislación en diferentes países comenzará a cambiar, junto con la actitud de las personas hacia los robots.
Rubber Pushkin y otros robots
El mercado mundial de robots ya está en auge, las ventas están batiendo récords: decenas de miles de millones de dólares a fines del año pasado.
0,17%: esta cuota del mercado mundial de robots industriales está en Rusia (según datos de 2013).
Foto: Skoltech / kot.sh
De héroes de los éxitos de taquilla de Hollywood, los robots están a punto de convertirse en personajes reales, y comenzaremos a vivir con ellos. ¿Nos llevaremos bien? Comenzando con las historias de terror sobre Golem y Frankenstein o la obra de Karel Čapek, donde aparece por primera vez la palabra “robot”, todas estas historias, por regla general, terminan con una cosa: el levantamiento de criaturas artificiales contra sus creadores. ¿Seremos capaces de crear una realidad que supere nuestras fantasías?
Un anuncio en el sitio web del proyecto Promobot explica claramente por qué un empleado robot es mejor que un humano: no necesita salario y mono, trabaja sin descansos, no se enferma, no protesta, no se confunde, no dice demasiado, no necesita formación … Son tantas las ventajas, que, según diversas estimaciones, en las próximas décadas los robots pueden ocupar del 40 al 80% de los puestos de trabajo, es decir, estamos amenazados por una ola de paro masivo sin precedentes.
Quizás, al final, esto se convierta en una edad de oro, cuando, como soñó Karl Marx, la gente se involucrará en la creatividad libre. Pero todavía tenemos que vivir para verlo, y preferiblemente sin catástrofes sociales. Es poco probable que sea posible limitar significativamente el uso de robots: nunca antes las prohibiciones legislativas habían podido detener el progreso. ¿Cuál es el punto de? Más bien, se prohibirá a las personas conducir cuando los conductores robóticos se vuelvan omnipresentes. El hombre es demasiado impredecible. ¿No son peligrosos los pilotos humanos, por ejemplo, que son capaces de dirigir un avión hacia el suelo o hacia áreas residenciales?
Eso significa que tenemos que aprender a vivir con robots
Para empezar, fuimos al lugar donde hay muchos robots: a la conferencia internacional Skolkovo Robotics. Una abigarrada compañía de robots y sus creadores se ha reunido en el Hipercubo Skolkovo. Grandes y pequeños, drones voladores y andantes, bomberos profesionales y limpiaparabrisas electrónicos, brazos y piernas mecánicos, torso y cabezas …
Aquí está la cabeza de goma de Pushkin, montada en un trípode, como en una estaca, mirando a los transeúntes y moviendo nerviosamente una ceja: hay demasiada gente, los ojos se mueven hacia arriba. El rostro del poeta es tan parecido al real que sientes asombro.
Foto: Skoltech / kot.sh
Cerca hay un robot que no se parece en nada a un humano. En lugar de un cuerpo, hay un palo sobre ruedas, en lugar de una cabeza, una pantalla que gira en todas direcciones. Se trata de un robot de telepresencia Webot, creado en Skolkovo para ayudar a los niños con discapacidad. Puede conectarse a él a través de Internet, moverse por el edificio con él, ver y escuchar lo que sucede e interactuar con los demás.
Dichos robots ya se utilizan en varias escuelas: los niños se conectan con ellos desde casa y, con su ayuda, asisten a lecciones, completan tareas, responden preguntas de los maestros, conducen hasta la pizarra y se comunican con sus compañeros.
Los principales consumidores de robots de servicio en Rusia y en todo el mundo son las personas con discapacidad. La robótica les da la esperanza de volver a la vida plena, como el primer exoesqueleto ruso ExoAtlet. Su piloto Yaroslav, recientemente obligado a llevar la vida de un paralítico, camina entre el público como un cyborg del futuro.
Otro robot asistente nos lo presentó el profesor japonés Kazuhiko Terashima:
- La sociedad japonesa está envejeciendo rápidamente, no hay suficiente personal en las clínicas. Y el robot Terapio desarrollado por nosotros demostró ser un excelente asistente del médico. Sigue al médico, lleva instrumentos, pero lo más importante es que recuerda los datos, lo que hace que los registros médicos sean innecesarios. Además, realiza rondas de pacientes de forma independiente y, en ese caso, da la alarma.
Tiene una expresión infantil en su rostro y una voz suave, sabe reír y llorar, sus grandes ojos parpadean todo el tiempo, para complacer a los pacientes, para provocarles una reacción similar a la que causan los niños o los gatitos. Nuestro robot es un paso importante en un proyecto de hospital robótico que monitorea continuamente a los pacientes. Por cierto, ya sabes, ahora las operaciones se realizan con la ayuda de cirujanos robóticos.
Foto: Skoltech / kot.sh
Puedes reconocer un androide caminando
La robótica y los diseñadores actúan en la sala de conferencias del Hypercube. Mikhail Lebedev de la Universidad de Duke habla sobre cómo implanta chips en el cerebro de los monos que les permiten controlar robots con sus mentes. La sesión está moderada por Dmitry Teteryukov, profesor del Instituto de Ciencia y Tecnología de Skolkovo, jefe del laboratorio de robots espaciales, que ha trabajado en Japón durante muchos años.
Nosotros, por supuesto, lo acribillamos con preguntas.
[El gato de Schrödinger] Estadísticamente, el número de robots está creciendo rápidamente, pero ¿dónde se esconden, además de los que se utilizan en la industria?
[Dmitry Teterukov] Además de los robots industriales, está creciendo un ejército de robots de servicio: todo el mundo ha oído hablar de las aspiradoras robóticas o los cuadricópteros robot que entregan compras. Muchas de estas máquinas se utilizan en medicina, y en el Ejército de los EE. UU. Han estado en guerra durante mucho tiempo: por ejemplo, los robots rastreados con un manipulador se dedican a la remoción de minas. En general, demostraron ser muy útiles en situaciones de emergencia, se utilizaron en el accidente de Fukushima.
[KSh] ¿Qué tipo de robots producen en Rusia?
[JT] Continúo con lo que estaba haciendo en Japón. Uno de los proyectos es gestionar un grupo de robots, cuando actúan según un plan común, como un solo rebaño, intercambian información y tienen en cuenta las acciones de los demás. Nosotros, por supuesto, probaremos todo esto aquí en la Tierra, pero planeamos que funcionarán en el espacio.
norte
[KSh] Los escritores de ciencia ficción siempre han descrito a los robots como criaturas solitarias …
[JT] Distribuir el trabajo entre muchos es mucho más eficiente que asignar todo a uno. Por ejemplo, un automóvil autónomo debe procesar toda la información sobre la propia carretera, pero si tales dispositivos están en todas partes, es mucho más conveniente para ellos actuar sobre la base de la imagen y el programa generales.
[KSh] Cuando los robots se vuelven humanos, tanto externa como mentalmente, ¿comienza a asustarte un poco?
[JT] Hay un profesor japonés Hiroshi Ishiguro que crea androides casi indistinguibles de nosotros. Recientemente confundí uno de sus geminoides con un humano. Pero esto es solo mientras está sentado. Todavía no ha aparecido un robot que pueda caminar como una persona; es fácil reconocerlo por su forma de andar. Ishiguro hizo tanto el suyo como el de su hija.
Sin embargo, al verla, la hija se asustó, lloró y se escapó. Es decir, cuando un robot se vuelve muy parecido a una persona, se produce su rechazo. Y cuando se supera este umbral, se eliminan la apariencia y los movimientos antinaturales, el robot comienza a percibirse como una persona real. Pero para aprobarlo, uno debe lograr no solo un parecido físico, sino también intelectual: la capacidad de llevar a cabo una conversación razonable.
[KS] ¿Es el famoso criterio de Turing, según el cual un robot debe considerarse razonable, que no podemos distinguir de un humano en una conversación? ¿O es necesario reformularlo de alguna manera?
[JT] Ahora este criterio se entiende como una prueba para programas que simulan el chat humano. Pero el punto no está solo en el intelecto: para confundir un robot antropomórfico con un humano, debe ser emocional, moverse sin problemas, comportarse como un ser humano. Ya existen programas que demuestran de manera muy convincente el sarcasmo y la ironía. Creo que pronto habrá pruebas separadas para diferentes habilidades: la prueba emocional de Turing verificará la adecuación de las emociones y, por ejemplo, la prueba motora: la capacidad de moverse como una persona.
Foto: Skoltech / kot.sh
[KS] ¿No tienes miedo, hablando en términos generales, de un levantamiento de robots?
[ДТ] Después de todo, la gente escribe programas para robots, lo que significa que ellos determinan qué robots pueden y qué no, qué deseos tendrán y cuáles no. ¿Y por qué los robots irían en contra de sus creadores, por qué razón?
[KSh] Por ejemplo, debido a nuestro malentendido de que también necesitan derechos, o porque se desarman y eliminan después de su fecha de vencimiento. Y los programas para robots no solo serán escritos por humanos; tarde o temprano, las máquinas se convertirán en autoaprendizaje
[JT] Serán entrenados dentro del marco que hemos establecido. Me parece que la versión del futuro con el enfrentamiento entre humanos y robots conduce a la degradación, gane quien gane en tal enfrentamiento. Un escenario evolutivamente productivo es la simbiosis, no una guerra de aniquilación, parasitismo u otra sumisión. Además, esta simbiosis también se producirá en el cuerpo humano, por lo que las cuestiones éticas más interesantes, en mi opinión, surgirán en relación con la ciborgización.
¿Dónde estará la línea entre el hombre y la máquina cuando comencemos a instalarnos órganos artificiales, instalar chips en el cerebro, mejorar nuestra memoria y otras habilidades con su ayuda? Me parece que nos espera un futuro sin gadgets y computadoras personales: será suficiente hacer una solicitud mental o dar un comando, porque el cerebro estará conectado a la Red.
Pero tal vez los cyborgs necesiten leyes restrictivas, similares a las leyes de la robótica de Asimov; incluso las formulé de alguna manera. Su esencia es que la máquina en el cyborg no toma el poder sobre la persona, por lo que el poder de toma de decisiones permanece en la persona y no en su procesador principal.
[KSh] ¿Tienes un robot de ensueño?
[DT] Probablemente se trate de un robot controlado por un operador con efecto de telepresencia, que permitiría una comunicación completa a distancia y transmitiría al operador todas las sensaciones, creando el efecto de presencia completa.
[CS] Avatar?
[JT] Sí. Me ocupé de este tema antes de que saliera Avatar, pero, por supuesto, tales películas de alguna manera determinan el futuro: nuestra comprensión de lo que buscamos y lo que es posible.
Foto: Skoltech / kot.sh
Máquinas morales
Mientras tanto, en el Hipercubo, se inició una discusión sobre el tema "Retrato moral de una máquina antropomórfica". El profesor de psicología Maxim Kiselev pronunció un discurso introductorio sobre el carácter moral de los robots.
“La Roboética se ocupa de todos los problemas humanitarios relacionados con los robots”, explicó. - Por ejemplo, legal: ¿quién es responsable si un automóvil sin conductor condujo a alguna parte: el robot mismo, el propietario del automóvil o un programador? O social, el principal de los cuales es el desempleo potencial. Yo mismo he estado en fábricas de robots más de una vez, por ejemplo, en una planta en Swindon, donde se fabrican componentes para automóviles MINI Cooper. Emplea a unos doscientos robots y la misma cantidad de personas, y antes había cuatro mil puestos de trabajo. También hay cuestiones morales específicas, como el llamado dilema del robot asistente. ¿Cómo saber cuando la asistencia de la máquina se vuelve contraproducente? Imagina un robot, suave y mullido, siguiendo al niño y recogiendo juguetes. Pero para el desarrollo normal de un niño, es necesario que lo haga él mismo.
Llenos de robofobia, acudimos al creador de la roboética, el profesor Gianmarco Verugio, presidente del comité científico de la Escuela de Robótica del Instituto Italiano de Electrónica, Tecnología de la Información y Telecomunicaciones; estaba sentado cerca.
[El gato de Schrödinger] ¿Cómo surgió la roboética?
[Gianmarco Verugio] Una vez fui fan de Asimov, a la edad de dieciséis años había leído todos sus libros. Quizás por eso muchos años después me sobrevino algo así como una epifanía, de la que surgió la roboética. Me di cuenta de que las leyes de la robótica de Asimov - "Un robot no puede dañar a una persona" y demás - no son leyes en absoluto, sino simplemente buenos deseos, ninguna de ellas se observa en la práctica. La ley real es e = mc2. Como otras leyes de la naturaleza, no se puede romper.
Se sanciona la infracción de las leyes legales. Y las tres leyes de la robótica son como los mandamientos bíblicos que dicen "No matarás": todos parecen estar a favor, pero no los observan. En este momento, se están desarrollando sistemas de armas robóticas en muchos países del mundo. Se necesitan armas para matar, lo que significa que estos robots se crean para matar personas.
Debemos dar fuerza legal a las leyes de la robótica. Escribir tales leyes es una tarea difícil. Suponga que un robot puede matar a una persona a propósito, o tal vez accidentalmente, debido a una falla o falla del programa, a menudo será difícil distinguir entre estas situaciones. Pero vale la pena comenzar a pensar en estos problemas ahora: si vamos por el camino equivocado, podemos arruinar enormemente el futuro de la humanidad. Es una tontería crear el futuro con los ojos cerrados, pero hasta ahora estamos desarrollando la robótica a ciegas.
Los robots de guerra son uno de los principales problemas de la roboética. Estamos tratando de llamar la atención de varias organizaciones internacionales. Esta no es solo mi iniciativa, hay un movimiento internacional "¡Alto a los robots asesinos!", Que hace campaña en Internet y cuenta con el apoyo de la ONU.
Otro grupo de problemas está relacionado con el tema de los biorobots y los órganos artificiales. ¿Hasta qué punto podemos, por ejemplo, interferir con el trabajo del cerebro humano? Un amigo mío está experimentando con ratas, insertando electrones en sus cerebros y controlando su comportamiento. ¡Es un verdadero piloto de ratas! Pero cuando el cerebro humano está lleno de todo tipo de neuroimplantes que mejoran las capacidades o controlan los órganos cibernéticos, entonces se puede hacer una intercepción de control similar con las personas.
Foto: Skoltech / kot.sh
[KS] ¿Pero no podemos renunciar a los beneficios de la tecnología solo porque las nuevas oportunidades siempre van de la mano con nuevos peligros?
[DV] ¿Cómo solucionar estos problemas para que las tecnologías no nos conviertan en objetos controlados de gestión, sino que, por el contrario, aumenten nuestra libertad? No tengo una respuesta a esta pregunta, solo quiero plantearla, dándome cuenta de toda su complejidad e incompletitud de nuestra visión de la situación.
Surgen muchas preguntas inesperadas antes de la roboética. Imagine, por ejemplo, la siguiente situación: una enfermera robot está cuidando a una persona mayor solitaria que se comunica con el automóvil más que nadie. Y rápidamente comienza a considerarla como una persona, a amarla como a una persona y a sufrir si se derrumba; tendemos a hacer esto incluso con los Tamagotchi primitivos, pero aquí habrá sentimientos mucho más fuertes. ¿Se puede apagar un robot así? Para mí, una persona es una persona y una máquina es una máquina, pero me temo que la gente pronto empezará a cometer errores …
[KSh] ¿Cómo los distingue? Los chatbots ya están pasando la prueba de Turing …
[DW] Comenzaría con el hecho de que nuestra psique no está contenida en el cuerpo, como en un contenedor. La psique está incorporada al cuerpo: nos volvemos inteligentes y conscientes a medida que adquirimos experiencia corporal. El concepto de inteligencia artificial, acuñado por los informáticos en la década de 1960, asumía que el mundo virtual era suficiente para que apareciera. Ahora bien, esta idea se llama en broma GOFAI (buena inteligencia artificial pasada de moda), y quedó claro para los desarrolladores que, para obtener una apariencia de inteligencia, el programa necesitará un cuerpo de robot y una larga experiencia de interacción con el mundo real. Pero, en términos generales, no podemos hacer una máquina inteligente, aunque solo sea porque todavía tenemos muy poca comprensión de cómo funciona el cerebro, qué son la razón y la conciencia.
[KSh] Entonces, ¿la robótica no se ocupa de los derechos de los robots? Pero, ¿qué harás si mañana tu computadora dice: "Tengo miedo, no me apagues"?
[DW] Bueno, no, los derechos de los robots empezarán a preocuparme cuando la última persona del planeta tenga todos los derechos. Todavía queda mucho por hacer para que la gente comience a cuidar los automóviles. La roboética se trata de personas, debemos hacerlo, porque creamos nuestro propio futuro.
Publicado en la revista de divulgación científica "El gato de Schrödinger" # 5 (07) de mayo de 2015
