Capítulo de un libro publicado por el Museo Politécnico
Hombre y robot: ¿dónde está la frontera entre ellos y qué peligros trae nuestra proximidad? Basado en la experiencia personal, numerosas entrevistas y datos de las últimas investigaciones, el científico más respetado en el campo, David Mindell, ofrece una mirada entre bastidores a las aplicaciones más innovadoras de la robótica. Indicaror. Ru publica un capítulo de su libro “¡Se cancela el auge de las máquinas! Mitos sobre la robotización”.
Operado por humanos - remoto - autónomo
norte
En las profundidades de la noche, muy por encima del Océano Atlántico en el vasto espacio abierto entre Brasil y África, un avión de pasajeros programado fue atrapado con mal tiempo. El hielo congelado obstruyó pequeños tubos en la nariz de la aeronave, lo que determinó su velocidad y transmitió datos a las computadoras que controlaban la aeronave. Las computadoras podrían continuar volando sin esta información, pero el programa integrado en ellas no proporcionó tal alineación. El sistema automático de vuelo por cable se rindió y se apagó, transfiriendo el control a la gente: los pilotos sentados en la cabina del barco: Pierre-Cedric Bonin, de 32 años, y David Robert, de 37 años. Bonin y Robert, ambos relajados y un poco cansados, fueron tomados por sorpresa cuando de repente descubrieron que tendrían que volar manualmente un enorme avión a gran altura en condiciones climáticas adversas, e incluso de noche. Y en condiciones más favorables, sería una tarea difícil a la que los pilotos no se han enfrentado últimamente. El comandante de la tripulación, Marc Dubois, de 58 años, no estaba pilotando el avión en ese momento, pero estaba descansando en la cabina. Los pilotos tuvieron que gastar un tiempo precioso para llamarlo a la cabina. A pesar de que en el momento en que se apagaron las computadoras, la aeronave estaba nivelada en vuelo recto, no fue fácil para los pilotos entender los magros parámetros del aire. Uno de ellos tiró de la palanca de control hacia sí mismo, el otro la empujó hacia adelante. El avión continuó en vuelo recto durante aproximadamente un minuto y luego comenzó a caer. Los pilotos tuvieron que gastar un tiempo precioso para llamarlo a la cabina. A pesar de que en el momento en que se apagaron las computadoras, la aeronave estaba nivelada en vuelo recto, no fue fácil para los pilotos entender los magros parámetros del aire. Uno de ellos tiró de la palanca de control hacia sí mismo, el otro la empujó hacia adelante. El avión continuó en vuelo recto durante aproximadamente un minuto y luego comenzó a caer. Los pilotos tuvieron que gastar un tiempo precioso para llamarlo a la cabina. A pesar de que en el momento en que se apagaron las computadoras, la aeronave estaba nivelada en vuelo recto, no fue fácil para los pilotos entender los magros parámetros del aire. Uno de ellos tiró de la palanca de control hacia sí mismo, el otro la empujó hacia adelante. El avión continuó en vuelo recto durante aproximadamente un minuto y luego comenzó a caer.y luego comenzó a caer.y luego comenzó a caer.
El 1 de junio de 2009, el vuelo 447 de Air France se hundió en el océano, matando a más de 200 pasajeros y tripulantes. Desapareció entre las olas casi sin dejar rastro. En un sistema mundial interconectado de aerolíneas internacionales, es inconcebible que el avión simplemente desaparezca. Se organizó un trabajo de búsqueda coordinado a gran escala. Solo unos días después, se encontraron rastros del avión en el fondo del océano. Sin embargo, para encontrar la mayor parte de los restos del avión y las cajas negras, gracias a las cuales se podría establecer la causa de la tragedia, se realizó una búsqueda por el vasto territorio del fondo del océano, que se movía desesperadamente lento. Más de dos años después, a una profundidad de 3,2 km, casi en el mismo punto donde el avión se estrelló contra la superficie del océano,un vehículo submarino autónomo llamado Remus 6000 se deslizó silenciosamente a través de la oscuridad bajo la monstruosa presión de la columna de agua. Moviéndose un poco más rápido que un peatón, el robot con forma de torpedo mantuvo una altura constante de unos 60 m por encima del fondo. En esta posición, su escáner acústico recibió las imágenes más claras. La señal acústica viajó unos 800 m en todas las direcciones, el robot recogió gigabytes de información a través de las señales devueltas.el robot estaba recopilando gigabytes de información a través de las señales devueltas.el robot estaba recopilando gigabytes de información a través de las señales devueltas.
La superficie era montañosa, por lo que el fondo del océano se elevó abruptamente. A pesar de su inteligencia artificial, el robot ocasionalmente golpea la superficie, la mayoría de las veces sin consecuencias. Tres de estos robots trabajaron armoniosamente en tándem: mientras dos de ellos buscaban bajo el agua, el tercero estaba a bordo del barco en la superficie. Tal "parada en boxes" tomó tres horas, durante las cuales las personas que estaban al servicio del robot volvieron a escribir la información, recargaron las baterías y establecieron nuevos planes de búsqueda. En el barco, un equipo de doce ingenieros del Instituto de Investigación Oceanográfica Woods Hole, dirigido por Mike Purcell, quien fue pionero en el diseño y desarrollo de los vehículos de búsqueda, trabajó en turnos de doce horas. Estaban cargados como cualquier equipo de mecánicos de Fórmula 1.
Cuando el dispositivo salió a la superficie, los ingenieros tardaron unos 45 minutos en descargar la información que había recopilado en una computadora y luego otra media hora en procesarla para que pudiera verse rápidamente en el monitor. Los investigadores y representantes de Air France franceses y alemanes miraron por encima del hombro. Sus acciones parecían calculadas y prudentes, pero la tensión flotaba en el aire: había mucho en juego en términos del orgullo nacional de los franceses, en términos de la reputación del fabricante de Airbus y en términos de la seguridad de todos los viajes aéreos.
Video promocional:
Varias expediciones anteriores no tuvieron éxito. En Francia, Brasil y en todo el mundo, los familiares de las víctimas esperaban noticias. Descifrar información de un escáner acústico requiere un análisis cuidadoso que no puede ser completamente confiable para una computadora. Purcell y sus ingenieros confiaron en años de experiencia acumulada. En sus monitores, estudiaron el fondo rocoso kilómetro tras kilómetro. Este trabajo de rutina duró cinco días, hasta que se interrumpió su monotonía: apareció una acumulación de escombros en la pantalla, y luego los científicos llegaron al área del desastre: recibieron una fuerte señal de objetos artificiales en el desierto oceánico. Al menos eso asumieron, pero aún no podían decirlo con certeza. Los ingenieros reprogramaron los vehículos para que regresaran al área del desastre y se movieran de un lado a otro a través de ella. Esta vez, los robots tuvieron que acercarse lo suficiente para que las cámaras tomaran fotografías a una altura de unos 9 m por encima del fondo a la luz de las luces laterales. Cuando los vehículos sacaron las imágenes a la superficie, ingenieros e investigadores vieron el área del desastre y recibieron una respuesta: encontraron los restos de un avión de pasajeros que se convirtió en una tumba para cientos de personas. Pronto, otro equipo regresó a la escena de la tragedia con un tipo diferente de robot: un vehículo submarino a control remoto. Pronto, otro equipo regresó a la escena de la tragedia con un tipo diferente de robot: un vehículo submarino a control remoto. Pronto, otro equipo regresó a la escena de la tragedia con un tipo diferente de robot: un vehículo submarino a control remoto.
Era un dispositivo de alta resistencia especialmente diseñado para trabajar en profundidad. Estaba conectado a la nave mediante un cable. Utilizando mapas generados a partir de una búsqueda exitosa, el ROV ubicó las cajas negras (la grabadora de voz y la grabadora de datos de la aeronave) y las levantó a la superficie. Los registros de los minutos finales de los pilotos condenados se recuperaron de las profundidades del océano, y ahora los investigadores pudieron recrear las circunstancias fatales que llevaron a la confusión a bordo del avión automatizado. Luego, el vehículo submarino se embarcó en una triste misión: recuperar los restos de los muertos.
El accidente del vuelo 447 de Air France y una operación para encontrar sus restos vinculan la automatización moderna y la robótica en dos entornos extremos: en el borde de la estratosfera y en las profundidades del mar. La aeronave cayó al océano debido a errores en la interacción humana con sistemas automatizados. Luego, sus fragmentos fueron descubiertos por personas que usaban robots autónomos y controlados de forma remota.
Aunque las palabras “automatizado” y “autónomo” (en sus significados más comunes) implican que dichos sistemas operan de forma independiente, en ambos casos el fracaso o el éxito no se debió a que las máquinas y las personas actuaran por separado, sino a la acción combinada de las máquinas. y gente. Los pilotos humanos lucharon por la vida de una aeronave que estaba automatizada para mayor seguridad y confiabilidad; muchos barcos interconectados, satélites y boyas flotantes ayudaron a localizar el lugar del accidente; los ingenieros procesaron la información recibida de los robots y actuaron en consecuencia.
Los vehículos automatizados y autónomos regresaban constantemente a sus creadores, los humanos, en busca de información, energía y dirección. La tragedia del vuelo 447 de Air France dejó en claro que, al adaptarnos y modificar constantemente nuestro entorno, nos estamos rehaciendo. ¿Cómo pudieron los pilotos volverse tan adictos a las computadoras que dejaron caer un avión que funcionaba perfectamente en el mar? ¿Cuál es el papel de los seres humanos en áreas como el transporte y el transporte, la investigación y las actividades militares, cuando las máquinas parecen realizar cada vez más tareas de primera importancia? El punto de vista extremo es que los humanos están a punto de "dejar de usarse", que los robots "literalmente necesitan una actualización de software" para volverse completamente autónomos, como recientemente escribió Scientific American. Esta vista nos diceque los robots están avanzando, los encontramos cada vez más en un entorno familiar. Las preocupaciones sobre las capacidades desconocidas y cuestionables de la inteligencia artificial surgen de la creencia de que estamos en la cúspide de la "superinteligencia". Nuestro mundo está al borde del cambio, de hecho, ya está cambiando bajo la influencia de los robots y la automatización.
De repente aparecen nuevos proyectos que encarnan viejos sueños de máquinas inteligentes que nos ayudan a cumplir con nuestros deberes profesionales, facilitan el trabajo físico y las tareas rutinarias de la vida diaria. Los robots que existen y trabajan muy cerca de los humanos a nivel físico, cognitivo y emocional se están convirtiendo en un tema de investigación cada vez más amplio y prometedor. La autonomía, el sueño de que los robots algún día se comporten como entidades completamente independientes, sigue siendo una fuente de inspiración, innovación y miedo. La emoción se debe a la severidad del experimento; las formas precisas de estas tecnologías están lejos de ser completas, y aún menos seguras son sus implicaciones sociales, psicológicas y cognitivas.
¿Cómo nos cambiarán nuestros robots? ¿A qué imagen y semejanza los haremos? ¿Qué quedará de nuestros campos de actividad tradicionales (científico, abogado, médico, soldado, gerente e incluso conductor y conserje) cuando estas tareas sean realizadas por máquinas? ¿Cómo vamos a vivir y trabajar? No necesitamos especular: en su mayor parte, este futuro ya ha llegado hoy, si no en la vida cotidiana, en condiciones extremas, donde hemos estado utilizando robots y automatización durante décadas. El hombre no puede existir por sí mismo en las capas superiores de la atmósfera, en las profundidades del océano, en el espacio exterior. Debido a la necesidad de enviar personas a estas peligrosas condiciones, la robótica y la automatización se crearon e implementaron en estas áreas antes que en otras áreas de actividad que nos son más familiares.
En entornos extremos, se prueba la fuerza de la relación entre humanos y robots. Los desarrollos más innovadores aparecen en tal entorno. Aquí los ingenieros tienen la mayor libertad para experimentar. A pesar del aislamiento físico, aquí es donde empezaron a aparecer los efectos cognitivos y sociales de varios dispositivos. Con vidas humanas, equipos costosos y misiones de misión crítica en juego, la autonomía siempre debe estar limitada por consideraciones de seguridad y confiabilidad. En tales condiciones, la vanidad y los asuntos de la vida cotidiana pasan temporalmente a un segundo plano, y encontramos, seleccionadas de la oscuridad circundante, alegorías fragmentarias y fantasmales de la vida humana en el mundo de la tecnología. Los procesos sociales y tecnológicos en la cabina de un avión de pasajeros o dentro de un vehículo de aguas profundas no difieren fundamentalmente de procesos similares en una fábrica, en una oficina o en un automóvil. Pero en condiciones extremas, aparecen de forma más explícita y, por tanto, más fáciles de entender.
Cada vuelo de un avión de pasajeros es una historia, al igual que toda expedición oceanográfica, vuelo espacial u operación militar. A través de estas historias de personas y máquinas específicas, podemos juntar datos sobre dinámicas sutiles. En condiciones extremas, nos damos una idea de nuestro futuro cercano, cuando estas tecnologías puedan introducirse en áreas de la actividad humana como el transporte por carretera, la asistencia sanitaria, la educación, etc. Los dispositivos controlados por una persona de forma remota o autónoma abren posibilidades cualitativamente nuevas de interacción entre personas y máquinas. nuevas formas de presencia y nuevas experiencias, mientras que al mismo tiempo llama la atención sobre los peligros, aspectos éticos y consecuencias indeseables de vivir alrededor de máquinas inteligentes. Vemos un futuro donde la presencia humana y el conocimiento serán más importantes,que nunca, pero de una manera inusual y desconocida. Y estos autos son maravillosos.
No soy la única persona que ha admirado aviones, naves espaciales y submarinos toda mi vida. De hecho, los héroes de las historias que contaré a continuación se guiaron no solo por la búsqueda de beneficios prácticos, sino que también fueron impulsados por la pasión por las nuevas tecnologías. No es una coincidencia que tales historias se hayan descrito a menudo en obras de ciencia ficción sobre personas y máquinas. Las historias de humanos y máquinas que interactúan al límite de sus posibilidades son cautivadoras, sorprendentes y despertando esperanzas de en quiénes podemos llegar a ser. Este entusiasmo a veces se refleja en una creencia ingenua en la perspectiva de la tecnología. Pero poco a poco, tal interés nos lleva a las principales cuestiones filosóficas y humanísticas:¿quienes somos? ¿Cómo estamos conectados con nuestro trabajo y entre nosotros? ¿Cómo nuestras creaciones amplían nuestra experiencia? ¿Cómo podemos vivir en este mundo cambiante? Estas preguntas surgen por sí solas cuando comienzas a hablar con las personas que crean y controlan robots y máquinas. Quiero compartir con ustedes la información que recibí de primera mano, de las entrevistas más detalladas y los resultados de las últimas investigaciones del Instituto Tecnológico de Massachusetts y otras organizaciones, en el marco de las cuales se realizan pruebas de robótica y automatización en las condiciones extremas de las profundidades del océano, durante vuelos aéreos (civiles y militares). y en el espacio. Este no es un futuro imaginario, sino lo que está sucediendo hoy: veremos cómo las personas controlan los robots y reciben información a través de dispositivos autónomos, analizaremos cómo estas interacciones afectan su trabajo,experiencia de vida, habilidades y habilidades.
Nuestra historia comienza donde yo mismo comencé: en las profundidades del océano. Hace veinticinco años, cuando era ingeniero que desarrollaba computadoras y herramientas integradas para robots de aguas profundas, me sorprendió descubrir que esta técnica está cambiando la oceanografía, los métodos científicos e incluso la naturaleza misma de la profesión de oceanógrafo de manera impredecible. Este entendimiento me llevó a tener dos carreras paralelas. Como científico, he estudiado las interacciones entre humanos y máquinas, desde barcos blindados durante la Guerra Civil Americana hasta las computadoras y el software que ayudaron a los astronautas del Apolo a aterrizar en la luna.
Como ingeniero, he estado integrando los datos obtenidos de esta investigación en proyectos modernos, desarrollando robots y dispositivos para su uso en interacción cercana con humanos. En algunas historias aparezco como participante, en otras, como observador, y en otras, en ambas formas a la vez. A lo largo de los años de acumular experiencia, buscar y hablar con la gente, me convencí de que debemos cambiar de opinión sobre los robots. Incluso el lenguaje en el que hablamos de ellos está más bien tomado de la ciencia ficción del siglo XX y no tiene nada que ver con los logros técnicos de nuestro tiempo. Por ejemplo, los aviones controlados a distancia se denominan drones, como si fueran autómatas sin sentido, cuando en realidad están estrictamente controlados por humanos.
Los robots a menudo se presentan (y venden) como intermediarios completamente autónomos, pero incluso la limitada autonomía actual a menudo existe solo en la imaginación humana. Los robots que utilizamos de manera tan amplia y variada difícilmente son autómatas de amenazas: están integrados en redes sociales y técnicas al igual que nosotros. A continuación, veremos muchos ejemplos de cómo trabajamos junto con nuestras máquinas. Se trata de combinaciones. Es hora de considerar qué funciones realizan realmente los robots modernos para comprender mejor nuestra relación con estas creaciones a menudo asombrosamente hábiles de manos humanas. Les ofrezco una conclusión empírica respaldada por la investigación: no importa lo que hagan los robots en el laboratorio, en realidad, donde están en juego vidas humanas y recursos reales,nos esforzamos por limitar su autonomía a la gran cantidad de aprobaciones requeridas y oportunidades para la intervención humana.
norte
No estoy argumentando que las máquinas sean inteligentes, y no estoy diciendo que algún día puedan no ser lo suficientemente inteligentes. Más bien, mi argumento es que tales máquinas no están aisladas de los humanos. Enumeremos tres mitos del siglo XX relacionados con la robótica y la automatización. El primer mito es el progreso lineal: la idea de que la tecnología pasará del control humano directo al control remoto, y luego a robots totalmente autónomos. Las palabras del filósofo Peter Singer, que habla constantemente en defensa de los sistemas autónomos, capturan la esencia de este mito. Él escribe que "la capacidad de la gente para mantener el control sobre lo que está sucediendo está siendo anulada tanto por quienes están al mando como directamente por la tecnología, y por lo tanto la gente pronto será excluida del circuito de control". Pero no hay razón para asumirque la evolución seguirá este camino, que la "tecnología misma", como escribe Singer, conducirá a algo similar. De hecho, existe evidencia de que los humanos están entrando gradualmente en un contacto más profundo con sus máquinas.
Constantemente encontramos que las personas, controladas remotamente por ellos y los vehículos autónomos, se desarrollan en paralelo, influyéndose mutuamente. Por ejemplo, los vehículos aéreos no tripulados no podrían volar en el espacio aéreo nacional de los Estados Unidos sin los cambios apropiados en los vehículos tripulados. O para tomar otro ejemplo: los nuevos avances en robótica en el campo del mantenimiento de naves espaciales se reflejan en el trabajo de los astronautas con el telescopio espacial Hubble. Las tecnologías más desarrolladas (y complejas) no son las que funcionan por separado de las personas, sino las que están más profundamente arraigadas en el sistema social y responden más rápidamente a lo que sucede en él. El segundo es el mito de la sustitución, la idea de que las máquinas comenzarán a asumir gradualmente todas las tareas que realizan los humanos. Este mito es una versión del siglo XX de lo que llamo el fenómeno Iron Horse.
Inicialmente, la gente imaginaba que los ferrocarriles negarían la necesidad de caballos, pero los trenes han demostrado ser caballos sin importancia. Los ferrocarriles tomaron su lugar cuando la gente aprendió a hacer cosas completamente nuevas con su ayuda. Los investigadores de factores humanos y los científicos cognitivos sostienen que los autómatas rara vez "mecanizan" las tareas humanas. Más bien, tienden a hacer la tarea más difícil, a menudo aumentando la carga de trabajo (o redistribuyéndola). Las aeronaves controladas a distancia no realizan las mismas tareas que las aeronaves tripuladas; asumen nuevas funciones. Los robots controlados a distancia en Marte no replican el trabajo de los geólogos en el campo;ellos y las personas que trabajan con ellos aprenden a realizar investigaciones de campo en un nuevo entorno utilizando mecanismos remotos.
Por último, tenemos un tercer mito: el mito de la autonomía completa, la idea utópica de que los robots pueden actuar de forma completamente independiente hoy o en el futuro. Sí, los autómatas, por supuesto, pueden asumir algunas de las tareas que antes realizaban los humanos y, de hecho, son capaces de actuar de forma independiente durante un período de tiempo limitado en respuesta a cambios en el entorno. Pero las máquinas que no dependen de la dirección humana son máquinas inútiles. Solo la piedra puede ser verdaderamente autónoma (pero incluso la piedra fue creada y colocada en su lugar gracias a su entorno). La automatización cambia el grado de participación humana en el funcionamiento de una máquina, pero no elimina por completo su necesidad. En cualquier sistema, incluso en un sistema aparentemente autónomo, siempre podemos encontrar una interfaz gracias a la cual una persona puede controlar su trabajo,leer información y gracias a la cual se vuelve útil. Para citar uno de los informes más recientes del Consejo Científico del Departamento de Defensa de EE. UU., "No hay sistemas completamente autónomos, al igual que no hay soldados, marineros, aviadores o infantes de marina completamente autónomos".
Para pensar en términos del siglo XXI y cambiar nuestras opiniones sobre la robótica, la automatización y, especialmente, la nueva idea de autonomía, debemos comprender cómo las intenciones, los planes y las suposiciones humanas cambian la esencia de la máquina que crean. Cada operador, controlando su aparato, interactúa con diseñadores y programadores, cuya presencia en la máquina es invariable, incluso en forma de elementos estructurales o líneas de código creadas hace muchos años. Las computadoras de a bordo del vuelo 447 de Air France podían seguir haciendo volar el avión con datos de velocidad limitada, pero los humanos los habían programado para evitar que lo hicieran. Incluso si el software lleva a cabo acciones que no se pueden predecir, se comporta dentro del marco de los esquemas y restricciones establecidos por sus creadores. Ese,cómo se desarrolló el sistema, por quién y con qué fines, determina sus capacidades y formas de interactuar con las personas que lo utilizan. Mi objetivo es alejarme de estos mitos y comprender el concepto de autonomía en el contexto del siglo XXI.
A través de las historias que siguen a continuación, tengo la intención de remodelar el discurso público y crear un mapa conceptual para una nueva era. Para crear tal mapa, hablando de dispositivos y robots en este libro, operaré con los conceptos de control humano, remoto y autónomo. El primero es un análogo de la palabra no siempre apropiada "tripulado", por lo que en algunos casos "controlado" significará "controlado por una persona en el vehículo". Estos son, por supuesto, tipos de aparatos antiguos y familiares, como barcos, aviones, trenes y automóviles, las máquinas a través de las cuales viaja la gente. Por lo general, los sistemas controlados por humanos no se consideran robots en absoluto, aunque se parecen cada vez más a robots con humanos adentro. Remoto, una forma abreviada de vehículo operado por control remoto, simplemente indica dónde está el operador en relación con el vehículo. Incluso cuando la tarea cognitiva de controlar el sistema remoto coincide casi por completo con la realizada directamente por el operador físicamente presente, la presencia o ausencia del operador y los riesgos asociados adquieren una gran importancia cultural.
El ejemplo más sorprendente es la guerra remota a miles de kilómetros de una zona de guerra. Esta es una experiencia completamente diferente a las tareas del soldado ordinario. Como fenómeno cognitivo, la presencia humana se entrelaza con el aspecto social. La automatización también es una idea del siglo XX y todavía refleja la visión mecanicista de que las máquinas siguen procedimientos predeterminados paso a paso. El término “automatizado” se usa comúnmente para describir computadoras a bordo de aviones, aunque incorporan algoritmos modernos y bastante complejos. La autonomía es la palabra más de moda en estos días y una de las principales prioridades de investigación del cada vez más reducido Departamento de Defensa de EE. UU. Algunos investigadores distinguen claramente entre autonomía y automatización, pero, en mi opinión,la diferencia entre autonomía radica solo en un grado más amplio de toma de decisiones independiente que la simple retroalimentación; Además, el concepto de "autonomía" engloba y une muchas ideas tomadas de la teoría de la inteligencia artificial y otras disciplinas. Y, por supuesto, la idea de autonomía de individuos y grupos se convierte en motivo de constante polémica en política, filosofía, medicina y sociología. Esto no debería sorprender, ya que los técnicos a menudo toman prestados términos de las ciencias sociales para describir sus máquinas.la idea de autonomía de individuos y grupos se convierte en motivo de constante polémica en política, filosofía, medicina y sociología. Esto no debería sorprender, ya que los técnicos a menudo toman prestados términos de las ciencias sociales para describir sus máquinas.la idea de autonomía de individuos y grupos se convierte en motivo de constante polémica en política, filosofía, medicina y sociología. Esto no debería sorprender, ya que los técnicos a menudo toman prestados términos de las ciencias sociales para describir sus máquinas.
Incluso dentro del negocio del diseño, el término "autonomía" puede tener varios significados diferentes. La autonomía en el diseño de naves espaciales consiste en el procesamiento a bordo de los datos necesarios para el funcionamiento de la nave espacial (ya sea una estación automatizada en órbita o un robot móvil), independientemente de tareas como la planificación de la misión. En el Instituto de Tecnología de Massachusetts, donde enseño, el contenido de los cursos de ingeniería autónoma cubre principalmente la "planificación de rutas": cómo llegar de un punto a otro, dedicando una cantidad de tiempo adecuada y sin chocar con nada. En otros sistemas, la autonomía es análoga a la inteligencia, la capacidad de tomar decisiones que una persona tomaría en determinadas situaciones, o la capacidad de actuar en condicionesque no fueron esperados o previstos por los creadores del dispositivo.
Los sumergibles autónomos se denominan así porque funcionan por sí mismos y se oponen a los vehículos controlados a distancia que están conectados a la embarcación mediante cables largos. A pesar de esto, los ingenieros que crean tales submarinos autónomos dicen que sus dispositivos son semiautónomos, ya que solo en casos raros operan sin ningún contacto con el operador. El término "autónomo" implica una mayor libertad de acción. Describe la forma en que se opera el aparato, que es un factor potencialmente volátil. En un estudio reciente se propone el término "autonomía creciente": de esta manera, los autores enfatizan el carácter relativo de la autonomía y afirman que la autonomía "completa", es decir, las máquinas que no necesitan recibir información de una persona, siempre serán inalcanzables.
En este libro, una definición práctica de autonomía será: medios desarrollados por el ser humano para transformar la información del medio ambiente en planes y acciones específicos. La redacción es importante y le da a la controversia un sabor diferente. Pero no deberíamos insistir en ellos. A menudo me baso en el idioma (que a veces puede ser inexacto) que usan las personas con las que trabajo. El objetivo de este libro no está en las definiciones, sino en las descripciones del trabajo real: cómo la gente usa estos sistemas en el mundo real, ganando nuevas experiencias, investigando o incluso luchando y matando. ¿Qué está pasando realmente? Si presta atención a la experiencia de vida de los diseñadores y aquellos que usan robots, entonces todo puede quedar claro. Por ejemplo,la palabra "dron" oculta la naturaleza inherentemente humana de los robots y atribuye sus lados negativos a ideas abstractas como "tecnología" o "autonomía". Cuando examinamos el funcionamiento interno de los operadores Predator, aprendemos que no hacen la guerra con los dispositivos automáticos: los humanos aún inventan, programan y controlan las máquinas.
Existe un largo debate sobre la ética y las políticas del asesinato a distancia por drones con operadores remotos, o el secreto de dichos dispositivos que operan en el espacio aéreo interno de Estados Unidos. Pero estos debates tienen que ver con la naturaleza, el lugar y el momento de las decisiones humanas, no con máquinas autónomas. En consecuencia, la cuestión no está en contrastar los vehículos tripulados y no tripulados y no en oponer los vehículos controlados por el hombre a los autónomos. Las preguntas principales de este libro son: "¿Dónde está la gente?", "¿Quiénes son estas personas?", "¿Qué están haciendo?", "¿Cuándo lo hacen?". ¿Donde esta la gente? (¿En un barco … en el aire … dentro de los autos … o en una oficina?) Las manipulaciones del operador del Predator son similares a las acciones de un piloto de avión: monitorea el estado de los sistemas a bordo, percibe información,toma decisiones y da ciertos pasos. Pero su cuerpo está en un lugar diferente, quizás a varios miles de kilómetros de los resultados de su trabajo. Esta diferencia importa. Las tareas son diferentes. Los riesgos son diferentes, al igual que el equilibrio de poder.
La mente humana es capaz de viajar a otros lugares, otros países, a otros planetas. El conocimiento adquirido a través de la mente y los sentidos es diferente al conocimiento adquirido a través del cuerpo (donde se come, duerme, se comunica, defeca). Decidimos cuál de los dos caminos de obtención de conocimiento seguir en función de la situación concreta, y esto tiene sus consecuencias para quienes se involucran en el proceso. ¿Quienes son esas personas? (Pilotos … ingenieros … científicos … trabajadores no capacitados … gerentes?) Cambie la técnica, y entonces cambiarán tanto la tarea como la esencia del especialista que trabaja en ella. De hecho, cambiará todo el contingente de personas capaces de gestionar el sistema. Se necesitan años de estudio y capacitación para convertirse en piloto, y esta profesión está en la cima de la jerarquía de personal.¿El control remoto de una aeronave requiere las mismas habilidades y características? ¿De qué clases sociales se puede contratar la fuerza laboral?
El aumento de la automatización en los aviones comerciales coincide con la expansión de la demografía de los pilotos tanto en los países industrializados como en todo el mundo. ¿Es un investigador alguien que viaja en condiciones peligrosas o alguien que se sienta en casa frente a una computadora? ¿Tienes que disfrutar de la vida a bordo para convertirte en oceanógrafo? ¿Puedes explorar Marte en silla de ruedas? ¿Cuáles son estos nuevos pilotos, investigadores y científicos que trabajan con acceso remoto? ¿Qué están haciendo? (¿Volar … controlar … procesar información … comunicar?) El esfuerzo físico se convierte en procesar información visual y luego en una tarea cognitiva. Lo que solía requerir fuerza ahora requiere atención, paciencia y reacción rápida. ¿Mantiene el piloto las manos directamente en las palancas de control?cuando vuela el avion? ¿O ingresar comandos de teclado en el piloto automático o en la computadora de vuelo para programar la trayectoria de vuelo de la aeronave? ¿Cuál es el papel de la evaluación de la situación por parte de la persona? ¿Cuál es el papel del ingeniero que programó la computadora de a bordo o del técnico aeronáutico que la instaló?
Cuando lo hacen (En tiempo real … con alguna demora … de antemano, ¿años o meses antes de la misión?) El vuelo de un avión ordinario se realiza en tiempo real: una persona reacciona de inmediato a los eventos que ocurren, y sus acciones tienen un efecto inmediato. En un escenario de vuelo espacial, el dispositivo puede estar en Marte (o acercándose a un asteroide distante), en cuyo caso el dispositivo tardará 20 minutos en recibir el comando y 20 minutos para que el operador vea que algo ha sucedido. O podemos decir que la nave está aterrizando "en modo automático", cuando en realidad entendemos que aterriza bajo el control de programadores que dejaron instrucciones varios meses o años antes de aterrizar (aunque aquí puede que tengamos que hacer ajustes al propio concepto "controlar"). Controlar un sistema automatizado puede parecerse a interactuar con un fantasma. Estas simples preguntas llaman nuestra atención sobre la reasignación y la realineación.
Las nuevas formas de presencia y actividad humanas no son comunes y no equivalen a las antiguas: la identidad cultural de un piloto que arriesga su vida volando sobre el campo de batalla difiere de una persona que controla el vehículo de forma remota desde una estación terrestre. Pero estos cambios también son inesperados: un operador remoto puede sentirse más presente en el campo de batalla que un piloto volando alto sobre él. La información científica sobre la luna puede ser la misma o incluso más completa cuando es recopilada por un vehículo controlado a distancia, y no por una persona que aterrizó directamente en el planeta. Pero la experiencia cultural de la exploración lunar en este caso es completamente diferente. Reemplacemos las nociones pasadas de moda con imágenes ricas y animadas de cómo los humanos realmente crean y controlan robots y sistemas automáticos en el mundo real. Las historias a continuación son científicas, técnicas y humanísticas.
Veremos que las máquinas autónomas, remotas y impulsadas por humanos permiten el movimiento y la reorientación de la presencia y acción humanas en el tiempo y el espacio. La esencia de este libro es la siguiente: no es la oposición misma de los sistemas autónomos y controlados por el hombre lo que es importante, sino más bien las preguntas: "¿Dónde está la gente?", "¿Quiénes son estas personas?", "¿Qué están haciendo y cuándo?". La última, las preguntas más difíciles serán: "¿Cómo cambia la percepción humana?", "¿Y por qué es importante?"
