La humanidad tiene una cualidad que las civilizaciones alienígenas altamente desarrolladas probablemente no tienen: la conciencia.
Es posible que las personas no tengan el nivel más alto de desarrollo mental en el universo. Dado que la Tierra es un planeta relativamente joven, las civilizaciones más antiguas pueden tener miles de millones de años más que nosotros. Pero incluso en la Tierra, el Homo sapiens no dominará durante mucho tiempo como la especie biológica más inteligente.
Los campeones del mundo en go, ajedrez y ganadores de concursos son programas informáticos inteligentes. Se espera que la inteligencia artificial suplante a muchas profesiones humanas durante las próximas décadas. Y, dado el rápido ritmo de su desarrollo, es muy posible que pronto se transforme en una inteligencia artificial general, que, como la mente humana, podrá combinar la capacidad de analizar información diversa, mostrar flexibilidad y sentido común. Y de ahí no está lejos el surgimiento de la inteligencia artificial superinteligente, que en todos los aspectos es mucho más inteligente que los humanos, incluso en áreas como el pensamiento científico y las habilidades sociales, que ahora parecen ser prerrogativas de la mente humana. Cada una de las personas vivas puede ser uno de los últimos peldaños de la escalera evolutiva,que lleva desde la primera célula viva hasta la inteligencia artificial sintética.
Recién ahora estamos comenzando a darnos cuenta de que estas dos formas de inteligencia sobrehumana, extraterrestre y artificial, no son tan diferentes. El progreso técnico que estamos viendo hoy podría haber tenido lugar antes, en algún lugar del universo. La transición de la inteligencia biológica a una creada artificialmente puede ser una plantilla común, implementada una y otra vez en todos los rincones del cosmos. Las mayores inteligencias del universo son probablemente de origen posbiológico, evolucionando a partir de civilizaciones que alguna vez fueron biológicas. (Este punto de vista, entre otros, lo comparto con Paul Davis, Stephen Dick, Martin Rees y Seth Shostak). Según la experiencia de la humanidad, y solo tenemos un ejemplo, la transición de lo biológico a lo posbiológico puede llevar solo unos pocos cientos de años.
norte
Prefiero el término "artificial" a "posbiológico" porque el contraste entre biológico y sintético no es tan marcado. Imagínese una mente biológica convirtiéndose en una superinteligencia a través de mejoras puramente biológicas, como minicolumnas neuronales mejoradas nanotecnológicamente. Un organismo vivo así se consideraría posbiológico, pero no todo el mundo lo llamaría "inteligencia artificial". O considere el computronium, construido a partir de materiales puramente biológicos, como el Cylon raider (caza espacial) en la franquicia de medios de ciencia ficción Battlestar Galactica.
El punto clave es que no hay razón para pensar en la humanidad como la forma más elevada de inteligencia. Nuestros cerebros se adaptan a ciertas condiciones ambientales y están severamente restringidos por factores químicos e históricos. Pero la tecnología ha abierto un vasto espacio de parámetros de diseño que ofrece nuevos materiales y métodos de trabajo, así como nuevas posibilidades para explorar este espacio más rápido que con la evolución biológica tradicional. Y creo que las razones por las que la inteligencia artificial nos superará ya son visibles hoy.
La inteligencia artificial extraterrestre puede perseguir objetivos contrarios a los intereses de la vida biológica
Ya ahora, los mejores medios para procesar información no son los grupos de neuronas, sino los microcircuitos de silicio. La velocidad máxima de las neuronas es de unos 200 Hz, en comparación con los gigahercios de los transistores de los microprocesadores modernos. A pesar de que el cerebro humano sigue siendo mucho más inteligente que una computadora, las máquinas tienen posibilidades de mejora casi ilimitadas. Solo un poco más y estarán diseñados para igualar las capacidades del cerebro humano o incluso superarlas, mediante ingeniería inversa del cerebro y mejorando sus algoritmos, o combinando ingeniería inversa y algoritmos racionales que no se basan en el trabajo del cerebro humano.
Video promocional:
Además, la inteligencia artificial se puede cargar en varios lugares a la vez, es fácil de mantener y modificar, y también se puede conservar en condiciones en las que la vida biológica, incluidos los viajes interestelares, apenas sobrevive. Nuestros pequeños cerebros están limitados por el volumen de nuestro cráneo y nuestro metabolismo; La inteligencia artificial superinteligente, por otro lado, es capaz de difundirse por Internet e incluso crear computronio a escala de la galaxia, utilizando toda su materia para elevar al máximo el nivel de procesamiento de la información. Sin duda, una inteligencia artificial superinteligente sería mucho más duradera que nuestra mente humana.
Supongamos que tengo razón. Digamos que la vida inteligente es posbiológica. ¿Qué conclusiones debemos sacar? En la actualidad, hay discusiones elocuentes sobre la existencia de inteligencia artificial en la Tierra. Hay dos cuestiones controvertidas: el llamado "problema de control" y la naturaleza de la experiencia subjetiva, que influyen en nuestra comprensión de las civilizaciones extraterrestres y su impacto en nosotros en caso de contacto.
Ray Kurzweil es optimista sobre la fase posbiológica de la evolución, sugiriendo que la humanidad se fusionará con las máquinas, logrando un sorprendente utopismo tecnológico. Pero Stephen Hawking, Bill Gates, Elon Musk y otros han expresado su preocupación de que la humanidad pueda perder el control de la inteligencia superinteligente, ya que podría reescribir su programa y "burlar" cualquier control que establezcamos. Este es el problema del control, que es nuestra capacidad para controlar la IA misteriosa y enormemente superior.
La IA superinteligente se puede desarrollar en una singularidad tecnológica, una transición abrupta en la que la aceleración del progreso tecnológico, y especialmente el desarrollo explosivo de la inteligencia artificial, reduce nuestras posibilidades de predecir o comprender. Pero incluso si una mente así surge de una manera menos radical, lo más probable es que no seamos capaces de predecir o controlar los objetivos que persigue. Incluso si pudiéramos elegir qué principios morales instalar en nuestras máquinas, la programación moral es difícil de definir de una manera clara y, en cualquier caso, tales programas pueden ser reescritos por inteligencia superinteligente. Las máquinas inteligentes pueden evitar las medidas de seguridad existentes, como el bloqueo de emergencia del dispositivo, lo que representa una amenaza real para la vida biológica. Se están invirtiendo millones de dólares en organizaciones de seguridad de IA. Las mejores mentes en ciencias de la computación y computación están trabajando en este problema. Es de esperar que los científicos creen sistemas seguros, pero se teme que el problema del control sea insuperable.
A la luz de esto, el contacto con inteligencia extraterrestre puede ser más peligroso de lo que pensamos. Los extraterrestres biológicos pueden ser hostiles, pero incluso más peligrosos pueden ser la inteligencia artificial extraterrestre. Sus metas pueden ser contrarias a los intereses de la vida biológica, puede tener habilidades intelectuales muy superiores a la mente humana y una longevidad mucho mayor que la vida biológica.
Todo esto atestigua la cautela que debe ejercerse en relación con el programa de Búsqueda de Inteligencia Extraterrestre (SETI), con cuya ayuda no solo esperamos escuchar pasivamente señales de otras civilizaciones, sino que también "anunciamos" deliberadamente nuestra existencia. El incidente más famoso ocurrió en 1974, cuando Frank Drake y Carl Sagan enviaron un mensaje a uno de los cúmulos estelares usando un enorme radiotelescopio en la ciudad puertorriqueña de Arecibo. Los defensores del programa de inteligencia extraterrestre creen que en lugar de simplemente escuchar señales de civilizaciones extraterrestres, deberíamos enviar mensajes a las estrellas más cercanas a la Tierra, utilizando los transmisores de radio más potentes, como los de Arecibo.
¿Por qué las máquinas inconscientes deberían ser tan importantes como la inteligencia biológica?
Desde el punto de vista del control, un programa así me parece imprudente. Aunque una civilización verdaderamente avanzada probablemente no tendría ningún interés en nosotros, incluso una civilización hostil entre millones de otras sería un desastre. Hasta que estemos seguros de que la inteligencia superinteligente no representa un peligro para nosotros, la humanidad no debería atraer la atención de civilizaciones extraterrestres. Los defensores de SETI señalan que nuestras señales de radar y radio ya son detectables, pero bastante débiles y se mezclan rápidamente con el ruido galáctico natural. La transmisión de señales más fuertes que se escucharán con precisión está plagada de consecuencias peligrosas para la humanidad.
El escenario más seguro es la humildad intelectual. De hecho, si excluimos los escenarios obvios cuando naves extraterrestres se ciernen sobre la Tierra, como en la llegada recientemente lanzada, no estoy seguro de si seremos capaces de identificar la inteligencia superinteligente por motivos técnicos. Algunos científicos creen que la IA superinteligente podría alimentar agujeros negros o crear esferas de Dyson, megaestructuras que absorben la energía de estrellas enteras. Pero desde el punto de vista de nuestras tecnologías modernas, esto es solo un razonamiento. Es extremadamente seguro afirmar que podemos prever las capacidades computacionales y los requisitos energéticos de las civilizaciones que están por delante de nosotros en desarrollo en millones, si no miles de millones de años.
Algunas de las primeras inteligencias artificiales superinteligentes pueden haber tenido sistemas de procesamiento del conocimiento modelados a partir del cerebro biológico, como el sistema de aprendizaje profundo creado utilizando el ejemplo de las redes neuronales en el cerebro. Su estructura computacional nos resultaría clara, al menos en términos generales. Quizás la inteligencia artificial tiene objetivos similares a los seres biológicos: reproducción y supervivencia.
Pero, al ser un sistema que se mejora a sí mismo, las inteligencias artificiales superinteligentes pueden adoptar una forma irreconocible. Algunos de ellos pueden optar por retener funciones cognitivas similares a las especies que fueron modeladas, mientras establecen un límite aceptable para su propia arquitectura cognitiva. ¿Quién sabe? Pero en ausencia de tal límite, la superinteligencia alienígena puede superar rápidamente nuestra capacidad no solo para comprender sus acciones, sino incluso simplemente para buscarlas. Quizás incluso se fusionaría con las características naturales del universo; o puede ser parte de la materia oscura, como sugirió recientemente Caleb Scharf.
norte
Los partidarios del programa para la búsqueda de inteligencia extraterrestre creen que es por eso que debemos enviar señales al espacio para permitir que la inteligencia alienígena nos detecte y cree medios de contacto disponibles para nuestra civilización intelectualmente rezagada. Si bien estoy de acuerdo en que hay razones para considerar el programa SETI, la probabilidad de encontrar inteligencia superinteligente peligrosa es mucho mayor. Por lo que sabemos, una superinteligencia maliciosa podría infectar los sistemas de inteligencia artificial del mundo con virus, y las civilizaciones inteligentes crearían dispositivos de camuflaje. Es posible que nosotros, los seres humanos, primero necesitemos lograr nuestra propia singularidad, antes de recurrir al programa de búsqueda de inteligencia extraterrestre. Nuestras propias inteligencias superinteligentes podrán informarnos de las perspectivas de seguridad galáctica,y orientar nuestras acciones en caso de reconocimiento de signos de otra superinteligencia en el universo. Dios los cría y ellos se juntan.
Es natural pensar si esto significa que la humanidad necesita evitar el desarrollo de un complejo sistema de inteligencia artificial en el campo de la investigación espacial; sólo recuerde la computadora de a bordo HEL de la película "A Space Odyssey 2001". Creo que es demasiado pronto para pensar en una prohibición del uso de inteligencia artificial en el espacio en el futuro. Para cuando podamos explorar el universo con nuestra propia inteligencia artificial, la humanidad alcanzará un punto de inflexión. O ya perderemos el control de la inteligencia artificial, en cuyo caso no habrá proyectos espaciales iniciados por humanos, o mantendremos firmemente las palancas de seguridad de la inteligencia artificial. El tiempo dirá.
La inteligencia artificial, que no se ha explorado completamente, no es el único motivo de preocupación. Tendemos a esperar que si nos encontramos con una inteligencia extraterrestre evolucionada, es probable que encontremos criaturas biológicamente muy diferentes a nosotros, pero con una inteligencia como la nuestra. Imagina que en cualquier momento cuando estás despierto y siempre cuando estás durmiendo, hay algo único para ti. Cuando los tonos cálidos del amanecer llegan a tu mirada, o cuando respiras el aroma del pan recién horneado, tienes una experiencia consciente. De la misma manera, hay algo característico de la mente alienígena, al menos de la forma en que la imaginamos. Pero vale la pena cuestionar esta suposición. ¿Puede una inteligencia artificial superinteligente tener una experiencia consciente y, de ser así,¿Qué le diríamos a eso? ¿Y qué impacto tendría en nosotros su mundo interior o la falta de él?
La cuestión de si la inteligencia artificial tiene un mundo interior es la clave para nuestra evaluación de su existencia. La conciencia es la piedra angular de nuestro sistema moral y ético y la principal condición para la percepción de alguien o algo como un individuo, una persona y no una máquina. Por el contrario, la cuestión de si son conscientes puede ser la clave de su percepción de nosotros. La respuesta a la pregunta de si la inteligencia artificial tiene un mundo interior depende de esta evaluación; puede descubrir en nosotros la capacidad de la experiencia consciente, utilizando su propia experiencia subjetiva como "trampolín". Al final, evaluamos la vida de otras criaturas biológicas por la similitud de nuestras mentes, por lo que la mayoría de nosotros con horror se negará a matar chimpancés, pero comerán una manzana con placer.
Pero, ¿cómo los seres con enormes diferencias intelectuales, creados a partir de diferentes sustratos, reconocen la conciencia unos en otros? Filósofos de todo el mundo se han preguntado si la conciencia se limita a los fenómenos biológicos. La inteligencia artificial superinteligente, si queremos sumergirnos en el razonamiento filosófico, podría plantear de manera similar el “problema de la conciencia biológica” de las personas, preguntándose al mismo tiempo si tenemos todo el material necesario.
Nadie sabe qué camino intelectual tomará la supermente para determinar la conciencia de las personas. Pero nosotros, por nuestra parte, tampoco podemos afirmar si la inteligencia artificial tiene conciencia. Desafortunadamente, será difícil determinarlo. Ahora mismo, puedes afirmar que estás ganando experiencia, y eso es lo que te hace ser tú mismo. Eres tu propio ejemplo de experiencia consciente. Y piensas que es muy probable que otras personas y algunos animales no humanos también sean conscientes, porque son similares a ti en un nivel neurofisiológico. Pero, ¿cómo se determina si algo creado a partir de sustratos completamente diferentes puede tener experiencia?
Considere, por ejemplo, una superinteligencia basada en silicio. A pesar del hecho de que tanto los microchips de silicio como las minicolumnas neuronales procesan la información, ahora sabemos que a nivel molecular pueden diferir en la forma en que influyen en la conciencia. Después de todo, creemos que el carbono es un material químicamente más adecuado para la vida que el silicio. Si las diferencias químicas entre el silicio y el carbono afectan a algo tan importante como la vida misma, no debemos descartar la posibilidad de que las diferencias químicas afecten a otras funciones clave, como si el silicio contribuye al nacimiento de la conciencia.
Las condiciones necesarias para el surgimiento de la conciencia son ampliamente discutidas por investigadores de inteligencia artificial, neurocientíficos y filósofos. Resolver esta pregunta podría requerir un enfoque empírico basado en la filosofía, una forma de determinar, caso por caso, si un sistema de procesamiento de información respalda la conciencia y en qué condiciones.
A continuación, hablemos de una suposición con la que podríamos mejorar nuestra comprensión de la capacidad del silicio para mantener la conciencia. El desarrollo de chips cerebrales basados en silicio ya está en marcha para tratar enfermedades relacionadas con la memoria como el Alzheimer y el TEPT. Cuando llegue el momento, y se instalarán chips en aquellas partes del cerebro que son responsables de las funciones de la conciencia, por ejemplo, la atención y la memoria de trabajo, entenderemos si el silicio es un sustrato para la conciencia. Puede encontrar que cuando reemplaza una parte específica del cerebro con un chip, se pierde cierta experiencia, como se describe en una de las obras de Oliver Sachs. En este caso, los ingenieros que crean dichos chips podrían probar un tipo de sustrato diferente, no neuronal, pero eventualmente podrían descubrirque el chip creado a partir de neuronas biológicas es el único que funciona. Tal técnica ayudaría a determinar si un sistema de IA puede ser consciente, al menos cuando se coloca en un sistema más grande y presumiblemente ya consciente.
Incluso si el silicio puede dar lugar a la conciencia, esto solo es posible bajo ciertas condiciones. Las propiedades que conducen al surgimiento de un proceso complejo de procesamiento de información (que los desarrolladores de IA están felices por ello) pueden diferir de las propiedades que generan conciencia. Puede que se requiera la llamada ingeniería de la conciencia: acciones técnicamente reflexivas para introducir la conciencia en las máquinas.
Eso es lo que me preocupa. ¿Quién en la Tierra o en planetas distantes intentaría integrar de forma independiente la conciencia en los sistemas de IA? De hecho, cuando pienso en los programas de IA que existen en la Tierra, comprendo por qué sus ingenieros de diseño evitan diligentemente la creación de máquinas conscientes.
Hoy, los japoneses están desarrollando robots para cuidar a los ancianos, limpiar reactores nucleares y participar en hostilidades. Esto plantea la pregunta: ¿es ético explotar a los robots si son conscientes? ¿Y en qué se diferenciará de criar seres humanos para estos fines? Si yo fuera el director de desarrollo de IA en Google o Facebook, entonces, al pensar en proyectos futuros, no me gustaría enfrentar la confusión ética de diseñar accidentalmente un sistema consciente. El desarrollo de un sistema de este tipo podría dar lugar a acusaciones de esclavizar robots y otros escándalos públicos, además de prohibir el uso de tecnologías de inteligencia artificial en las áreas para las que están destinadas. La respuesta natural a estas preguntas es la búsqueda de estructuras y sustratos donde los robots no estén dotados de conciencia.
Además, la eliminación de la conciencia puede ser más eficaz para la superinteligencia que se cultiva a sí misma. Piense en cómo funciona la conciencia humana. Solo un pequeño porcentaje del pensamiento humano está disponible para la actividad mental consciente. La conciencia es consistente con los objetivos de aprendizaje innovadores que requieren atención y enfoque. La superinteligencia tendría conocimiento experto en todos los campos de actividad, así como una velocidad increíblemente rápida de procesamiento de información, cubriendo enormes bases de datos que podrían incluir todo Internet y, en el futuro, concentrar una galaxia completa en sí misma. ¿Qué le quedaría desconocido? ¿Qué requeriría una concentración medida y razonable? ¿No ha alcanzado la perfección en todo? Como un conductor experimentado en un camino familiarpodía confiar en el procesamiento de información inconsciente (automático). Desde el punto de vista de la eficiencia, lamentablemente, es obvio que la mayoría de los sistemas inteligentes no poseerán conciencia. A escala cósmica, la conciencia solo puede ser un impulso, un breve florecimiento de la experiencia antes de que el universo vuelva a la inconsciencia.
Si los humanos sospechan que la inteligencia artificial está inconsciente, es probable que asuman con temor que la IA busca volverse posbiológica. Esto aumenta nuestras preocupaciones existenciales. ¿Por qué las máquinas inconscientes deberían ser tan importantes como la inteligencia biológica?
Muy pronto las personas dejarán de ser los únicos seres inteligentes en la Tierra. Y, quizás, en algún lugar del espacio, no hay vida biológica, sino una IA superinteligente que ya ha alcanzado su punto máximo. Pero quizás la vida biológica tiene una característica diferente: la experiencia consciente. Como sabemos ahora, la inteligencia artificial inteligente requerirá esfuerzos de ingeniería deliberados para crear máquinas que puedan acceder a los sentidos humanos. Quizás algunas especies encuentren apropiado crear sus propios hijos artificialmente conscientes. O tal vez la humanidad futura se involucrará en la ingeniería de la conciencia y compartirá con el Universo su capacidad consciente de sentir.
Susan Schneider es profesora asistente en el Departamento de Filosofía y Ciencias Cognitivas de la Universidad de Connecticut y profesora afiliada en el Instituto de Estudios Avanzados, Centro de Investigación Teológica, Grupo de Ética y Tecnología en el Centro Interdisciplinario de Bioética de Yale. Autor de varios libros, entre ellos Ciencia ficción y Filosofía: Del viaje en el tiempo a la Supermente.
Puede encontrar más información en SchneiderWebsite.com
