Preocupado por el desarrollo de la inteligencia artificial creada por él, Google está desarrollando un "botón" que puede apagar la IA en caso de peligro y amenaza para una persona. Esta noticia, difundida por los periodistas en junio de 2016, aumentó la ansiedad sobre las relaciones futuras entre robots y humanos.
En 2016, publicaciones occidentales autorizadas informaron que Google estaba desarrollando un "gran botón rojo" diseñado para detener la IA en caso de que la inteligencia artificial amenazara a la humanidad. Según los periodistas, para ello especialistas de la división de Google - Deep Mind - se han asociado con científicos de la Universidad de Oxford. Se han destinado 400 millones de libras esterlinas a la investigación. “Si el agente (IA) trabaja en tiempo real bajo control humano, el operador necesita un gran botón rojo que se puede presionar para evitar acciones no deseadas por parte del agente”, explican los medios en línea.
De hecho, anteriormente se publicó en la Web un documento titulado "Agentes interrumpibles con seguridad". Sus autores son Lauren Orso de Deep Mind y Stuart Armstrong de la Universidad de Oxford. El documento describe un posible futuro vecindario de personas con inteligencia artificial, oponiéndose a los deseos y aspiraciones de la humanidad como la fantástica Skynet y Terminator. Esto no parece una locura teniendo en cuenta que no hace mucho tiempo el bufete de abogados estadounidense más grande y antiguo, Baker & Hostetler, "contrató" a un abogado robot para que lo ayudara con el procedimiento. La inteligencia artificial está impulsada por la supercomputadora IBM Watson. En cuanto a Deep Mind, antes el verdadero héroe de las noticias era la inteligencia artificial desarrollada por la empresa Alpha Go, que venció a uno de los jugadores de go más fuertes, el Gran Maestro Lee Sedol. Esta victoria fue el motivo de un fuerte impulso por parte de Corea del Sur para desarrollar su propia inteligencia artificial y asignar importantes fondos del presupuesto para ello. Cabe agregar que el responsable de Deep Mind, Demis Hassabis, instó a las personas a tener cuidado con la información que se divulga al público. En su cuenta de Twitter, señaló que, a pesar de los rumores que recorren Internet, la empresa aún no predice el futuro de la inteligencia artificial Alpha Go. “Según decidamos, haremos un comunicado oficial”, explicó el titular de la empresa.la compañía aún no predice el futuro de la inteligencia artificial Alpha Go. “Según decidamos, haremos un comunicado oficial”, explicó el titular de la empresa.la compañía aún no predice el futuro de la inteligencia artificial Alpha Go. “Según decidamos, haremos un comunicado oficial”, explicó el titular de la empresa.
El campeón europeo Fan Hui jugando a go / wikipedia.
norte
Elon Musk: "Ya somos cyborgs"
La preocupación por las próximas complicaciones en la relación entre robots y humanos está aumentando. Además, son los principales partidarios del progreso científico y tecnológico los que hablan de esta ansiedad. Por ejemplo, Elon Musk, quien anunció en agosto de 2014 que la tecnología de inteligencia artificial es "más peligrosa que las armas nucleares". Y unos meses más tarde, hablando con estudiantes del Instituto de Tecnología de Massachusetts, el creador de Tesla y SpaceX llamó a la IA "la mayor amenaza para nuestra existencia". Al mismo tiempo, a finales de 2015, el propio Musk cofundó la empresa de investigación sin ánimo de lucro OpenAI, explicando su objetivo por la necesidad de abrir el proceso de creación de inteligencia artificial. "Si tienes un 'botón' que puede hacer cosas malas en el mundo, no quieres compartirlo", explicó Musk.
A finales de mayo de 2016, hablando en la conferencia anual de Recode, Elon Musk habló sobre un determinado proyecto, o tal vez solo la idea del "cordón neural", que debería reducir el riesgo de que la humanidad se convierta en un juguete favorito en las manos de hierro de los robots. “Por ejemplo, tienes el sistema límbico, la corteza cerebral, y este es el tercer sistema, la capa digital que funciona bien con tu cuerpo. Como el cerebro trabaja en simbiosis con el sistema límbico, esta capa digital funcionará en armonía con el resto del cuerpo”, dijo Musk. Este sistema neuronal debería aumentar el nivel de recepción y transmisión de información por parte de una persona, la capacidad de procesarla. "Ya somos cyborgs", dijo Musk, y explicó que Internet, los teléfonos móviles y otros dispositivos, de hecho, han desarrollado superpoderes en los seres humanos. “Pero estamos limitados a la hora de recibir y transmitir información. Especialmente en el programa ",Musk agregó. Las personas pueden recibir e interpretar una cantidad bastante grande de información, pero generar esta información es mucho más difícil. Una persona solo puede hablar rápidamente, escribir rápidamente o escribir a máquina. “Neural lace”, al conectar a una persona a un sistema de comunicación digital, podría superar esta limitación biológica. Musk no dio más detalles sobre si este "cordón" se implantaría en el cuerpo o se haría crecer de forma natural, por ejemplo, mediante la edición de genes, pero señaló que podría pasar "a través de venas y arterias" que proporcionan vías para las neuronas.podría superar esta limitación biológica. Musk no dio más detalles sobre si este "cordón" se implantaría en el cuerpo o se haría crecer de forma natural, por ejemplo, mediante la edición de genes, pero señaló que podría pasar "a través de venas y arterias" que proporcionan vías para las neuronas.podría superar esta limitación biológica. Musk no dio más detalles sobre si este "cordón" se implantaría en el cuerpo o se cultivaría de forma natural, como mediante la edición de genes, pero señaló que podría pasar "a través de venas y arterias" que proporcionan vías para las neuronas.
Video promocional:
Sin embargo, también hay un punto de vista opuesto. El presidente de la junta directiva de Alphabet (Google), Eric Schmidt, en una entrevista con Tech Insider, se mostró escéptico sobre los discursos tanto de Elon Musk como de su colega Stephen Hawking, quien también había advertido previamente sobre la posible hegemonía de la IA. “Stven Hawking es ciertamente un genio, pero no es un experto en informática. Elon también es una persona maravillosa, pero también es más un físico que un científico de la computación”, dijo Schmidt. Sobre un escenario potencial del futuro, en el que los robots destruyen a la humanidad, afirmó lo siguiente: “Tal escenario simplemente describe el escenario en el que las computadoras se vuelven tan inteligentes que en algún momento, debido a, digamos, un error en el programa, deciden destruir a la humanidad. Mi pregunta para ti es esta: ¿no creesque la gente se dará cuenta de esto y comenzará a apagar las computadoras? Tendremos una carrera entre personas que apagan las computadoras y la inteligencia artificial intenta frenéticamente moverse a un dispositivo que aún no se ha apagado. Y así sucesivamente hasta la última computadora. Y no podemos apagarlo. Es una pelicula, una pelicula. El estado actual de las cosas en el mundo no respalda tal escenario.
Robotización a gran escala
Neil Jacobstein, copresidente de la Singularity University de la NASA, dijo a PCmag que las empresas globales han invertido más de $ 3 mil millones en investigación de IA entre 2011 y 2015. Además de los grandes inversores, incluidos Facebook y Google, también hay una serie de nuevas empresas menos conocidas. Por ejemplo, Brighterion se dedica al uso de inteligencia artificial en el análisis de la nube y la IoT industrial, Feedzai entrena robots para detectar fraudes en transacciones bancarias, Experfy usa IA para resolver de manera efectiva los problemas comerciales de los comerciantes, etc. Es decir, la escala de desarrollo de la inteligencia artificial en el mundo ahora no se limita a una docena de actores importantes en el mercado de TI, es mucho mayor. En su entrevista, Jacobstein esencialmente continuó el pensamiento de Musk,insistiendo también en la necesidad de desarrollar el cerebro humano para contrarrestar el sintético. “Todos tenemos los mismos problemas. El cerebro está limitado en velocidad, memoria, ancho de banda y sesgos”, dijo Neil Yakobstein.
Según el científico, la tendencia en el desarrollo de la IA se está moviendo ahora hacia la creación de un neocórtex artificial (una nueva corteza, que constituye la mayor parte de la corteza en humanos, a diferencia de los mamíferos inferiores) y el hipocampo. Por lo tanto, el cerebro del robot será como un humano, solo que muchas veces más poderoso y rápido. “La IA se está volviendo más poderosa y debemos decidir cómo nos comportaremos en el marco de la evolución conjunta en curso. Tanto en términos de las tareas que establecemos para la inteligencia artificial, como en términos de cómo queremos construir nuestras relaciones sin perder la autoestima humana”, explicó Yakobstein. Según el científico, inicialmente, la interacción de humanos y robots será un "proceso de élite", pero luego entrará en la vida cotidiana, como antes lo hicieron los teléfonos móviles. “A través de un teléfono inteligente, su cerebro obtiene acceso a todo el conocimiento del mundo y a una poderosa inteligencia artificial,procesamiento de información digital. Ya tienes una simbiosis con la IA”, concluyó Jacobstein.
norte
Carne de carne
Sin embargo, puede resultar que la amenaza para la humanidad no provenga de un conjunto de glándulas y cables, sino de "carne de carne" orgánica. A finales de mayo de 2016, la comunidad científica mundial estaba intrigada por el pasado "encuentro secreto en Harvard", cuyos participantes quieren crear un genoma humano artificial y, en consecuencia, el propio ser humano desde cero. Los detalles de la reunión en las páginas de Live Science fueron contados por Jeff Bessen, graduado de la Universidad de Harvard, biólogo molecular especializado en edición de genes. Al final resultó que, no estamos hablando de una creación de Frankenstein. Más de 130 científicos, industriales y especialistas en ética se reunieron en Harvard para discutir el Proyecto Genoma Humano (HGP). El nombre es, de hecho, una referencia a un proyecto similar,como resultado de lo cual en 2003 fue posible secuenciar completamente el genoma humano. Ese proyecto comenzó en 1990 bajo la dirección de James Watson bajo los auspicios de la Organización Nacional de Salud de EE. UU., Y su objetivo era determinar la secuencia de nucleótidos que componen el ADN e identificar entre 20 y 25 mil genes en el genoma humano.
La creación del genoma tiene su propia historia. En 2010, el biólogo estadounidense John Craig Venter descifró el primer genoma de un microorganismo, la bacteria Haemophilus influenzae, y anunció la creación de una célula artificial. Venter introdujo el primer organismo artificial del mundo, una bacteria sintética llamada Cynthia. Desde entonces, los científicos han intentado sistemáticamente avanzar más en la investigación, incluido el organizador de la reunión de Harvard, el genetista estadounidense Jeff Bouquet, quien fue el primero en crear un cromosoma eucariota funcional contenido en la levadura.
Sin embargo, ese trabajo tiene un costo. La creación de una bacteria sintética para el mismo Venter costó más de $ 40 millones y tomó años de trabajo. Los expertos creen que en las condiciones actuales, la producción de un genoma humano costará alrededor de $ 90 millones. Sin embargo, si el negocio se “pone en marcha” y se aplican las tecnologías probadas, para el 2036 esta cantidad puede reducirse a $ 100 mil. Además, existe un problema industrial: la capacidad de todos los laboratorios que operan en el mundo, según Jeff Bessen, hoy en día no es suficiente para crear un genoma humano.
De aprender a crear
Como señaló Jeff Bessen, en la reunión de Harvard, los científicos pidieron un cambio de leer el genoma a crearlo a partir de los componentes básicos del ADN. Según las ideas de los autores intelectuales de HGP, incluido el genetista George Church, su colega estadounidense Jeff Bouquet y la abogada de biotecnología de Autodesk Nancy Kelly, es posible "sintetizar completamente el genoma humano en una línea celular". El proceso de creación de ADN artificial, según Jeff Bessen, es similar al proceso de impresión offset: lo principal es poner todo en el orden correcto. El resultado es químicamente idéntico a la macromolécula natural. El mercado mundial de ADN sintetizado (estamos hablando de la creación existente de elementos de ADN individuales, no de un genoma completo) se estima ahora en alrededor de mil millones de dólares al año. Una macromolécula artificial tiene aplicaciones prácticas:este es el cultivo de órganos humanos para trasplantes, la creación de inmunidad a virus, enfermedades oncológicas, la creación de nuevos medicamentos, etc. Los asistentes a Harvard expresaron la esperanza de que su trabajo ayude a "desarrollar una terapia más segura, menos costosa y más efectiva".
El halo secreto alrededor de esta reunión se puede explicar fácilmente: el proyecto es lo suficientemente complejo éticamente y no se sabe cómo las ideas de los científicos serán percibidas por el público en general. En particular, ahora los organizadores han vetado cualquier comentario sobre la reunión antes de la publicación oficial de los resultados de la reunión.
Realmente hay muchas preguntas para HGP. "¿Qué tan bien será estudiar y luego crear el genoma de Einstein?" - Atónito bioingeniero de Stanford Drew Andy. El Dr. Church y el bioingeniero Andy, por cierto, han estado trabajando juntos durante mucho tiempo; juntos crearon la empresa Gen9, cuya especialización se desprende del nombre. Algunos expertos creen que la participación de empresarios en la reunión y la supuesta financiación privada del proyecto conducirá en última instancia a "la privatización de la tecnología de modificación genética". También se ha sugerido que los investigadores están tramando planes subterráneos para clonar humanos utilizando ADN sintético. Según Jeff Bessen, la producción química del genoma humano, la colección de instrucciones genéticas contenidas en cada célula, puede dar un nuevo significado al término "bebé probeta". "Si existiera tal tecnología,el genoma de cualquier persona se puede descifrar y luego sintetizar a petición de alguien”, advierte Bessen.
Clones del futuro
El miedo no es realmente infundado. Los científicos chinos, que presentaron un proyecto de "fábrica de clones" a finales de 2015, anunciaron más tarde que estaban dispuestos a clonar personas. El Grupo Boyalife de China construirá la instalación de clonación más grande del mundo en colaboración con la Fundación de Investigación de Biotecnología Sooam de Corea del Sur y la Academia de Ciencias de China en Tianjin, China del Norte. El volumen de producción de vacas clonadas, según los científicos, para 2020 ascenderá a un millón por año. En el futuro, la "fábrica de clones" también tiene la intención de participar en la producción de caballos de carreras y perros policía con habilidades especializadas (mayor sentido del olfato y búsqueda). Otra área de interés para la empresa es la clonación de primates para experimentos médicos. Por lo tanto, la declaración de la dirección de la futura fábrica sobre su disposición para pasar de primates a humanos se volvió lógica.“La tecnología ya está ahí. Si está oficialmente permitido, no creo que nadie se las arregle mejor que Boyalife”, dijo a los periodistas Xu Xiaochong, director ejecutivo de la futura fábrica. Destacó que la empresa no ha realizado ningún experimento en el campo de la clonación humana.
Y, sin embargo, a pesar de la necesidad de abordar cuestiones éticas, según Bessen, la creación del genoma humano sigue siendo una quimera. “Hoy en día, no existe una forma eficaz de trasplantar un genoma artificial a una célula humana. Incluso los logros más impresionantes en este sentido, como el proyecto "levadura" del Dr. Bouquet, son cientos de veces más pequeños que el desafío actual. Fabricar el genoma de la mosca de la fruta o del nematodo es diez veces más fácil y seguro en términos de ética, puede responder a las mismas preguntas que ellos quieren hacerse sintetizando el genoma humano”, opina el biólogo molecular.
La "Última Cena" de Harvard, dijo, expuso otro problema de la ciencia moderna: su conservadurismo. Los periodistas conocieron el proyecto en Internet, en las redes sociales. La información oficial tiene un largo camino por recorrer. “Una vez, mis colegas y yo esperamos seis meses para la publicación de la publicación científica requerida”, agrega Bessen. Según el científico, sus colegas ahora necesitan críticamente encontrar un equilibrio entre el control de las publicaciones y el derecho de los periodistas a hacer su trabajo, lo que en última instancia afecta la información científica.
Alexander Kornev
