Dos multimillonarios que han hecho su fortuna en línea, el propietario de Tesla y Space X, Elon Musk, y el fundador de Facebook, Mark Zuckerberg, se han metido en una disputa ausente sobre los peligros de la inteligencia artificial.
Ambos emprendedores confían en que la creación de inteligencia artificial (IA) en toda regla es una cuestión de futuro cercano. Pero Musk cree que es hora de que la humanidad piense en regular los desarrollos en esta área, y Zuckerberg confía en que la inteligencia artificial mejorará significativamente la vida de las personas.
A mediados de julio, Elon Musk habló con los gobernadores de los estados de EE. UU. E instó a las autoridades a pensar en introducir restricciones legislativas al desarrollo en el campo de la IA.
Zuckerberg respondió a la pregunta sobre los peligros de la IA al conversar con los usuarios de Facebook. Se le preguntó sin rodeos si pensaba que los temores de Musk eran válidos. El creador de Facebook dijo que no entendía cómo Musk podía pedir seriamente una desaceleración en curso.
norte
Él respondió tuiteando “Hablé de esto con Mark. Tiene un conocimiento limitado de este tema :
Present Tense publica íntegramente los discursos de los dos multimillonarios.
"Hasta que veamos robots caminando por las calles y matando gente, no sabremos cómo reaccionar". Los miedos de Elon Musk
Video promocional:
Tengo acceso a lo último en inteligencia artificial. Y creo que la gente realmente debería preocuparse por este tema. Sé cómo suena, pero hasta que la gente no vea robots caminando por las calles y matando gente, no sabrán cómo reaccionar.
Parece poco realista. Creo que realmente debemos preocuparnos por la IA. Y creo que este es un caso raro en el que en nuestras restricciones legislativas debemos adelantarnos a la curva y no tomar decisiones más tarde, cuando ya es demasiado tarde.
Por lo general, las restricciones funcionan así: al principio, suceden muchas cosas malas, la sociedad protesta y después de muchos años hay organismos reguladores para esta industria. Las empresas a las que no les gusta el control externo se resisten y eso lleva mucho tiempo. En el pasado, esto ya ha tenido malas consecuencias, pero no representó una amenaza fundamental para la existencia de la humanidad.
La IA es un riesgo fundamental para la existencia humana. Y este es el tipo de riesgo que nunca han tenido ni los accidentes automovilísticos, ni los accidentes aéreos, ni las drogas problemáticas, ni la mala alimentación. No eran una amenaza. Quizás eran para personas específicas, pero no eran un riesgo para toda la sociedad.
La IA es una amenaza existencial fundamental para la civilización, y no creo que los humanos seamos plenamente conscientes de ello. Sí, estar restringido no es divertido. Pero en la industria automotriz estamos controlados por el Departamento de Transporte y muchos otros. Y cada país tiene organismos reguladores. En la industria espacial, estamos controlados por la Administración Federal de Aviación. Pero si le preguntas a una persona común: "Oye, quieres deshacerte de la gestión de la aviación civil y solo esperas que los fabricantes no ahorren en el avión, porque las ganancias han caído este trimestre", la persona dirá: "Por supuesto que no". Suena regular.
Creo que incluso la gente de mentalidad muy liberal diría: "Vigilemos a los fabricantes de aviones, tenemos que asegurarnos de que sean buenos aviones". Buenos coches, cosas así. Entonces, los reguladores tienen un papel que desempeñar. Por supuesto, estoy en contra de un control estricto. Pero creo que será mejor que nos demos prisa con la IA.
Por supuesto, esta [invención de la IA] provocará la pérdida de puestos de trabajo, porque los robots pueden hacer todo mejor que nosotros. Es decir, mejor que todos nosotros. Si. No sé qué hacer al respecto. Este es el peor problema para mí. Sí, de hecho estoy seguro de que necesitaremos el control estatal, porque de esa manera podemos garantizar la seguridad pública.
Las empresas tienen prisa, necesitan tener tiempo para hacer IA, de lo contrario se volverán poco competitivas. Si tu competidor tiene prisa por hacer IA y tú no, te destruirá. Y las empresas dicen: "No queremos morir, parece que también necesitamos crear IA".
norte
Y aquí es donde deberían entrar los controles: "Chicos, todos deben reducir la velocidad y asegurarse de que sea seguro". Si los revisores están convencidos de que es seguro, puede continuar trabajando. De lo contrario, reduzca la velocidad. Pero los auditores deben hacer esto para todos los que lo hacen, de lo contrario, los accionistas dirán: “Oye, ¿por qué no estás desarrollando IA más rápido que tus competidores? ¡Sería necesario!"
Creo que este es el mayor riesgo que corremos como civilización. Creo que el papel del Estado es cuidar de la sociedad y prestar atención a lo que la amenaza. De ahí las limitaciones. Primero, debe aprender tanto como sea posible sobre esto para comprender la naturaleza del problema, observar el progreso y los logros increíbles en el campo de la IA.
El año pasado, en un juego de go que es bastante difícil de ganar, y en el que la gente pensaba que la computadora nunca vencería al mejor jugador humano, o que sucedería dentro de 20 años, el año pasado AlphaGo, creado por DeepMind, la empresa comprada por Google venció al mejor jugador de go del mundo. Y ahora puede jugar con 150 jugadores al mismo tiempo y derrotarlos a todos.
Esta es una tasa de progreso impresionante y aparecerá cada vez con más frecuencia. Robótica, por ejemplo. Hay robots que aprenden a caminar desde cero en horas. Más rápido que cualquier especie. Pero lo más peligroso, y esto es lo más difícil de entender, porque no es algo físico, es inteligencia.
Parecería, bueno, ¿qué puede hacer la poderosa inteligencia [artificial] en la Web? Bueno, por ejemplo, empieza una guerra. Por ejemplo, creando noticias falsas, comunicados de prensa y direcciones postales falsas, y simplemente manipulando información. La pluma es mas poderosa que la espada.
Como ejemplo, quiero enfatizar, no creo que esto haya sucedido realmente, lo digo de manera puramente hipotética, ¿recuerdan ese avión de Malasia que fue derribado sobre la frontera entre Rusia y Ucrania? Esto ha aumentado considerablemente la fricción entre Rusia y la UE.
Imagínese si tuviera inteligencia artificial y su objetivo fuera maximizar el valor de una cartera de acciones, una forma sería comprar acciones de defensa, vender acciones de consumo en corto y comenzar una guerra.
¿Cómo pudo hacerlo? Hackear Malaysia Airlines, servidores de rutas de aviones, trazar rutas sobre una zona de guerra y luego enviar un mensaje anónimo de que "un avión enemigo está sobrevolando".
"Todas las tecnologías pueden usarse para bien y para mal". El optimismo de Mark Zuckerberg
Tengo creencias bastante fuertes sobre esto. Soy muy optimista. Soy una persona optimista en general. Creo que podemos crear cosas que hagan del mundo un lugar mejor y soy particularmente optimista acerca de la IA. Creo que simplemente no entiendo a las personas que siempre son escépticas y se intimidan constantemente con estos escenarios del inminente fin del mundo. Creo que esto es realmente muy malo e irresponsable, porque en los próximos cinco a diez años, la IA podrá mejorar y mejorar la calidad de nuestras vidas.
Si le preocupa la seguridad y la salud de las personas, entonces la IA ya está ayudando a diagnosticar mejor las enfermedades y a seleccionar medicamentos para las personas en función de su enfermedad y de cómo se pueden curar mejor. Muchas personas recibirán una mejor atención médica que nunca.
En cuanto a los vehículos autónomos, serán más seguros que los conducidos por personas. Es solo cuestión de tiempo. Los accidentes automovilísticos siguen siendo una de las principales causas de muerte. Y si pudieran eliminarse con la ayuda de la IA, mejoraría enormemente la vida de las personas.
Cuando escucho el razonamiento, "Oh, ya sabes, la IA va a dañar a las personas en el futuro", creo que, de hecho, toda la tecnología puede usarse tanto para el bien como para el mal. Y debe tener cuidado al crear algo, debe tener cuidado y pensar en cómo se aplicará.
Pero cuando la gente insiste en ralentizar el proceso de IA, lo encuentro muy controvertido. Es muy difícil para mí entender esto, porque si estás en contra de la IA, entonces estás en contra de máquinas más seguras que no tengan accidentes, contra la posibilidad de diagnosticar mejor las enfermedades. Y no entiendo cómo algunas personas pueden hacerlo sin astucia. Así que, en general, soy mucho más optimista acerca de esta [creación de IA] de lo que tal vez mucha gente sea.
