Imagínese que un día algún prodigio inventaría una tecnología que permite que personas u objetos materiales atraviesen las paredes y publique instrucciones en Internet sobre cómo construir a bajo precio una máquina milagrosa con materiales domésticos comúnmente disponibles. ¿Cómo cambiaría el mundo?
Es probable que muchas industrias se vuelvan significativamente más productivas. Poder atravesar paredes en lugar de tener que usar puertas facilitaría a las personas moverse por las oficinas, mover mercancías en los almacenes y realizar innumerables tareas domésticas diarias. Sin embargo, las consecuencias negativas podrían superar a las positivas. Mantener los objetos de valor bajo llave perdería todo sentido. Cualquiera podría entrar fácilmente al almacén, entrar en una caja fuerte de un banco o en una casa.
La mayoría de los métodos que utilizamos para proteger la propiedad privada involucran muros de una forma u otra, por lo que todos serían inútiles de la noche a la mañana. Los ladrones actuarían con impunidad hasta que la sociedad encontrara formas alternativas de prevenir tales delitos. Un colapso económico o un caos social podría ser el resultado de tal desarrollo de eventos.
Lo anterior ilustra un principio general: la innovación tecnológica no siempre es beneficiosa para la sociedad, al menos a corto plazo. Las tecnologías son capaces de crear externalidades negativas, externalidades. Este término económico significa el daño causado a terceros o personas. Si estas externalidades negativas superan la utilidad de la tecnología en sí, la invención en realidad hace que el mundo sea peor, no mejor, al menos por un tiempo.
norte
El aprendizaje automático, especialmente una variación conocida como aprendizaje profundo, es posiblemente el avance tecnológico más importante del planeta. Brinda a las computadoras la capacidad de realizar muchas tareas que anteriormente solo los humanos podían hacer: reconocer imágenes, conducir automóviles, negociar en el mercado de valores y más. Esto ha generado ansiedad en algunas personas de que el aprendizaje automático puede hacer que los humanos sean innecesarios e inútiles en el lugar de trabajo. Y esto es realmente posible, pero existe un peligro mucho más serio del aprendizaje automático que no ha recibido suficiente atención hasta ahora. La cuestión es que si las máquinas son capaces de aprender, pueden aprender a mentir.
La gente hoy en día puede falsificar imágenes como fotografías, pero este es un proceso laborioso y complejo. Y la falsificación de una imagen de voz o video generalmente está más allá de las capacidades de una persona común. Pero pronto, gracias al aprendizaje automático, es probable que sea posible crear fácilmente imágenes de video falsas y creíbles del rostro de alguien y dar la impresión de que la persona está hablando con su propia voz. Ya existe una tecnología para sincronizar los movimientos de los labios, que literalmente puede poner cualquier palabra en la boca de una persona. Esto es sólo la punta del iceberg. Pronto, los niños de 12 años podrán crear imágenes falsas fotorrealistas y de sonido creíble de políticos, grandes empresarios, sus parientes o amigos en sus habitaciones en sus habitaciones, diciendo todo lo que puedan imaginar.
Esto en sí mismo provoca algunos abusos evidentes. Los engaños políticos, las llamadas "noticias falsas" o "relleno de información", se extenderán como incendios forestales. Por supuesto, el engaño se detectará lo antes posible; ninguna tecnología digital puede ser tan buena como para que otra tecnología no pueda detectar la falsificación. Pero esto sucederá solo después de que la idea dañina ya haya penetrado en las mentes de las personas que creen en ella. Imagine un video falso perfectamente fabricado de candidatos presidenciales gritando insultos raciales o confesando delitos graves.
norte
Sin embargo, esto es solo el comienzo. Imagínese el potencial para manipular el mercado de valores. Supongamos que alguien hizo circular un video falso en el que el CEO de Tesla, Elon Musk, admite que los autos de Tesla no son seguros. El video se difundirá por Internet y las acciones de la compañía colapsarán. Poco después del descubrimiento de una falsificación, su precio se recuperará, sin embargo, durante este tiempo, los manipuladores podrán ganar mucho dinero, jugando a reducir las acciones de Tesla.
Video promocional:
Y esto está lejos de ser el escenario más extremo. Imagínese a un bromista creando un video falso realista del presidente Donald Trump afirmando que un ataque contra objetivos norcoreanos es inminente, y luego publicando ese video donde los norcoreanos puedan verlo. ¿Cuáles son las posibilidades de que los líderes norcoreanos se den cuenta de que esto es falso antes de tener que decidir iniciar una guerra?
Aquellos que tienden a ver escenarios tan extremos como alarmistas señalarán razonablemente que se puede detectar cualquier falsificación, ya que se utilizarán las mismas tecnologías de aprendizaje automático para detectarlos que para la creación. Pero esto no significa que no estemos en peligro de encontrarnos en un mundo lleno de falsificaciones ubicuas. Una vez que las falsificaciones se vuelvan lo suficientemente creíbles como para que las personas no puedan detectarlas por sí mismas, perderemos para siempre la confianza en lo que vemos y oímos. En lugar de confiar en nuestros propios sentidos, nos veremos obligados a confiar en algoritmos utilizados para detectar falsificaciones y autenticar información. A lo largo de la evolución, hemos aprendido a confiar en nuestros propios sentimientos,y la transferencia de estas funciones a la inteligencia artificial puede resultar demasiado drástica para la mayoría de las personas.
Esto podría ser una mala noticia para la economía. Las redes comerciales y empresariales se basan en la confianza y la comunicación. Si el aprendizaje automático arroja una tormenta interminable de ilusiones y falsificaciones en la esfera de la información pública algún día, los muros creados por la evolución para distinguir la realidad de la ficción colapsarán. En este caso, el nivel de confianza en la sociedad puede caer rápidamente, lo que no se ralentizará para afectar negativamente el bienestar global de la humanidad.
Por esta razón, el gobierno probablemente debería tomar algunas medidas para garantizar que la falsificación digital sea castigada severamente. Desafortunadamente, es poco probable que la administración actual dé un paso así por amor a las noticias de partidos estrechos. Y es probable que gobiernos como Rusia estén aún menos inclinados a frenar tales prácticas. En última instancia, la combinación de una mala gobernanza con nuevas y poderosas tecnologías plantea una amenaza mucho mayor para la sociedad humana que las propias tecnologías.
Por Noah Smith, columnista de Bloomberg News
Igor Abramov
