Científicos de la Universidad de Chicago (EE. UU.) Realizaron un estudio, durante el cual mostraron cómo se puede usar la IA para escribir críticas falsas complejas. Tales revisiones son indistinguibles de las reales por métodos modernos, y los lectores desprevenidos las encuentran altamente confiables.
Las reseñas de restaurantes se generaron utilizando redes neuronales recurrentes (técnicas de aprendizaje profundo) que previamente se entrenaron en miles de reseñas de la vida real disponibles en la web.
Según los investigadores, las revisiones generadas eran prácticamente indistinguibles de las reales. Entonces, los autores del trabajo demostraron que los usuarios no solo no reconocían las reseñas falsas, sino que también las consideraban tan útiles como las reales escritas por personas.
Este último es probablemente el más alarmante. Dado que esto esencialmente significa que las reseñas escritas por IA están cumpliendo su función principal, influyen deliberadamente en la opinión de las personas.
norte
Se observa que raras veces se encontró plagio en tales revisiones (usando software). Esto se debe al hecho de que la IA los generó por personaje, en lugar de extraer palabras de reseñas reales.
Hoy en día existe una industria clandestina bastante grande en la que la gente escribe reseñas falsas (por dinero). Sin embargo, como señaló el profesor de la Universidad de Chicago Ben Y. Zhao en una entrevista con Business Insider, la introducción de la IA puede socavarla. El científico dice que aún no conoce el uso de tales algoritmos en esta industria. Pero no hay garantía de que a alguien no se le ocurra algo similar y no lo use para beneficio personal.
Al mismo tiempo, los investigadores escriben que las respuestas de la red neuronal todavía no eran las ideales. Resultó que el algoritmo usaba un conjunto más pequeño de caracteres, y esto no fue difícil de ver. Sin embargo, según los autores del trabajo, las futuras redes neuronales pueden ser incluso más complejas y, en consecuencia, la retroalimentación que generan será más difícil de detectar.
Zhao señala que no se trata solo de críticas de restaurantes falsas: estas tecnologías generalmente pueden sacudir nuestras creencias sobre lo que es real y lo que no lo es.
Video promocional:
El texto del estudio se puede encontrar aquí.
