Todos estamos esperando el momento en que la inteligencia artificial, los programas, la tecnología aprendan a hacer prácticamente lo mismo, entonces nosotros. Todo esto es bastante real. Pero hasta ahora, pocas personas piensan que, de todos modos, este proceso no será el mismo para las máquinas y las personas.
Por ejemplo, un grupo de investigadores de la Universidad de Kyushu descubrió una forma de engañar a los programas de reconocimiento de patrones cambiando un solo píxel en una imagen. Este píxel está posicionado de tal manera que confunde las redes neuronales responsables de la identificación, y comienzan a confundir perros con gatos y caballos con coches.
Las imágenes de prueba se limitaron a solo mil píxeles, pero para resoluciones más altas y millones de píxeles, la regla también funciona. Solo es necesario cambiar no un píxel, sino varios cientos.
El segundo grupo de investigadores, esta vez del Instituto Tecnológico de Massachusetts, logró ir aún más lejos. Pudieron imprimir una escultura de una tortuga usando una impresora 3D, que el programa, incluso viendo desde todos los lados y desde cualquier ángulo, lo tomó por un rifle. Este experimento plantea un problema mucho mayor para la tecnología de reconocimiento de imágenes, ya que todo sucedió en la realidad y el programa pudo analizar el objeto desde todos los ángulos, pero aún no determinó su verdadera forma.
Juntos, ambos estudios muestran cómo los robots y los programas deben viajar antes de alcanzar el nivel humano. Después de todo, nuestros cerebros no se pueden engañar reemplazando uno o incluso cien píxeles.
La única lástima es que las fuentes no dan una explicación de cómo resulta engañar al programa. ¿Qué piensas? ¿Cuál es el secreto de los "píxeles rotos" y cómo se puede hacer trampa con un modelo 3D?
Nikolay Kudryavtsev
Video promocional:
