Las empresas de tecnología han estudiado en silencio sus fotos para mejorar sus sistemas de reconocimiento facial. Y así es como lo hicieron.
El reconocimiento facial es una tecnología poderosa que amenaza seriamente las libertades civiles. También es un negocio próspero. Hoy en día, muchas startups y gigantes tecnológicos venden sistemas de reconocimiento facial a hoteles, minoristas e incluso escuelas y campamentos de verano. Este negocio está en auge gracias a nuevos algoritmos que pueden identificar a las personas con mucha mayor precisión que hace cinco años. Para mejorar sus algoritmos, han sido entrenados en miles de millones de caras, a veces sin el permiso de nadie. Por tanto, es muy probable que su rostro forme parte de un "kit de formación" en uno de estos sistemas o esté en una base de datos de clientes de alguna empresa.
Los métodos de recopilación de información utilizados por las empresas pueden sorprender a los consumidores. Por ejemplo, en al menos tres casos, las empresas han recibido millones de imágenes a través de aplicaciones de fotos para teléfonos inteligentes. Ahora el sistema de reconocimiento facial está mal regulado, por lo que las personas casi no tienen forma de restringir el uso de sus rostros con fines comerciales.
En 2018, una cámara identificó los rostros de los pasajeros que bajaban apresuradamente de un avión cerca de Washington, Columbia. Pero, de hecho, tanto el avión como los pasajeros formaban parte de una simulación creada por el Instituto Nacional de Estándares y Tecnología (NIST) para demostrar cómo se podían recopilar datos "en el campo". Las caras utilizadas en este experimento formarán parte de una competencia del NIST en la que empresas de todo el mundo prueban sus sistemas de reconocimiento facial.
norte
En la simulación de la situación de la aeronave, los voluntarios acordaron usar sus caras. Este fue el caso en las primeras etapas de los sistemas de reconocimiento facial: los investigadores intentaron incluir constantemente a las personas en sus conjuntos. Ahora, es poco probable que las empresas se molesten y pidan permiso.
Según Market Research Future, las empresas (incluidos líderes como Face ++ y Kairos) están compitiendo por ser el número uno en una industria que crece un 20% anual para alcanzar los $ 9 mil millones en volumen para 2022. El modelo de negocio de estos actores se basa en software con licencia para un número creciente de clientes, desde agencias de aplicación de la ley hasta universidades, que lo utilizan en su propio desarrollo.
En la competencia, los ganadores son aquellos productos cuyos algoritmos son capaces de detectar rostros con precisión y sin errores. Como ocurre con toda la inteligencia artificial, construir un sistema de reconocimiento facial implica acumular una gran cantidad de datos para el entrenamiento. Si bien las empresas pueden usar datos aprobados por el gobierno y la universidad (como la base de datos facial de Yale), estos kits de capacitación son lo suficientemente pequeños como para contener no más de unos pocos miles de rostros.
Video promocional:
Estos kits oficiales también tienen otras desventajas. Muchas personas carecen de la diversidad racial y las diferentes condiciones (sombras, sombreros, cosméticos) que alteran la percepción de una persona en el mundo real. Un sistema de reconocimiento facial natural requiere más imágenes. Mucho más.
“Cien no es suficiente, mil no es suficiente. Necesitamos millones de imágenes. Si no capacita al sistema para que reconozca a las personas con anteojos y diferentes colores de piel, no obtendrá buenos resultados”, dice Peter Trepp, director de FaceFirst, una empresa con sede en California que ayuda a los minoristas a identificar a los delincuentes en sus tiendas.
Aplicación para esto
le. En particular, la aplicación la obligó a enviar enlaces patrocinados a todos los contactos de los usuarios, una táctica conocida en Silicon Valley como "growth hacking". Los usuarios también se quejaron del robo de datos.
"Inmediatamente después de la instalación, la aplicación recopila todos los teléfonos de la lista de contactos y comienza a enviarles mensajes de texto … Y luego descarga todas sus fotos y las copia en el almacenamiento en la nube", escribió Greg Miller, propietario de un estudio fotográfico en Texas, en una revisión de 2015 en Facebook.
Cuatro años después, Miller se horrorizó al descubrir que sus fotografías todavía estaban almacenadas en EverRoll, pero ahora era una empresa con un sistema de reconocimiento facial.
“No, yo no sabía nada y no estoy de acuerdo con eso”, se quejó Miller a Fortune. “Este tipo de vigilancia es un problema real. La confidencialidad se ha ido y eso me asusta mucho.
Doug Ely, director ejecutivo de Ever AI, afirma que la empresa no transfiere información de su base de datos a ninguna parte y que las fotos solo se utilizan para entrenar el sistema. También agregó que la empresa es similar a una red social que se puede abandonar en cualquier momento. Eli negó que Ever AI tuviera la intención de convertirse en una empresa de reconocimiento facial desde el principio, y dijo que el cierre de la aplicación fue una decisión de la gerencia. Los clientes de Ever AI ahora usan sus datos para sus propios fines, incluida la gestión de sistemas de identificación de empleados, minoristas, así como telecomunicaciones y aplicación de la ley.
Ever AI no es la única empresa de reconocimiento facial que alguna vez ofreció una aplicación de fotografía. Orbeus, una startup con sede en San Francisco comprada por Amazon en 2016 (que no se anunció), también ofreció el popular almacenamiento PhotoTime.
Según un ex empleado de Orbeus, el atractivo de la startup para Amazon radicaba en sus tecnologías de inteligencia artificial y su amplia gama de fotografías de personas en lugares públicos.
“Amazon estaba buscando tales oportunidades. Lo compraron todo y luego cerraron la aplicación”, dice un empleado que deseaba permanecer en el anonimato, citando un acuerdo de no divulgación.
PhotoTime ya no existe, aunque Amazon sigue vendiendo otro producto de Orbeus conocido como la marca Rekognition. En los negocios y la aplicación de la ley, se utiliza como un sistema de reconocimiento facial.
Amazon se negó a revelar detalles sobre si la aplicación de fotos Orbeus se utilizó para entrenar a Rekognition, y solo afirmó que estaba tomando datos de varias fuentes. La compañía agregó que no usa datos de usuario de la aplicación Prime para entrenar sistemas de identidad.
Real Networks es otra empresa que utiliza aplicaciones para entrenar su sistema. Con sede en Seattle y una vez famosa por su reproductor de video de los años 90, la compañía ahora se enfoca en reconocer los rostros de los niños en las escuelas. Al mismo tiempo, la compañía ofrece una aplicación familiar llamada RealTimes, que según los críticos recopila datos sobre los rostros de los usuarios.
“La aplicación te permite crear presentaciones de video a partir de fotos. Imagina que mamá le envía una presentación a la abuela y el sistema usa estas fotos para entrenar. Suena espeluznante”, dice Claire Gavry, profesora de la Universidad de Georgetown, quien publicó un artículo que ha tenido un gran impacto en la tecnología de reconocimiento facial.
Real Networks confirmó que la aplicación se estaba utilizando para mejorar el reconocimiento facial, pero agregó que se estaban utilizando otras fuentes de información.
En todos los casos en los que las empresas utilizaron datos de sus propias aplicaciones fotográficas para entrenar sus sistemas, no solicitaron permiso de usuario, sino que recibieron consentimiento oculto a través de acuerdos de usuario.
Pero esto ya es bastante comparado con lo que están haciendo otras empresas. Según Patrick Grother, que dirige la competencia NIST, está bien que las empresas que recopilan datos faciales escriban programas que "capturen" imágenes de sitios como SmugMug o Tumblr. En estos casos, ni siquiera se asume el permiso del usuario.
Este enfoque de autoayuda se destacó en un informe reciente de NBC News que detalla cómo IBM descargó más de un millón de imágenes faciales de Flickr como parte de un estudio de IA. (John Smith, que supervisa las tecnologías de inteligencia artificial en el departamento de investigación de IBM, dijo que "los datos personales están protegidos" y que se está trabajando con aquellos que quieren eliminar información personal de la base de datos).
Todo ello plantea interrogantes sobre la protección de los datos personales por parte de las empresas que los recaban y la necesidad de un control estatal en este ámbito. Este tema solo se volverá más serio con la mayor difusión de los sistemas de reconocimiento facial en la sociedad, así como en el entorno de las grandes y pequeñas empresas.
De tiendas a escuelas
Los sistemas de reconocimiento facial no son nuevos. Las versiones más simples de tales programas existen desde la década de 1980, cuando los matemáticos estadounidenses comenzaron a definir caras como una serie de valores numéricos y utilizaron modelos probabilísticos para encontrar coincidencias. La seguridad de Tampa, Florida lo usó en el Super Bowl de 2001, y se ha usado en los casinos durante años. Pero muchas cosas han cambiado en los últimos años.
"El sistema de reconocimiento facial está pasando por algo parecido a una revolución", dice Patrick Grother, y agrega que el cambio se nota más en la creciente calidad de las imágenes. “La tecnología subyacente ha cambiado. Los desarrollos antiguos han sido reemplazados por sistemas nuevos y mucho más eficientes ".
La revolución del reconocimiento facial fue impulsada por dos factores que han cambiado y ampliado enormemente el alcance de la tecnología de inteligencia artificial. El primero es el surgimiento del aprendizaje profundo, un sistema de reconocimiento de patrones que, en principio, se parece al cerebro humano. El segundo es un excedente récord de datos que se pueden almacenar y analizar a bajo costo utilizando la computación en la nube.
Como era de esperar, las primeras empresas en aprovechar al máximo estos desarrollos fueron Google y Facebook. En 2014, este último lanzó un programa llamado DeepFace, que puede determinar con una precisión del 97,24% que dos caras pertenecen a la misma persona: las personas demuestran un resultado similar en dicha prueba. Un año después, Google, con su programa FaceNet, logró el 100% de precisión (según la firma de seguridad Gemalto).
Hoy, gracias en gran parte al acceso a grandes bases de datos de datos faciales, estos y otros gigantes tecnológicos (como Microsoft) están liderando el camino en el reconocimiento facial. Pero cada vez más empresas emergentes están mostrando buenos resultados, y también se esfuerzan por ocupar su nicho en el creciente mercado de los programas de identificación facial.
Hay más de una docena de empresas de este tipo solo en los Estados Unidos, incluidas Kairos y FaceFirst. Según los investigadores de mercado de PitchBook, Silicon Valley está ganando terreno rápidamente en el sector, con importantes inversiones en los últimos años. PitchBook estima la inversión total en los últimos tres años en 78,7 millones de dólares. Estos números no son fantásticos para los estándares de Valley, pero reflejan la confianza de los capitalistas de riesgo de que algunas startups front-end pronto se convertirán en grandes empresas.
Actividad de capital riesgo en la industria del reconocimiento facial en Estados Unidos.
Todavía están surgiendo nuevos modelos comerciales centrados en el reconocimiento facial. Esto es especialmente notable en el software empresarial con licencia. Según Crunchbase, los ingresos anuales para empresas como Ever AI y FaceFirst son modestos, oscilando entre $ 2 millones y $ 8 millones. Amazon y otros gigantes tecnológicos no revelan tales cifras.
Durante mucho tiempo, los usuarios más interesados de los sistemas de reconocimiento facial fueron las fuerzas del orden. Pero ahora muchas empresas, incluida WalMart, utilizan estos programas para obtener más información sobre los compradores en sus tiendas.
Por ejemplo, FaceFirst, con sede en California, ofrece sus sistemas a cientos de minoristas, incluidas tiendas de segunda mano y farmacias. Según el director ejecutivo de la empresa, muchos clientes están utilizando la tecnología para detectar robos, pero un número creciente de aquellos que intentan utilizarla para otros fines, como encontrar clientes VIP e identificar empleados.
Durante mucho tiempo, los usuarios más interesados de los sistemas de reconocimiento facial fueron las fuerzas del orden.
Parece que Amazon también está buscando en una amplia gama de sus actividades oportunidades para aplicar sistemas de reconocimiento facial. Además de trabajar con las estaciones de policía, el gigante minorista está ayudando a los hoteles a acelerar los procesos de registro, según varias fuentes.
“Empresas de todo el mundo vienen a Amazon y dicen: 'Esto es exactamente lo que queremos hacer'. Y comprende que esta es una zona maravillosa. Todo el mundo está interesado en él”, dice una fuente anónima que se unió a Amazon al comprar Orbeus, una empresa de reconocimiento facial.
Para Amazon, esta actividad no ha estado exenta de polémicas consecuencias. En julio pasado, la Unión Estadounidense de Libertades Civiles (ACLU) probó los sistemas de la compañía comparando los rostros de todos los miembros del Congreso con una base de datos de criminales. La prueba mostró 28 coincidencias falsas, con la mayoría de los errores debido al color de la piel de los participantes en el experimento. Como resultado, la Unión pidió la prohibición del uso del sistema de reconocimiento facial en los organismos encargados de hacer cumplir la ley. Sin embargo, Amazon insistió en vender el sistema a los agentes de policía y al Servicio de Inmigración y Control de Aduanas de EE. UU.
Luego, algunos miembros del Congreso, incluidos el representante Jerrold Nadler y el senador Ron Weeden, pidieron a la Oficina de Auditoría que investigara el uso de software de reconocimiento facial. Las empresas líderes también están preocupadas por estos sistemas. En particular, el presidente de Microsoft, Brad Smith, pidió en diciembre la regulación de tales tecnologías a nivel estatal.
Pero incluso a medida que aumentan las preocupaciones, el uso de sistemas de reconocimiento facial solo se está expandiendo a medida que las empresas encuentran cada vez más usos para ellos. Por ejemplo, Real Networks, un desarrollador de aplicaciones de fotografía familiar, ofrece su software a escuelas de todo el país de forma gratuita. La empresa habla de cientos de escuelas como sus clientes. En una entrevista con la revista Wired, el director ejecutivo de Real Networks, Rob Glaser, dijo que lanzó el proyecto como una solución imparcial a las disputas sobre la seguridad escolar y el control de armas. El sitio web de la compañía actualmente está posicionando este producto como una tecnología que permite a los organizadores de eventos "reconocer a cada fan, cliente, empleado o invitado", incluso si su rostro está oculto.
La tecnología única reconoce rostros incluso en coloración o maquillaje intensivo. El sistema distingue e identifica rostros en una variedad de condiciones de iluminación.
Real Networks no es la única empresa que tiene como objetivo el mercado infantil. Una startup con sede en Texas llamada Waldo ofrece tecnología similar a cientos de escuelas, así como a ligas deportivas para niños y campamentos de verano. En la práctica, esto implica el uso de dichos sistemas para escanear imágenes tomadas por cámaras de video o fotógrafos oficiales, y una mayor comparación de los rostros de los niños con una base de datos de imágenes proporcionada por los padres. Los padres siempre pueden negarse a participar.
Según el director ejecutivo de Waldo, Rodney Rice, las escuelas toman decenas de miles de fotografías cada año, y pocas de ellas terminan en álbumes anuales. El reconocimiento facial, dijo, es una forma eficaz de repartir las sobras entre quienes las necesitan.
"Por el precio de las palomitas de maíz o el papel marrón, puede pedir estas fotos para los abuelos de sus hijos", dice Rice, explicando que Waldo tiene un acuerdo de reparto de ingresos con las escuelas públicas. Actualmente, los servicios de la compañía se utilizan en más de 30 estados de los Estados Unidos.
El auge de Waldo y FaceFirst muestra cómo las empresas están normalizando el reconocimiento facial que hasta hace poco parecía ciencia ficción. Y con la proliferación de tales tecnologías, más empresas recopilarán fotos de sus rostros, ya sea para entrenar algoritmos o para encontrar clientes y delincuentes, incluso si el riesgo de error y abuso solo aumenta.
El futuro de tu rostro
En 2017, se lanzó un episodio de la serie tecno-distópica Black Mirror, en el que una madre agitada se preocupa por un joven infiel que pasa tiempo con su hija. Para saber quién es, sube una foto suya a un servicio de identificación de consumidores. El programa muestra rápidamente su nombre y lugar de trabajo, y la mujer va a atenderlo.
El escenario una vez ficticio ahora parece bastante real. Si bien la mayoría de las preocupaciones sobre el reconocimiento facial se han centrado en el uso de esta tecnología en organizaciones gubernamentales, su uso entre empresas comerciales e incluso individuos (al estilo de "Black Mirror") plantea riesgos obvios para los datos personales.
A medida que más empresas comiencen a vender sistemas de reconocimiento facial y nuestros rostros ingresen en más bases de datos, el software podría ganar popularidad entre mirones y acosadores. Los minoristas y propietarios pueden usarlo para identificar clientes e inquilinos no deseados para denegar silenciosamente viviendas y servicios.
"Cualquiera que tenga una videocámara en un área densamente poblada puede comenzar a recopilar bases de datos de imágenes y luego usar este software analítico para ver si las imágenes que capturan coinciden con sus datos", dice Jay Stanley, analista de ACLU.
También existe el riesgo de ataques de piratas informáticos. Andrei Barisevich de Gemini Advisors, una firma de ciberseguridad, dice que ha visto perfiles a la venta en sitios de redes oscuras robados de la base de datos biométrica nacional de India. No se dio cuenta de esa información sobre los estadounidenses, pero agregó: "Es sólo una cuestión de tiempo". La filtración de datos de clientes de un hotel o tienda puede ayudar a los delincuentes a cometer fraude o robo de identidad.
Dado que la tecnología se distribuye sin mucho control gubernamental, la responsabilidad de limitar su uso indebido recae únicamente en los proveedores de software. En una entrevista con Fortune, los directores ejecutivos de las nuevas empresas de reconocimiento facial dijeron que estaban preparados para tales amenazas. Algunos, incluido el CEO de FaceFirst, describieron la propagación de tales sistemas en China como peligrosa.
Los líderes también sugirieron dos enfoques para frenar el abuso. La primera es trabajar en estrecha colaboración con los compradores del software para garantizar que se utilice correctamente. Por ejemplo, Doug Eli de Ever AI dice que su empresa tiene un estándar más alto que Amazon, que, según él, proporciona su herramienta Rekognition a casi cualquier persona.
En respuesta a una pregunta sobre el control de abusos, Amazon proporcionó una declaración publicada anteriormente por Matt Wood, quien administra inteligencia artificial en Amazon Web Services. Wood señala que es una política de la empresa que prohíbe las actividades dañinas e ilegales.
Otra posible garantía de seguridad de los datos es el uso de medidas técnicas para asegurar la imposibilidad de piratear las bases de datos de datos "frontales".
Rodney Rice, director ejecutivo de Waldo, dice que las caras se almacenan como hashes alfanuméricos. Esto significa que incluso en el caso de una fuga de datos, la confidencialidad no se verá comprometida, ya que un pirata informático no puede descifrar los hash y utilizarlos. Este punto de vista fue apoyado por otros.
Rice teme que la definición legislativa de las reglas para el uso de tecnologías "faciales" pueda hacer más daño que bien. “Dejar que un niño lo resuelva y cree reglas es ridículo”, dice.
Mientras tanto, algunas empresas de software de reconocimiento facial están adoptando nuevas técnicas que pueden reducir la necesidad de big data para la formación. Este es el caso, por ejemplo, de Kairos, una startup front-end de Miami que, entre otras cosas, trabaja con una amplia gama de hoteles. Según Stephen Moore, jefe de seguridad de la empresa, Kairos crea caras "sintéticas" para simular una amplia gama de emociones e iluminación. Estos "rostros artificiales" reducen el uso de datos faciales del mundo real al crear productos tecnológicos.
Todas estas medidas (vigilancia de los usuarios del sistema, sólida protección de datos y herramientas de aprendizaje sintéticas) pueden mitigar algunas de las preocupaciones de privacidad asociadas con el uso comercial de nuestros rostros. Al mismo tiempo, Trepp de FaceFirst cree que la ansiedad disminuirá con una mirada más cercana al sistema. Incluso afirma que las escenas de reconocimiento facial en la película de ciencia ficción Minority Report de 2002 comenzarán a sentirse normales.
“Los millennials están mucho más dispuestos a compartir información. Este mundo [de Minority Report] se está acercando al nuestro”, dice. - Si haces todo bien, creo que a la gente le gustará y será una experiencia positiva. No será tan aterrador ".
Otros, incluida la ACLU, son menos optimistas. Sin embargo, a pesar de la creciente discusión en torno a la tecnología, prácticamente no hay nada en este momento que limite el uso de su rostro. Las únicas excepciones son en tres estados, Illinois, Texas y Washington DC, que requieren un cierto grado de consentimiento antes de usar la cara de otra persona. Estas leyes no se utilizan realmente en la práctica, excepto en Illinois, donde los consumidores pueden emprender acciones legales para hacer cumplir este derecho.
La ley de Illinois es actualmente objeto de un juicio de apelaciones de alto perfil que involucra a Facebook, que afirma que las restricciones para obtener rostros no se aplican al escaneo digital. En 2017, Facebook y Google lanzaron una infructuosa campaña de cabildeo para convencer a los legisladores de Illinois de que suavizaran la ley. A fines de enero, los defensores de la ley fueron respaldados por la Corte Suprema de Illinois cuando dictaminó que los consumidores pueden demandar por el uso no autorizado de sus datos biométricos, incluso si no se ha causado un daño real.
Otros estados también permiten la posibilidad de adoptar sus propias leyes biométricas. A nivel federal, los legisladores han prestado poca atención a esto hasta ahora. Sin embargo, eso podría cambiar, ya que los senadores Brian Schatz y Roy Blount presentaron una legislación este mes que requeriría que las empresas obtengan permiso antes de usar el reconocimiento facial en lugares públicos o compartir datos faciales con terceros.
Claire Garvey, investigadora de Georgetown, apoya las leyes para controlar estos sistemas. Pero ella dice que los legisladores han tenido dificultades para mantenerse al día con la tecnología.
“Uno de los desafíos del reconocimiento facial es su adopción increíblemente rápida, gracias a las bases de datos existentes. Nuestras caras se iluminaron mucho”, dice. "A diferencia de las huellas dactilares, que durante mucho tiempo han tenido reglas de recopilación de datos, todavía no existe una regulación para las tecnologías de reconocimiento facial".
Por Jeff John Roberts
Traducido por: Ekaterina Egina
Editado por: Sergey Razumov
