Kashmir Hill: El rostro es el ltimo bastin de la privacidad, por eso el reconocimiento facial es peligroso




La periodista Kashmir Hill recibi en noviembre de 2019 el soplo de que una startup llamada Clearview AI deca ser capaz de poder identificar a cualquiera a partir de una imagen. Su fuente deca que la compaa haba recogido miles de millones de fotos de redes sociales como Facebook, Instagram o LinkedIn sin avisar ni a las plataformas ni a los interesados, y que si introducas en la app la foto de alguien, te mostraba todos los sitios web en los que apareca esa persona, adems de su nombre completo y de informacin personal.Nadie se haba atrevido a desarrollar nada parecido hasta la fecha. Una aplicacin capaz de identificar a extraos era demasiado. Poda usarse, por ejemplo, para fotografiar a alguien en un bar y saber en pocos segundos dnde vive y quines son sus amigos. Hill, reportera en The New York Times, public la historia de esta pequea empresa, que en pocos meses pas de ser una total desconocida a contar con el apoyo de Peter Thiel, uno de los padrinos de Silicon Valley, y a convertirse en el objeto de deseo de los cuerpos de polica de EE UU y del extranjero. Lleg hasta Hoan Ton-That, el impenetrable ingeniero responsable de la herramienta que mont junto a Richard Schwartz, un poltico con una larga trayectoria entre bambalinas en el Partido Republicano. Su investigacin sigui hasta dar forma a su libro Your Face Belongs to Us (Tu cara nos pertenece, editado por Random House en 2023 y sin traduccin al espaol hasta el momento).Me pareci que los fundadores de la startup eran personajes inslitos y fascinantes, y que la historia captaba algo esencial en esta industria: ese deseo de crear nuevas tecnologas realmente transgresoras sin tener en cuenta sus implicaciones sociales, explica por videoconferencia desde Nueva York. Nacida hace 43 aos y criada en Florida, Kashmir Hill, que se llama as en honor a uno de los temas ms mticos de Led Zeppelin, trabaj en publicaciones como Gizmodo, Forbes o The New Yorker antes de unirse al Times en 2019. Le llam la atencin tambin que una empresa tan joven pudiera dominar en poco tiempo una tecnologa tan compleja como el reconocimiento facial.PREGUNTA. Qu tienen de particular los sistemas automticos de reconocimiento facial? Por qu le interesa esta tecnologa?RESPUESTA. Es clave para vincular a las personas del mundo real a lo que se sabe sobre ellas en internet. Un uso descontrolado del reconocimiento facial erradicara el anonimato, ya no se podra navegar por el mundo sin que la gente lo supiera todo sobre nosotros. Los gobiernos sabran dnde estamos y qu hacemos todo el tiempo. Eso ya sucede en China. Rusia lo usa para identificar a quienes se manifiestan contra la invasin de Ucrania. El rostro es, esencialmente, el ltimo bastin de la privacidad. Volviendo a China, han desarrollado una lista roja para quienes estn en el poder y no quieren que les vean. Estar en esa lista significa ser invisible para el sistema de vigilancia, la eliminacin de los registros de las cmaras. Es muy revelador que no ser visto sea un privilegio exclusivo de los poderosos.P. Cree que la historia de Clearview AI es representativa de la del reconocimiento facial?R. S. La tecnologa de reconocimiento facial es un arma de doble filo. Se puede usar para resolver crmenes, encontrar asesinos y violadores, pero tambin para rastrear a los disidentes o para obtener informacin sobre actrices porno y llegar hasta ellas. Los fundadores de Clearview AI tenan ideas muy preocupantes sobre qu hacer con esta herramienta. Crean que analizando el rostro de una persona se poda inferir su inteligencia o su propensin al consumo de drogas. Han tratado con Hungra, que quera su producto para perseguir a activistas e identificar a los liberales. As que, en cierto sentido, es casi tranquilizador que al final solo trabajen con la polica.En China, el anonimato es un privilegio exclusivo de los poderososP. Clearview AI ha sido multada o prohibida en varios pases. Cul es su situacin actual?R. Siguen operando en Estados Unidos. Trabajan con muchas fuerzas del orden locales, as como con el Departamento de Seguridad Nacional y el FBI. Estn un poco asediados legalmente, pero han tenido algunos xitos, como que un tribunal de Reino Unido haya anulado una multa que le impuso el regulador. En ltima instancia, el hecho de que hayan decidido orientarse exclusivamente a las fuerzas del orden les ha permitido evitar muchos resultados negativos. Veremos qu pasa en los dems pases europeos.P. Cree que el boom de la inteligencia artificial (IA) generativa ha servido como cortina de humo para la expansin de empresas como Clearview AI?R. La gente est muy centrada en la IA generativa, y eso ha desviado la atencin, tal vez por la forma en que esa tecnologa amenaza nuestra privacidad. Pero en cierto modo, las preocupaciones son las mismas. El New York Times, donde trabajo, ha demandado a OpenAI por usar todos nuestros artculos sin pedir permiso. De forma similar, la base de datos de Clearview AI est compuesta por decenas de miles de millones de imgenes de nuestras caras sacadas de internet sin el consentimiento de nadie. Me preocupa mucho el reconocimiento facial combinado con la IA generativa. Puedes generar el rostro de alguien en una imagen pornogrfica o en algn tipo de situacin embarazosa y simplemente publicarlo, sabiendo que algn da alguien buscar a esa persona con una herramienta de reconocimiento facial y la encontrar. Escrib el libro porque quiero que la gente comprenda lo poderosa que se ha vuelto la tecnologa de reconocimiento facial. Ahora es realmente trivial identificar a alguien y encontrar todas sus fotos en internet. Y creo que eso tiene implicaciones muy preocupantes para el futuro.P. Cul es la percepcin social del reconocimiento facial en EE UU?R. Existe una resistencia real al uso de la tecnologa de reconocimiento facial en vivo. Los legisladores dicen que rechazan la idea de buscar personas en tiempo real en las calles, algo que est sucediendo, por ejemplo, en el Reino Unido. Al mismo tiempo, creo que la mayora acepta usar esta tecnologa despus de que se haya cometido un delito para tratar de identificar al culpable.P. Cmo es posible que una empresa que basa su negocio en un producto construido a partir de la descarga no consentida de millones de fotografas de rostros humanos pueda operar como si nada?R. Cuando escrib por primera vez sobre Clearview AI, tenan 3.000 millones de fotos. Cuando termin el libro, creo que tenan 20.000 millones. Ahora, tienen 40.000. Hay pases que han dicho que lo que estn haciendo es ilegal. No deberan recopilar fotos de la gente sin su consentimiento, pero siguen hacindolo y nadie los detiene. En EE UU tenemos algn precedente, por lo que esa ilegalidad no est tan clara. Estamos viendo lo mismo con la IA generativa: se debe permitir a estas empresas recolectar lo que quieran y usarlo como quieran para lucrarse? Creo que esa es una de las preguntas ms importantes de nuestro tiempo.Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era la nica tecnologa que su compaa desarroll y no lanzP. Seala en el libro que Google y Facebook tenan su propia tecnologa de reconocimiento facial ya desarrollada antes que Clearview AI, pero decidieron no lanzarla.R. Realmente me pareci sorprendente. Son empresas que han sido muy escrutadas por posibles abusos de privacidad, y eso les ha hecho ms cuidadosas. Tambin creo que estaban preocupadas por la tecnologa en s. Sus ingenieros se alarmaron y vieron las desventajas obvias de divulgar algo as. Eric Schmidt, presidente de Google en 2011, dijo que el reconocimiento facial era hasta la fecha la nica tecnologa que su compaa desarroll y no lanz. Me ha parecido interesante, por cierto, que haya sucedido lo mismo ahora con la IA generativa: Google tena su propio ChatGPT, pero pensaron que el mundo no estaba preparado para esto todava.P. Cree que vamos hacia una sociedad hipervigilada?R. Vivimos en un mundo en el que hay cmaras por todas partes, pero no tienen sistemas de reconocimiento facial. Creo que en Europa tenis ese debate ahora mismo: si secuestran a tu hijo o hay un fugitivo suelto, deberamos poder encontrarlos en tiempo real? Una vez que configuras esa infraestructura, podra usarse de muchas otras formas. Creo que an podemos decidir si permitimos o no que este sea un mundo en el que nos rastreen por la cara todo el tiempo, cada vez que salimos de nuestras casas. Y es una decisin que hay que tomar ahora mismo.Poder identificar a alguien y encontrar todas sus fotos en internet tiene implicaciones muy preocupantes para el futuroP. Cmo trazamos la lnea entre lo que es un uso adecuado y no adecuado del reconocimiento facial?R. Creo que un elemento importante ahora mismo es retroactivo versus proactivo. Lo usas para resolver un delito que ya se ha cometido o para tratar de prevenir delitos o encontrar personas en tiempo real? Esa es una gran brecha, es la que estamos atravesando ahora mismo. Otro punto clave es la seguridad. En Estados Unidos, si eres polica, puedes usar reconocimiento facial para resolver crmenes. Si eres una empresa, puedes usarlo para tratar de identificar a los ladrones de tiendas y expulsarlos. Lo que incomoda a la gente son las aplicaciones ajenas a la seguridad.P. Cree que la ciudadana se acostumbrar y tolerar esta tecnologa?R. Tendremos enfrentarnos a distintos casos de uso y ver cun cmodos son. Fue muy impactante cuando en el Madison Square Garden se comenz a detener en la puerta a los abogados de las marcas que les haban demandado. La gente se dio cuenta de que el reconocimiento facial poda usarse de una manera alarmante. Hubo un tiempo en el que se grababan las llamadas telefnicas de la Casa Blanca. Se vio con todas esas cintas de Richard Nixon haciendo sus planes para el Watergate. Eso caus alarma social y se aprobaron leyes que ilegalizaron las escuchas telefnicas, excepto las que contaban con orden judicial. Por eso, las cmaras de vigilancia solo graban vdeo y no sonido: porque decidimos que no queramos vivir en un mundo en el que todo lo que dices quede grabado. Creo que pasar lo mismo con nuestras caras.Puedes seguir a EL PAS Tecnologa en Facebook y X o apuntarte aqu para recibir nuestra newsletter semanal.Suscrbete para seguir leyendoLee sin lmites_