Un motor de búsqueda facial que cualquier persona puede usar es preocupantemente preciso

Por The New York Times | Kashmir Hill

Una búsqueda toma tan solo unos segundos. Subes una fotografía de una cara, seleccionas una casilla para aceptar los términos de servicio y, entonces, te presenta una cuadrícula de fotografías de rostros que considera similares, con vínculos a donde aparecieron en internet. The New York Times usó PimEyes con los rostros de una docena de periodistas del diario, con su consentimiento, para probar su poder.

PimEyes encontró fotografías de cada una de las personas, algunas que los periodistas nunca habían visto, incluso cuando en la imagen utilizada para realizar la búsqueda usaban gafas de sol o cubrebocas o no veían de frente a la cámara.

PimEyes halló a una reportera bailando en un evento de un museo de arte hace una década y llorando después de que le propusieron matrimonio, una fotografía que no era de verdad de su agrado, pero que el fotógrafo decidió emplear para promover su negocio en Yelp. Se detectó a la versión más joven de una reportera de tecnología en una incómoda multitud de admiradores de una banda en el festival musical de Coachella en 2011. Una corresponsal apareció en incontables fotografías de bodas, en las que de manera evidente se ve que es el alma de la fiesta, y en el fondo borroso de una imagen tomada a alguien más en un aeropuerto griego en 2019. También se desenterró la vida previa de un periodista en una banda de rock y el campamento de verano preferido de otro.

A diferencia de Clearview AI, una herramienta similar de reconocimiento facial disponible solo para las fuerzas del orden, PimEyes no incluye resultados de las redes sociales. Las imágenes, en ocasiones sorprendentes, que PimEyes desenterró provenían más bien de artículos periodísticos, páginas de fotografía de bodas, páginas de reseñas, blogs y sitios pornográficos. La mayoría de las coincidencias con los rostros de la docena de periodistas del Times fueron correctas. En el caso de las mujeres, las imágenes incorrectas con frecuencia provenían de sitios pornográficos, por lo que era perturbadora la mera posibilidad de que pudieran ser ellas. (Que quede claro: no eran ellas). El nuevo propietario de PimEyes es Giorgi Gobronidze, un académico de 34 años que afirma que su interés en la tecnología avanzada comenzó debido a los ciberataques rusos a su país natal, Georgia.

Gobronidze aseguró que piensa que PimEyes puede ser una herramienta para algo positivo, para ayudar a la gente a monitorear su reputación en línea. Por ejemplo, la periodista a la que no le gustó la imagen que el fotógrafo estaba usando, ahora podría pedirle que la retire de su página en Yelp.

Se supone que los usuarios de PimEyes solo deben buscar sus rostros o las caras de las personas que han dado su consentimiento, mencionó Gobronidze. Sin embargo, señaló que dependía de que la gente actuara “de manera ética”, lo que ofrece poca protección contra la erosión tecnológica de la capacidad de mantenerse anónimos entre la multitud. PimEyes no tiene controles para evitar que los usuarios busquen un rostro que no sea el propio y le indica al usuario que pague una suma importante para impedir que las fotografías dañinas generadas por las malas decisiones de una noche lo persigan para siempre.

“Lo pensaron como un software espía, no importa lo que digan”, comentó Ella Jakubowska, consejera de políticas en European Digital Rights, un grupo de defensoría de privacidad.

Con un nuevo propietario

Gobronidze se crio en la sombra de un conflicto militar. Su jardín de niños fue bombardeado durante la guerra civil que comenzó cuando Georgia declaró su independencia de la Unión Soviética en 1991. El país se vio aislado de manera efectiva del mundo en 2008, cuando Rusia lo invadió y el internet se desconectó. Esas experiencias lo inspiraron a estudiar el papel del dominio tecnológico en la seguridad nacional.

Después de breves periodos trabajando como abogado y sirviendo en el ejército georgiano, Gobronidze obtuvo la maestría en relaciones internacionales. Comenzó su carrera como profesor en 2014 y , a la larga, llegó a la Universidad Europea en Tiflis, Georgia, donde todavía da clases.

En 2017, Gobronidze afirma que estaba en un programa de intercambio impartiendo una materia en Polonia cuando uno de sus estudiantes le presentó a dos hackers (Lucasz Kowalczyk y Denis Tatina) que trabajaban en un motor de búsqueda facial. Gobronidze relató que eran “mentes brillantes”, pero “introvertidos por completo” y que no estaban interesados en la atención pública.

Gobrodidze mencionó que aceptaron hablar con él sobre su creación, que a la larga se convirtió en PimEyes, para su investigación académica. Contó que le explicaron cómo su motor de búsqueda empleaba tecnología de redes neuronales para mapear los rasgos de un rostro con el fin de compararlo en busca de una coincidencia con caras con medidas similares, y que el programa era capaz de aprender con el tiempo a determinar con mayor precisión una coincidencia.

“Me sentí como un cavernícola cuando los conocí. Como si estuviera escuchando cosas de ciencia ficción”, comentó Gobronidze. En diciembre, Gobronidze creó una corporación, EMEARobotics, para que adquiriera PimEyes, y la registró en Dubái debido a la baja tasa de impuestos en los Emiratos Árabes Unidos. Indicó que conservó a la mayoría del pequeño equipo de tecnología y soporte del sitio y contrató a una firma de consultoría en Belice para manejar las solicitudes y las cuestiones regulatorias.

Gobronidze ha rentado oficinas en una torre en el centro de Tiflis. Todavía está en remodelación; los cables para las lámparas cuelgan del techo.

Tatia Dolidze, una colega de Gobronidze en la Universidad Europea, lo describió como “curioso” y “obstinado” y afirmó que se sorprendió cuando le mencionó que iba a comprar un motor de búsqueda facial.

“Fue difícil imaginar a Giorgi como empresario”, escribió Dolidze en un correo electrónico.

Ahora, es un empresario que es dueño de una compañía sumida en la controversia, en gran parte respecto a si tenemos algún derecho especial de control sobre las imágenes de nosotros que nunca esperamos descubrir de esta forma. Gobronidze señaló que la tecnología de reconocimiento facial podría ser usada para controlar a las personas si los gobiernos y las grandes corporaciones tuvieran el único acceso a ella.

Él imagina un mundo en el que el reconocimiento facial es accesible para cualquier persona.

‘En esencia, extorsión’

Hace algunos meses, Cher Scarlett, una ingeniera en informática, probó PimEyes y se topó con un episodio de su vida que había intentado olvidar con mucho esfuerzo.

En 2005, cuando Scarlett tenía 19 años y estaba en bancarrota, consideró trabajar en pornografía. Viajó a la ciudad de Nueva York para una audición, la cual resultó ser tan humillante y abusiva que decidió no proseguir.

PimEyes logró desenterrar el trauma de hace varias décadas a través de vínculos al lugar preciso en el que las fotografías podían encontrarse en la web. Estaban esparcidas entre retratos más recientes de Scarlett, quien trabaja en derechos laborales y ha estado sujeta a una cobertura mediática por una revuelta laboral de alto perfil en Apple.

“No tenía idea hasta ese momento de que esas imágenes estaban en internet”, precisó.

Preocupada por cómo reaccionarían las personas a las imágenes, Scarlett indagó de inmediato cómo retirarlas, una experiencia que describió en una publicación en Medium y a CNN. Cuando dio clic en una de las fotos de desnudo en PimEyes, se desplegó un menú que ofrecía un vínculo a la imagen, un enlace al sitio web donde apareció y una opción para “excluirla de los resultados públicos” en PimEyes.

No obstante, Scarlett descubrió enseguida que la exclusión solo estaba disponible para los suscriptores que pagaban los “planes de PROtección”, cuyo costo oscila entre los 89,99 y los 299,99 dólares al mes. “Es, en esencia, extorsión”, opinó Scarlett, quien al final se inscribió al plan más caro.

Gobronidze no estuvo de acuerdo con esa interpretación. Indicó que existe una herramienta gratuita para eliminar resultados del índice de PimEyes que no se publicita de manera prominente en el sitio. También proporcionó un recibo que muestra que PimEyes le reembolsó a Scarlett los 299,99 del plan del mes pasado.

PimEyes tiene decenas de miles de suscriptores, puntualizó Gobronidze, y la mayoría de los visitantes provienen de Estados Unidos y Europa. Genera la mayor parte de su dinero mediante los suscriptores de su servicio de PROtección, que incluye ayuda del personal de soporte de PimEyes para retirar fotografías de sitios externos.

PimEyes también cuenta con un servicio gratuito de “exclusión” para personas que deciden quitar datos de ellos mismos del sitio, incluidas las imágenes de búsqueda de sus rostros. Para salirse, Scarlett proporcionó una fotografía de cuando era joven y un escaneo de su identificación emitida por el gobierno. A principios de abril, recibió una confirmación de que su solicitud de exclusión había sido aceptada.

“Los resultados potenciales que contienen tu rostro se han eliminado de nuestro sistema”, se leía en el correo electrónico de PimEyes.

No obstante, cuando el Times realizó una búsqueda en PimEyes de la cara de Scarlett con su permiso un mes después, había más de cien resultados, incluyendo los desnudos.

Gobronidze expresó que esta era una “historia triste” y que salirse no evita que el rostro de una persona pueda buscarse. En cambio, bloquea en los resultados de búsqueda de PimEyes cualquier fotografía de caras “con un alto nivel de similaridad” en el momento de la exclusión, lo que significa que las personas necesitan optar por la exclusión con regularidad, con múltiples fotos de ellas, si desean quedar fuera de las búsquedas de PimEyes. Gobronidze aseguró que quería un “uso ético” de PimEyes, es decir, que la gente realice búsquedas solo de su propio rostro y no de los de extraños.

Sin embargo, PimEyes se esfuerza poco para hacer cumplir esta meta: solo coloca una casilla a la que un usuario de búsqueda debe darle clic para confirmar que el rostro que está subiendo es el suyo. Helen Nissenbaum, una profesora de la Universidad Cornell que estudia la privacidad, calificó esto de “absurdo”, a menos que el sitio exija al usuario presentar una identificación de gobierno para realizar búsquedas, como Scarlett tuvo que hacerlo cuando optó por la exclusión.

“Si hacer eso es útil, ver dónde está nuestra cara, tenemos que imaginar que una compañía que ofrece solo ese servicio va a ser transparente y auditada”, opinó Nissenbaum.

PimEyes no hace tales auditorías, aunque Gobronidze dijo que el sitio bloquea a los usuarios con actividad de búsqueda “que salga de los parámetros lógicos”, y dio como ejemplo a un usuario con más de mil búsquedas en un día. Confía en que los usuarios hagan lo correcto y mencionó que cualquiera que busque el rostro de otra persona sin permiso cometería una violación de la ley de privacidad europea.

“Sería responsabilidad de la persona que lo usa. Solo somos proveedores de una herramienta”, explicó. Exceptions to the rule

Despite saying PimEyes should be used only for self-searches, Gobronidze is open to other uses as long as they are “ethical.” He said he approved of investigative journalists and the role PimEyes played in identifying Americans who stormed the U.S. Capitol on Jan. 6, 2021.

The Times allows its journalists to use face recognition search engines for reporting but has internal rules about the practice. “Each request to use a facial recognition tool for reporting purposes requires prior review and approval by a senior member of the masthead and our legal department to ensure the usage adheres to our standards and applicable law,” said a Times spokeswoman, Danielle Rhoades Ha.

There are users Gobronidze doesn’t want. He recently blocked people in Russia from the site, in solidarity with Ukraine. He mentioned that PimEyes was willing, like Clearview AI, to offer its service for free to Ukrainian organizations or the Red Cross, if it could help in the search for missing persons.

The better-known Clearview AI has faced serious headwinds in Europe and around the world. Privacy regulators in Canada, Australia and parts of Europe have declared Clearview’s database of 20 billion face images illegal and ordered Clearview to delete their citizens’ photos. Italy and Britain issued multimillion-dollar fines.

A German data protection agency announced an investigation into PimEyes last year for possible violations of Europe’s privacy law, the General Data Protection Regulation, which includes strict rules around the use of biometric data. That investigation is continuing.

Gobronidze said he had not heard from any German authorities. “I am eager to answer all of the questions they might have,” he said.

He is not concerned about privacy regulators, he said, because PimEyes operates differently. He described it as almost being like a digital card catalog, saying the company does not store photos or individual face templates but rather URLs for individual images associated with the facial features they contain. It’s all public, he said, and PimEyes instructs users to search only for their own faces. Whether that architectural difference matters to regulators is yet to be determined.