What facial recognition steals from us

Summary

El script explora la tecnología de reconocimiento facial y cómo ha cambiado la forma en que nos movemos en espacios públicos. Mientras que Google no ha activado esta función, Yandex, el motor de búsqueda líder en Rusia, lo ha hecho, lo que permite buscar nombres a partir de imágenes faciales. Esto representa un cambio significativo en nuestras vidas offline, donde normalmente elegimos a quién presentarnos. La tecnología de reconocimiento facial utiliza componentes similares a nuestro propio sistema de reconocimiento facial, utilizando cámaras digitales como sus 'ojos' y algoritmos para medir características faciales. A pesar de los avances, las herramientas aún no funcionan de manera uniforme en todos los tipos de personas o fotos. La tecnología se ha distribuido en forma de software listo para usar, pero requiere una base de datos de caras conocidas para funcionar. La principal preocupación es la pérdida de la capacidad de moverse anónimamente en espacios públicos, algo que tradicionalmente se ha tomado por hecho. Los gobiernos y las empresas tienen acceso a grandes bases de datos faciales, lo que amplía significativamente su poder. La tecnología también se ha utilizado para identificar a personas vinculadas a ataques, como el de vuelo MH17, y ha planteado preguntas sobre la privacidad y la expectativa de anonimato en la vida pública y privada. Finalmente, el script sugiere que la pérdida de la 'oscuridad' o la dificultad para obtener información personal puede erosionar la individualidad y la intimidad en la vida humana.

Takeaways

• 🔍 Google y Yandex ofrecen búsqueda inversa de imágenes, pero con enfoques diferentes: Google busca imágenes visualmente similares, mientras que Yandex busca caras específicas.
• 📷 La tecnología de reconocimiento facial utiliza componentes similares al sistema de reconocimiento facial humano, incluyendo la captura de imágenes con cámaras digitales y el análisis de características faciales.
• 🧠 Los sistemas de reconocimiento facial se entrenan con conjuntos de tripletas y utilizan algoritmos para medir y comparar las características faciales de las imágenes.
• 📈 A pesar de su refinamiento a través de millones de ejemplos, los algoritmos de reconocimiento facial no funcionan igualmente bien en todos los tipos de personas o fotografías.
• 🚫 El uso de software de reconocimiento facial requiere que una persona esté en una base de datos de caras conocidas, lo que implica una potencial pérdida de privacidad y anonimato en espacios públicos.
• 🏢 Empresas y gobiernos utilizan bases de datos de reconocimiento facial para identificar a personas de interés, lo que puede llevar a la creación de listas de seguimiento sin el consentimiento de las personas afectadas.
• 🤔 La capacidad de moverse anónimamente en espacios públicos está en riesgo debido al reconocimiento facial, lo que puede afectar nuestra privacidad y la idea de lo que significa tener 'privacidad en público'.
• 🧑 La identidad de 'obscuridad', que sugiere que la información personal es más segura cuando es difícil de obtener o entender, se ve amenazada por el reconocimiento facial.
• 🌐 El reconocimiento facial ha reducido los costos de transacción para encontrar, almacenar, compartir e interpretar información, lo que podría erosionar nuestra privacidad.
• 📱 La tecnología de reconocimiento facial, como FaceID en iPhones, se basa en bases de datos de caras voluntariamente proporcionadas por los usuarios para servicios de autenticación.
• 🚨 Algunas ciudades en los Estados Unidos han prohibido el uso gubernamental del reconocimiento facial debido a preocupaciones sobre privacidad y la falta de consentimiento para su reutilización.
• 🎭 El uso del reconocimiento facial en contextos variados, como la identificación de activistas, policías, o personas en proyectos de arte, plantea cuestiones éticas y sobre la autonomía individual en la expresión y la vida privada.

Q & A

¿Cómo funciona la búsqueda inversa de imágenes de Google?

La búsqueda inversa de imágenes de Google busca sitios web donde una imagen ha aparecido o proporciona imágenes visualmente similares que comparten el mismo color y composición.

¿Qué diferencia hay entre la búsqueda inversa de imágenes de Google y la de Yandex?

Google no ha activado el reconocimiento facial, mientras que Yandex sí. En Google, puedes ingresar un nombre para buscar una cara, pero en Yandex, puedes ingresar una cara para buscar un nombre.

¿Cómo se desarrolló el sistema de reconocimiento facial de una computadora?

Un sistema de reconocimiento facial de una computadora tiene componentes similares al sistema de reconocimiento facial humano. Utiliza cámaras digitales como sus ojos y convierte la luz en datos, registrando imágenes en chips de memoria en lugar de en película fotográfica.

¿Cómo se construyó la 'mente' del sistema de reconocimiento facial?

La 'mente' del sistema de reconocimiento facial está compuesta por una serie de algoritmos. Estos algoritmos localizan caras en una imagen, mapean las características faciales para corregir la rotación de la cabeza y toman más de 100 mediciones que definen la cara individual.

¿Cómo se entrenan los algoritmos de reconocimiento facial?

Los algoritmos se entrenan con conjuntos de tripletas: una foto de ancla, otra foto de la misma persona y una foto de una persona diferente. El algoritmo decide qué medir para que la diferencia estadística entre las dos fotos coincidentes sea lo más pequeña posible, mientras que la distancia entre las fotos no coincidentes sea lo más grande posible.

¿Por qué los algoritmos de reconocimiento facial no funcionan de manera uniforme en todos los tipos de personas o en todas las fotos?

A pesar de ser refinados a través de millones de ejemplos, los algoritmos de reconocimiento facial aún no logran un rendimiento igual en todos los tipos de personas o en todos los tipos de fotos debido a las variaciones en la calidad de las imágenes y las diferencias físicas entre individuos.

¿Cómo se relaciona la base de datos de caras conocidas con el uso del software de reconocimiento facial?

Quienes usan el software de reconocimiento facial no podrán identificarte hasta que estés en su base de datos de caras conocidas. Esta 'memoria' del sistema es separada de las imágenes de entrenamiento.

¿Qué tipo de entidades suelen tener acceso a las bases de datos más grandes de nombres y caras?

Los gobiernos generalmente tienen acceso a las bases de datos más grandes de nombres y caras, lo que significa que el reconocimiento facial amplía significativamente el poder del estado.

¿Cómo los comercios, bancos y estadios pueden utilizar el reconocimiento facial?

Pueden crear o comprar listas de personas de interés conocidas, como ladrones en tiendas, clientes valiosos u otros individuos, para recibir notificaciones si una de esas personas aparece.

¿Qué amenaza representa el reconocimiento facial para la 'opacidad' o 'obscuridad'?

El reconocimiento facial es una amenaza para la opacidad, que es la idea de que la información personal es más segura cuando es difícil de obtener o entender. La tecnología reduce los costos de transacción para encontrar, almacenar, compartir e interpretar información correctamente.

¿Cómo se puede usar el reconocimiento facial en la práctica con una red social como VK?

Se puede utilizar el reconocimiento facial para encontrar perfiles de individuos en VK a partir de un video, como se muestra en el ejemplo de Aric Toler, un periodista que identifica a hooligans de fútbol en un video随机的.

¿Cómo la tecnología de reconocimiento facial podría cambiar el significado de la cara humana para siempre?

La tecnología de reconocimiento facial, construida y operada utilizando fotos tomadas para compartir con amigos, documentar la historia o simplemente obtener una identificación gubernamental, quita las protecciones que siempre ha proporcionado la opacidad. Esto podría cambiar la naturaleza de la cara humana y afectar la privacidad en espacios públicos.

Outlines

00:00

🔍 Reconocimiento facial: la búsqueda inversa de imágenes

Este párrafo explora la diferencia entre el buscador de imágenes inversas de Google y Yandex, el motor de búsqueda líder en Rusia. Mientras que Google busca imágenes visualmente similares, Yandex se enfoca en el reconocimiento facial. Esto representa un cambio significativo en nuestras vidas offline, donde normalmente elegimos a quién presentamos. La tecnología de reconocimiento facial ha evolucionado en los últimos cinco años y utiliza cámaras digitales y algoritmos para analizar y comparar características faciales. Aunque los algoritmos se han refinado con millones de ejemplos, su rendimiento varía según el tipo de personas y fotos. Además, la utilización de esta tecnología por parte de gobiernos y empresas puede ampliar significativamente sus capacidades, lo que plantea preocupaciones sobre la privacidad y el anonimato en espacios públicos.

05:01

🚫 La amenaza al anonimato y la intimidad en la era del reconocimiento facial

Este párrafo aborda las implicaciones de la tecnología de reconocimiento facial en nuestra privacidad y la idea del 'obscurantismo', que es la seguridad de la información personal cuando es difícil de obtener o entender. La tecnología de reconocimiento facial se considera una de las herramientas más invasivas para este concepto, ya que reduce los costos de transacción para encontrar, almacenar, compartir e interpretar información. Se discute cómo se puede utilizar esta tecnología para identificar a personas en línea y cómo esto puede afectar nuestra expectativa de anonimato en la vida real. Además, se menciona cómo la forma en que compartimos nuestras imágenes y nombres en las redes sociales puede entrar en conflicto con nuestra expectativa de privacidad en el mundo offline. La pérdida de obsurez puede llevar a una 'colapso de contexto', lo que significa que las diferentes facetas de nuestra vida pueden confundirse, lo que puede comprometer nuestra individualidad y la intimidad.

Keywords

💡Búsqueda inversa de imágenes

La búsqueda inversa de imágenes es un proceso mediante el cual se utiliza una imagen para encontrar su ubicación en la web o imágenes visualmente similares. En el contexto del video, se destaca la diferencia entre los motores de búsqueda de Google y Yandex, donde el primero busca imágenes similares y el segundo busca caras específicas, destacando la importancia de esta tecnología en la privacidad y el reconocimiento facial.

💡Reconocimiento facial

El reconocimiento facial es una tecnología que utiliza algoritmos para identificar a una persona basándose en sus características faciales. En el video, se discute cómo este sistema funciona, cómo se entrena con conjuntos de tripletas y cómo se relaciona con la pérdida de la 'obscuridad' o privacidad en espacios públicos.

💡Algoritmos de aprendizaje profundo

Los algoritmos de aprendizaje profundo son programas informáticos capaces de analizar grandes cantidades de datos para encontrar patrones y relaciones. En el video, se menciona que estos algoritmos son esenciales para el entrenamiento del ' cerebro ' de los sistemas de reconocimiento facial, donde buscan correlaciones en los datos de píxeles para definir caras individuales.

💡Privacidad en espacios públicos

La privacidad en espacios públicos hace referencia a la capacidad de las personas de moverse y existir en áreas públicas sin ser identificadas o monitoreadas. El video destaca cómo el reconocimiento facial puede amenazar esta privacidad, permitiendo a los gobiernos y otras entidades rastrear y reconocer a individuos en entornos que tradicionalmente se consideraban anónimos.

💡Obscuridad

El término 'obscuridad' se refiere a la idea de que la información personal es más segura cuando es difícil de obtener o entender. En el video, Evan Selinger, profesor de filosofía, argumenta que el reconocimiento facial es una amenaza para la obscuridad, ya que reduce los costos de transacción para encontrar, almacenar, compartir e interpretar información personal.

💡Contraparte de la vida en línea

La contraparte de la vida en línea se refiere a la expectativa de mantener la privacidad y el anonimato en la vida fuera de Internet, a pesar de compartir información personal en línea. El video cuestiona si es razonable esperar no ser reconocidos en la vida real después de compartir nuestra información en redes sociales y cómo el reconocimiento facial puede colapsar los contextos de vida pública y privada.

💡Colapso de contexto

El colapso de contexto es un fenómeno en el que las diferentes esferas de la vida de una persona, que tradicionalmente se mantenían separadas, se mezclan debido a la pérdida de privacidad. En el video, se argumenta que el colapso de contexto puede comprometer la individualidad y la intimidad, al no permitir a las personas expresarse de manera diversa en diferentes contextos de su vida.

💡Bases de datos faciales

Las bases de datos faciales son colecciones de imágenes faciales y su correspondiente información personal que son utilizadas por sistemas de reconocimiento facial para identificar a individuos. En el video, se discute cómo los gobiernos y empresas tienen acceso a estas bases de datos y cómo esto puede aumentar el poder del estado y de las corporaciones, respectivamente.

💡Consentimiento informado

El consentimiento informado es el proceso por el cual se obtiene la aprobación de una persona para participar en una acción o para el uso de su información personal. El video señala que el uso de imágenes para el reconocimiento facial sin el consentimiento de las personas implica una violación de su privacidad y es parte del debate sobre la regulación de esta tecnología.

💡Redes sociales

Las redes sociales son plataformas en línea que permiten a las personas interactuar y compartir contenido. En el video, se menciona cómo las imágenes compartidas en redes sociales como Facebook, Twitter y LinkedIn pueden ser utilizadas para construir y operar sistemas de reconocimiento facial, planteando cuestiones de privacidad y consentimiento.

💡VK (Red social rusa)

VK es una red social popular en Rusia que se utiliza como ejemplo en el video para ilustrar cómo el reconocimiento facial puede ser utilizado para identificar a individuos en videos y fotos. Se muestra cómo es posible encontrar perfiles de personas en VK a partir de imágenes borrosas, subrayando el poder y los riesgos de la tecnología de reconocimiento facial.

Highlights

Google's reverse image search finds websites where a picture has appeared or visually similar images.

Yandex's reverse image search focuses on finding similar faces rather than visually similar images.

Google has not enabled facial recognition, unlike Yandex, which allows searching for a name by entering a face.

Facial recognition systems have components similar to human facial recognition, processing features and recalling identity.

Automated facial recognition has developed significantly in the past 5 years with the advent of digital cameras and social internet.

Digital imagery and social media platforms like Facebook have enabled the collection of images for facial recognition systems.

Computer vision researchers use digital photos from the internet to build the 'mind' of facial recognition systems.

Facial recognition algorithms locate faces, map features, and take over 100 measurements to define individual faces.

The exact measurements used by facial recognition are determined by deep learning algorithms looking for correlations in pixel data.

Algorithms are trained using sets of triplets to distinguish between matching and non-matching photos.

Facial recognition software performance varies and is not equally effective for all types of people or photos.

Facial recognition systems require a database of known faces, which can come from various sources including social media.

Governments have access to large databases for facial recognition, significantly expanding state power.

Facial recognition can be used by retailers, banks, and stadiums to create watchlists for persons of interest.

Social media profiles contribute to the labeled photos available for facial recognition systems.

Facial recognition threatens the concept of obscurity, making personal information harder to obtain or understand.

Technologies like facial recognition reduce the transaction costs of finding, storing, sharing, and interpreting information.

Facial recognition is being used to identify individuals in various contexts, from criminal investigations to art projects.

The expectation of not being recognized offline despite online sharing raises questions about privacy and anonymity.

Losing obscurity can lead to context collapse, where different aspects of life bleed into one another, affecting individuality and intimacy.

Facial recognition technology built from shared photos threatens to change the meaning of the human face and our privacy forever.

Transcripts

If you upload a photo into Google’s reverse image search, it’ll find websites where

that picture has appeared, or provide “visually similar images” that have the same coloring

and composition. The leading search engine in Russia, called

Yandex, has reverse image search too but it doesn’t work the same way. It’s not looking

for visually similar images. It’s looking for similar faces, the same face.

The difference between these search engines is that Google hasn't switched on facial recognition

and Yandex has. On Google, you can enter a name and look for a face. But on Yandex, you

can enter a face and look for a name. And that distinction represents a potentially

enormous shift in our offline lives, where we usually decide who we introduce ourselves

to. Now that computer scientists have created

tools that can turn faces into nametags, it’s worth reflecting on how we got here and what

we stand to lose.

A computer’s facial recognition system has broadly the same components as your own facial

recognition system. You see someone with your eyes, your mind processes the features of

their face, and recalls their identity from your memory.

Now imagine if you could have eyes in lots of places and could download and store memories

from other people, then you have something more like the automated version of facial

recognition, which has only come together in the past 5 years or so.

Its eyes are digital cameras, revolutionary machines that turn light into data. "It's

a state of the art digital model, which records images on memory chips instead of photographic

film." Digital imagery arose in the early 2000s, which coincided with the arrival of

the social internet. So right when we were able to take an unlimited number of pictures,

Facebook, Flickr, Youtube, and other sites told us our images had a home online.

"100 million photos are being tagged every day on Facebook."

Professional photography also went up on websites, news articles, and photo libraries, and Google’s

web crawlers gathered them into Image Search. And then the computer vision researchers went

to work. The millions of digital photos posted to the internet, like the Facebook pictures

where we tagged our friends or Google image results of celebrities-- they were used to

build the “mind” of facial recognition systems. That mind is made up of a series

of algorithms. They locate faces in an image, map facial

features to correct for head rotation, and then take over 100 measurements that define

that individual face. Those measurements are usually described as

the distance between the eyes, the length of the nose, the width of the mouth. But the

truth is, nobody knows exactly what’s being measured. That’s determined by a deep learning

algorithm looking for correlations in raw pixel data.

To train that algorithm, engineers give it sets of triplets: an anchor photo, another

photo of the same person, and a photo of a different person. The algorithm is tasked

with deciding what to measure so that the statistical difference between the two matching

photos is as small as possible while the distance between the non-matching photos is as large

as possible.  These algorithms are refined through millions

of examples, but they still don’t perform equally well on all types of people or on

all types of photos. That hasn’t stopped them from being packaged

and distributed as ready-to-use software. But whoever uses that software won’t be

able to identify you until you’re in their database of known faces. That’s the “memory”

of the system - and it’s separate from the training images.

In the case of the iphone’s faceID, it’s a database of one - you volunteer to store

your face on your device in exchange for easily unlocking your phone.

Companies like Facebook and Google also keep databases of their users. But it’s governments

that typically have access to the largest databases of names and faces, so facial recognition

significantly expands the power of the state. They collected these images for other reasons

and now they’re repurposing them for facial recognition without telling us or obtaining

our consent, which is why several US cities have banned government use of facial recognition.

Retail stores, banks, and stadiums can create or buy watchlists of known shoplifters, valued

customers, or other persons of interest, so they’re notified if one of those people

shows up. And then there’s another source of labeled

photos. Those are the ones we’ve been labeling ourselves by setting up profiles on social

media networks. It’s typically against the terms of use

to program bots that can download faces and names from Linkedin, Twitter, of Facebook,

but it’s doable. And what’s at stake is something that most

of us take for granted: our ability to move through public spaces anonymously.

"So we typically think of public and private as being opposites. But is there such a thing

as having privacy when we're in public?" "I would like to think so."

Evan Selinger is a professor of philosophy who argues that facial recognition is a threat

to “obscurity,” Which is the idea that personal information is safer when it is hard

to obtain or understand. "So We have natural sort of limitations in

what we can perceive and what we can hear. Even the human mind has a sort of basic limits

in how much information it can store. So one of the things that technologies do

is they reduce the transaction costs of being able to find information, being

able to store information, being able to share information, and being able to correctly interpret

information. And so facial recognition is probably the most obscurity-eviscerating technology

ever invented."

We don’t have to imagine how this could play out. It’s already happening with photos from

the Russian social media network VK. Aric Toler, a journalist who covers Europe

for Bellingcat, showed me how it works with a random video of Russian soccer fans picking

fights in Poland. "There's about 10 or so of these soccer hooligans

in this video and for every single one of them you can find their profiles on VK. OK

I'll get this guy in the background. Let me save him. OK so here's the first result. This

guy. So if you click the photo here it will take you directly to the photo's link. And

here he is. I think he's wearing I think he's wearing the same shirt. Yeah he's wearing

the same shirt even. This is him too. So this is probably like his buddy who uploaded a

photo. Yeah. So this is this guy's profile and here's his buddy right here. Yeah so here

he is during a baptism, probably." "And the photo you uploaded is not particularly clear

or high resolution." No "not at all, right, it's just a 200 by 100. So it does feel weird

when you do this and you have access to way more information than you should, is what

it feels like. But also we only publish what we’re like one thousand percent sure of

and if possible we maybe dont include the names of the people."

How you feel about this technology probably depends on how much you sympathize with the

person being identified. Bellingcat has used these tools to find identify

people linked to the attack on flight MH17 in Eastern Ukraine. It’s also been used

to doxx police officers accused of brutality, anti-corruption activists protesting against

Vladimir Putin, random strangers as part of an art project, and sex workers, porn performers,

and others who have posted anonymous photos online.

"The way that we share our images and our names on social media, LinkedIn Twitter, Instagram,

it seems to suggest that we don't want to be obscure or we're not really looking to

be anonymous. Are we allowed to want to share and connect with other people online and still

be able to expect not to be recognized when we're offline in our regular lives?"

"I would say absolutely. In fact I would go further and say if we ever create a society

where that's not a reasonable expectation, a lot of the things that are fundamental to

being a human being are really going to be compromised.

Having any individuality requires experimenting in life and experimenting requires the protections

of some obscurity. But also intimacy requires obscurity. Right. If you want to be able to

share different parts of your life with different people, and I think most of us do right. We

don't want to come into work and behave the same way we do with our friends. We don't

want to treat our partners in the same way we do acquaintances. And the concern, when

you lose too much obscurity, is that these domains bleed into one another and create

what's called context collapse. And it doesn't mean that one is more real or one is more

authentic. Leading a rich life requires us to be able to express ourselves in these diverse

ways." The photos we took to share with friends,

or document history, or simply get a government ID have been used to build and operate a technology

that strips away the protections that obscurity has always provided us. It’s nothing less

than a massive bait-and-switch. One that could change the meaning of the human face forever.