Differential Privacy and the US Census | Cynthia Dwork | WiDS 2019

Summary

El video aborda el concepto de privacidad diferencial, centrándose en cómo proteger los datos personales en el análisis estadístico, especialmente en el contexto del Censo de EE. UU. Se explica cómo el mecanismo de privacidad, mediante el uso de ruido Laplace, garantiza la privacidad al añadir variabilidad a los datos. También se discuten los desafíos que surgieron en el Censo de 2020 debido a avances técnicos que permitieron ataques de diferencia, lo que llevó a la revisión de las técnicas utilizadas. El video destaca la importancia de equilibrar la precisión y la privacidad en la recopilación de datos.

Takeaways

• 😀 La privacidad diferencial se basa en agregar ruido a los datos para proteger la privacidad de los individuos en un conjunto de datos.
• 😀 La sensibilidad de una función es la cantidad máxima en que el valor de la función puede cambiar al agregar o eliminar un individuo, y en el caso de una función de conteo, la sensibilidad es 1.
• 😀 La privacidad en este contexto está determinada por el valor de epsilon (ε), que controla la cantidad de privacidad que se quiere garantizar. A menor epsilon, mayor es la privacidad, pero también más ruido se debe agregar a los datos.
• 😀 Para garantizar que el ruido no revele información privada, se utiliza la distribución Laplace, cuya desviación estándar es proporcional a la sensibilidad dividida por el valor de epsilon.
• 😀 Cuando el valor de epsilon es pequeño (es decir, cuando se quiere más privacidad), la desviación estándar de la distribución Laplace aumenta, lo que hace que el 'bulto' de la curva sea más grande.
• 😀 La técnica de privacidad diferencial se usa en contextos como el censo de la población, donde la privacidad de los datos individuales es fundamental.
• 😀 A medida que las técnicas de análisis de datos avanzan, surgen nuevos ataques que pueden comprometer la privacidad de los datos, lo que obliga a mejorar continuamente las técnicas de privacidad.
• 😀 El Censo de 2020 en los EE. UU. utilizó la privacidad diferencial para proteger los datos, reconociendo que las técnicas utilizadas en el censo de 2010 ya no eran suficientes debido a nuevas vulnerabilidades detectadas.
• 😀 La sensibilidad en un conjunto de datos multidimensional (como una consulta que involucra más de una variable) se mide como la diferencia L1 entre los valores de los resultados, es decir, la cantidad máxima que puede cambiar un dato.
• 😀 Se debe establecer un 'presupuesto de privacidad' para balancear la cantidad de privacidad con la utilidad de los datos para los analistas, lo cual plantea un desafío significativo en el ámbito estadístico.
• 😀 Las alternativas como los datos sintéticos y los enclaves de datos están siendo exploradas como métodos más complejos y desafiantes para preservar la privacidad, pero ofrecen nuevas y emocionantes posibilidades.

Q & A

¿Qué es la privacidad diferencial y cómo se aplica en el contexto del censo de EE. UU.?

La privacidad diferencial es una técnica que permite analizar datos sensibles mientras se protege la privacidad de los individuos. En el contexto del censo de EE. UU., se utiliza para asegurarse de que las respuestas de los encuestados no puedan ser identificadas ni reveladas, añadiendo ruido a los datos antes de su publicación.

¿Qué significa 'sensibilidad' en el contexto de la privacidad diferencial?

La sensibilidad se refiere a la cantidad en que un valor de salida de una consulta puede cambiar al modificar un solo dato de entrada. En el caso de la cuenta de personas, la sensibilidad sería 1, porque un solo individuo puede cambiar el resultado de la consulta en 1.

¿Cómo afecta el valor de epsilon a la privacidad y la distribución de Laplace?

El valor de epsilon controla la cantidad de privacidad que se pierde. Un valor pequeño de epsilon implica mayor privacidad, lo que lleva a una distribución de Laplace más ancha (con más ruido), mientras que un valor grande de epsilon reduce el ruido y, por lo tanto, la privacidad.

¿Cuál es la relación entre la sensibilidad, el epsilon y la desviación estándar en la distribución de Laplace?

La desviación estándar de la distribución de Laplace está relacionada con la sensibilidad y el epsilon mediante la fórmula: desviación estándar = sensibilidad / epsilon. Esto significa que una mayor sensibilidad o un menor valor de epsilon resultan en una distribución más ancha (más ruido).

¿Qué es un ataque de diferenciación y cómo afecta a la privacidad?

Un ataque de diferenciación intenta reconstruir datos sensibles a partir de resultados agregados. Este tipo de ataque es posible cuando no se aplica suficiente privacidad diferencial, lo que permite que los atacantes identifiquen la información de los individuos en los datos publicados.

¿Por qué la técnica utilizada en el censo de 2010 ya no es suficiente según los avances técnicos?

Los avances técnicos han revelado vulnerabilidades que permiten reconstruir datos de tablas que previamente se consideraban seguras. Estos avances demuestran que la técnica anterior ya no es efectiva para proteger la privacidad, lo que llevó al cambio en la estrategia para el censo de 2020.

¿Qué desafíos enfrentan los estadísticos al trabajar con interfaces de privacidad?

Los estadísticos están acostumbrados a trabajar con datos micro o sintéticos, pero las interfaces de privacidad, como las que protegen con privacidad diferencial, son más complejas y difíciles de manejar. La creación de datos sintéticos y los enclaves de datos son soluciones desafiantes pero prometedoras en este campo.

¿Qué es un 'enclave' en el contexto de la privacidad diferencial?

Un enclave es un entorno seguro donde los datos sensibles pueden ser procesados sin que se expongan a riesgo. Estos enclaves permiten realizar análisis sin revelar la información privada subyacente, pero su implementación y gestión son complejas.

¿Cómo se determina el presupuesto de privacidad en los censos y otras investigaciones?

El presupuesto de privacidad se determina mediante el valor de epsilon, que controla el nivel de privacidad que se desea mantener. Los analistas y responsables de políticas deben decidir cómo distribuir este presupuesto entre diferentes consultas o estadísticas, equilibrando la privacidad y la utilidad de los datos.

¿Por qué es importante controlar la 'pérdida de privacidad' en el diseño de algoritmos para la privacidad diferencial?

Controlar la pérdida de privacidad es crucial para asegurar que los datos procesados sean útiles sin comprometer la privacidad de los individuos. El diseño del algoritmo debe equilibrar el ruido agregado para proteger la privacidad sin hacer que los resultados sean inútiles para los análisis.