Capítulo 36 — Privacidade e proteção de dados: desempenho e escala
Mapa da aula
Aula 36 publicada. Mapa, exemplo, EX106.
flowchart TD
N0["36.1 Publicação de estatísticas das clínicas"]
N1["36.2 O laboratório do orçamento"]
N2["36.3 Efeitos de escala"]
N3["36.4 Engenharia do pipeline"]
N4["Laboratório — Divisão de um orçamento anual de priva"]
N5["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5
N5 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX106"]
Desenho lógico
flowchart LR
N0["36.1 Publicação de estatísticas das clínicas"]
N1["36.2 O laboratório do orçamento"]
N2["36.3 Efeitos de escala"]
N3["36.4 Engenharia do pipeline"]
N4["Laboratório — Divisão de um orçamento anual de priva"]
N5["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> Q["EX106"]
[36.1 Publicação de estatísticas das clínicas]
|
v
[36.2 O laboratório do orçamento]
|
v
[36.3 Efeitos de escala]
|
v
[36.4 Engenharia do pipeline]
|
v
[Laboratório — Divisão de um orçamento anual de priva]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX106]
Objetivos de aprendizagem
Você vai (1) planejar um orçamento de privacidade diferencial para publicações repetidas; (2) entender a acurácia em escala; (3) escolher a frequência das publicações.
36.1 Publicação de estatísticas das clínicas
A Pellmore quer publicar estatísticas de tempo de espera e de diagnósticos das clínicas para parceiros de saúde pública. Zara propõe a privacidade diferencial para as contagens publicadas. Dwork e Roth (2014) explicam que a perda de privacidade se acumula entre as publicações pela composição, então um orçamento anual precisa ser dividido entre todas elas. Ela fixa um épsilon anual ilustrativo de três para uma família de contagens e pergunta com que frequência a Pellmore pode publicar mantendo uma acurácia útil. A pergunta liga escala e desempenho à privacidade: mais publicações significam mais ruído em cada uma, e menos utilidade para quem lê.
36.2 O laboratório do orçamento
O laboratório divide o orçamento anual igualmente entre as publicações e calcula o erro de Laplace para uma contagem com sensibilidade um. As publicações mensais recebem épsilon 0,25 cada uma e um erro absoluto médio de 4,0 por contagem. As semanais recebem épsilon 0,0577 e erro de 17,3. As diárias recebem épsilon 0,0082 e erro de 121,7, o que encobriria a maioria das contagens das clínicas. Zara recomenda a publicação mensal. Ela explica aos parceiros que números diários pareceriam precisos, mas mostrariam sobretudo ruído, o que mais confundiria do que informaria as decisões de saúde pública. As publicações menos frequentes gastam o orçamento com mais sabedoria.
36.3 Efeitos de escala
Contagens maiores toleram melhor o ruído. Um total nacional de milhares quase não é afetado por um erro de quatro, enquanto a contagem de vinte de uma clínica rural muda visivelmente. Zara propõe publicar em nível regional os diagnósticos raros e em nível de clínica os comuns. Ela também explica que o orçamento vale por pessoa: se cada pessoa contribuir para muitas contagens, a sensibilidade aumenta. Ela limita a contribuição de cada paciente a uma contagem por publicação, o que mantém a sensibilidade em um e torna válidos os números de erro do laboratório. Essa regra entra no código do pipeline.
36.4 Engenharia do pipeline
Zara implementa um pipeline de publicação que acompanha o orçamento gasto, recusa publicações que ultrapassariam o orçamento anual e registra cada publicação com seu épsilon. O pós-processamento arredonda as contagens com ruído e substitui valores negativos por zero, o que não enfraquece a garantia. Ela escreve uma nota pública curta explicando o método. O Prof. Holm lembra à turma que as implementações de privacidade diferencial podem falhar por bugs sutis, como uma geração ruim de números aleatórios, então o pipeline usa uma biblioteca avaliada e revisão independente. As sementes nunca são fixadas em produção.
Laboratório — Divisão de um orçamento anual de privacidade entre as publicações
# Differential privacy budget for daily clinic dashboards: per-release epsilon and Laplace error under a yearly budget.
yearly = 3.0
for releases in [12, 52, 365]:
eps = yearly / releases
print(f"{releases:3d} releases/year: epsilon per release {eps:.4f}; mean abs error per count {1/eps:7.1f}")
Execute com python3 lab_budget.py. Saída verificada:
12 releases/year: epsilon per release 0.2500; mean abs error per count 4.0
52 releases/year: epsilon per release 0.0577; mean abs error per count 17.3
365 releases/year: epsilon per release 0.0082; mean abs error per count 121.7
Exemplo resolvido
Zara divide um épsilon anual de 3 entre as publicações: a mensal dá erro de 4,0 por contagem, a semanal 17,3 e a diária 121,7, então ela recomenda a publicação mensal, com agregação regional para os diagnósticos raros.
Caso sintético. O orçamento e as contagens são ilustrativos; Dwork e Roth (2014) é real.
Erros e limites
A composição simples é conservadora; contabilizações avançadas dão limites mais justos, mas exigem especialização.
Exercícios
- EX106 — Erro diário. Que erro teriam as publicações diárias? Rubrica: 3 = 121,7 por contagem;; 2 = mais de cem;; 1 = errado;; 0 = nenhuma.
- EX107 — Limite de contribuição. Por que limitar cada paciente a uma contagem por publicação? Rubrica: 3 = mantém a sensibilidade em um, para que os números de erro valham;; 2 = menciona sensibilidade;; 1 = vago;; 0 = nenhuma.
- EX108 — Pós-processamento seguro. Arredondar e limitar as contagens com ruído enfraquece a garantia? Rubrica: 3 = não; o pós-processamento não enfraquece a privacidade diferencial;; 2 = não, sem justificativa;; 1 = sim;; 0 = nenhuma.
Síntese
O capítulo 36 planeja publicações em escala. O capítulo 37 conduz a privacidade nas operações.
Continue estudando — aula 36 (capítulo 36 de 50)
← Capítulo 35 · Índice das aulas · Capítulo 37 →
Continue para a próxima aula já escrita.