Capítulo 10 — Ética e dados

Mapa da aula

Aula 10 publicada. Mapa, exemplo, EX028.

flowchart TD
  N0["10.1 Além da lei"]
  N1["10.2 Efeitos sobre os grupos"]
  N2["10.3 Modelos de análise"]
  N3["10.4 A ética na governança"]
  N0 --> N1 --> N2 --> N3
  N3 --> EX["Exemplo resolvido"]
  EX --> Q["Exercício EX028"]

Desenho lógico

flowchart LR
  N0["10.1 Além da lei"]
  N1["10.2 Efeitos sobre os grupos"]
  N2["10.3 Modelos de análise"]
  N3["10.4 A ética na governança"]
  N0 --> N1 --> N2 --> N3 --> Q["EX028"]

[10.1 Além da lei]
    |
    v
[10.2 Efeitos sobre os grupos]
    |
    v
[10.3 Modelos de análise]
    |
    v
[10.4 A ética na governança]
    |
    v
[Exemplo resolvido] --> [Exercício EX028]

Objetivos de aprendizagem

Você vai (1) aplicar o raciocínio ético aos usos de dados; (2) considerar os efeitos sobre diferentes grupos; (3) explicar o papel da ética ao lado do direito.

10.1 Além da lei

Alguns usos de dados são legais, mas questionáveis. A equipe de marketing da Harbourline propõe usar padrões de compra para inferir quais membros estão grávidas e enviar ofertas de produtos para bebês. Amara pondera se os membros esperariam isso, se poderia causar dano caso as ofertas chegassem a um domicílio antes que a pessoa decidisse compartilhar a notícia e se o benefício justifica o risco. Ela conclui que a legalidade é um mínimo, e que a governança deve perguntar também se um uso é justo e esperado. O marketing suspende a proposta para revisão.

10.2 Efeitos sobre os grupos

Amara examina uma proposta de oferecer descontos apenas aos membros que usam o aplicativo. Os membros mais velhos e os que não têm smartphone sairiam perdendo. Ela verifica os dados sintéticos de membros e descobre que os usuários do aplicativo são, em sua maioria, mais jovens. Ela sugere oferecer os mesmos descontos por meio de cupons impressos nos caixas. Ela aprende que decisões orientadas por dados podem prejudicar grupos sem que ninguém tenha essa intenção, e que verificar os efeitos entre os grupos deveria ser rotina antes de lançar programas assim. O marketing adota a opção dos cupons na campanha seguinte. Os membros mais velhos a recebem bem.

10.3 Modelos de análise

O Dr. Lindqvist apresenta modelos simples: considerar as consequências para todos os afetados, respeitar a autonomia e as expectativas das pessoas, tratar os grupos com justiça e ser transparente sobre as práticas. Amara os aplica à proposta de inferir gravidez e escreve uma avaliação curta recomendando contra ela. O marketing aceita um plano revisto que oferece descontos em produtos para bebês aos membros que escolhem o interesse família em seu perfil. Ela observa que os modelos ajudam a estruturar a discussão, em vez de produzir respostas automáticas. Sua avaliação é guardada como exemplo para revisões futuras. O marketing concorda.

10.4 A ética na governança

Amara propõe que o grupo de governança de dados da Harbourline revise os novos usos de dados que levantam questões éticas, usando uma lista de verificação curta. O grupo incluiria pessoas do marketing, das lojas e da proteção de dados. Ela observa que a revisão ética funciona melhor cedo, antes de as campanhas serem desenhadas, e que deve ser rápida para usos de baixo risco. O Dr. Lindqvist acrescenta que as organizações a quem se confiam dados precisam merecer essa confiança continuamente, por meio de suas escolhas. O grupo de governança testa a lista por três meses e constata que a maioria das revisões leva menos de uma hora.

Exemplo resolvido

Amara avalia uma proposta de inferir gravidez e recomenda contra ela, descobre que descontos exclusivos do aplicativo prejudicam os membros mais velhos, aplica modelos simples e propõe uma lista de verificação ética para novos usos.

Caso sintético. As propostas são sintéticas.

Erros e limites

Legal não significa aceitável; pergunte se os usos são justos e esperados.

Exercícios

• EX028 — Alternativa à inferência. O que substituiu o plano de inferir gravidez?
  Mostrar critérios de avaliação

  Rubrica: 3 = descontos para membros que escolhem o interesse família;; 2 = parcialmente correto;; 1 = vago;; 0 = nenhuma.
• EX029 — Correção do desconto no aplicativo. Como Amara tratou o desconto exclusivo do aplicativo?
  Mostrar critérios de avaliação

  Rubrica: 3 = cupons impressos nos caixas;; 2 = parcialmente correto;; 1 = vago;; 0 = nenhuma.
• EX030 — Momento da revisão. Quando a revisão ética funciona melhor?
  Mostrar critérios de avaliação

  Rubrica: 3 = cedo, antes de as campanhas serem desenhadas;; 2 = parcialmente correto;; 1 = tarde;; 0 = nenhuma.