Capítulo 25 — Ateliê de projeto I

Mapa da aula

Aula 25 publicada. Mapa, exemplo, EX073.

flowchart TD
  N0["25.1 O enunciado"]
  N1["25.2 Alternativas"]
  N2["25.3 Decisões automatizadas"]
  N3["25.4 Crítica"]
  N4["Síntese"]
  N0 --> N1 --> N2 --> N3 --> N4
  N4 --> EX["Exemplo resolvido"]
  EX --> Q["Exercício EX073"]

Desenho lógico

flowchart LR
  N0["25.1 O enunciado"]
  N1["25.2 Alternativas"]
  N2["25.3 Decisões automatizadas"]
  N3["25.4 Crítica"]
  N4["Síntese"]
  N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX073"]

[25.1 O enunciado]
    |
    v
[25.2 Alternativas]
    |
    v
[25.3 Decisões automatizadas]
    |
    v
[25.4 Crítica]
    |
    v
[Síntese]
    |
    v
[Exemplo resolvido] --> [Exercício EX073]

Objetivos de aprendizagem

Você vai (1) projetar de ponta a ponta uma funcionalidade que preserve a privacidade; (2) apresentar alternativas de projeto; (3) responder às críticas em um ateliê.

25.1 O enunciado

No primeiro ateliê de projeto a equipe de Zara recebe um enunciado: projetar uma triagem de sintomas para o aplicativo da Pellmore que sugira se o paciente precisa de uma teleconsulta, de um farmacêutico ou de atendimento de emergência. A funcionalidade precisa dos sintomas, que são dados de saúde. A equipe tem de minimizar os dados, explicar a lógica aos pacientes e não guardar mais do que o necessário. O Prof. Holm acrescenta uma restrição: o projeto precisa funcionar se o paciente recusar a análise de uso. O enunciado obriga a equipe a tratar a privacidade como insumo de projeto desde o primeiro esboço, e não como revisão no fim.

25.2 Alternativas

A equipe esboça três alternativas. Na primeira, os sintomas são enviados a um servidor que executa o modelo de triagem e guarda as respostas para aprimoramento. Na segunda, o modelo roda no celular e nada sai do aparelho, a menos que o paciente agende. Na terceira, as respostas são enviadas, mas excluídas depois que o resultado é exibido. Zara avalia cada uma quanto aos dados coletados, à transparência, à acurácia e ao custo. A triagem no aparelho é a que menos coleta, mas atualizar o modelo é mais difícil e alguns celulares mais antigos podem não conseguir executá-lo de forma confiável.

25.3 Decisões automatizadas

A triagem sugere uma conduta, o que levanta a questão da decisão automatizada. O artigo 22 do GDPR dá às pessoas o direito de não ficar sujeitas a uma decisão tomada exclusivamente com base em tratamento automatizado que as afete significativamente, com exceções; a LGPD garante, no art. 20, o direito de solicitar a revisão dessas decisões. A equipe de Zara projeta a triagem como orientação, com uma opção clara de falar com um profissional de saúde, para que nenhum paciente tenha o atendimento negado apenas pelo algoritmo. A equipe também explica os principais fatores em linguagem simples, o que favorece a transparência mesmo onde o artigo 22 talvez não se aplique estritamente.

25.4 Crítica

Os críticos do ateliê, entre eles uma médica, contestam o projeto no aparelho: se as respostas nunca são guardadas, como a equipe vai descobrir que a triagem é insegura? Zara propõe um canal de retorno opcional, mediante adesão, e uma revisão clínica periódica com casos de teste sintéticos. Os críticos aceitam a abordagem, mas pedem um plano de monitoramento de segurança do paciente. Zara aprende que a privacidade e a segurança clínica precisam ser projetadas juntas, e que a crítica em ateliê é mais útil quando os projetistas explicam abertamente os trade-offs, em vez de defender uma opção como perfeita.

Exemplo resolvido

A equipe de Zara projeta a triagem de sintomas com três alternativas, prefere o processamento no aparelho, apresenta o resultado como orientação com a opção de falar com um profissional e acrescenta retorno opcional e testes de segurança sintéticos.

Caso sintético. O ateliê e a funcionalidade são sintéticos; o artigo 22 do GDPR e o art. 20 da LGPD são reais.

Erros e limites

O processamento no aparelho ainda precisa de um canal de atualização seguro e pode vazar dados por relatórios de falha.

Exercícios

• EX073 — Opção que menos coleta. Que alternativa coleta menos dados, e qual é sua desvantagem?
  Mostrar critérios de avaliação

  Rubrica: 3 = a triagem no aparelho; atualizar o modelo é mais difícil e celulares antigos podem não dar conta;; 2 = uma parte;; 1 = a opção do servidor;; 0 = nenhuma.
• EX074 — Projeto à luz do artigo 22. Como a equipe evita uma decisão exclusivamente automatizada?
  Mostrar critérios de avaliação

  Rubrica: 3 = a triagem é orientação, com opção clara de falar com um profissional;; 2 = menciona pessoa;; 1 = ignora;; 0 = nenhuma.
• EX075 — Aprender sem guardar. Como a equipe pode descobrir uma triagem insegura sem guardar as respostas?
  Mostrar critérios de avaliação

  Rubrica: 3 = retorno opcional e revisão clínica com casos sintéticos;; 2 = uma parte;; 1 = guardar tudo;; 0 = nenhuma.

Síntese

O capítulo 25 projeta uma funcionalidade. O capítulo 26 compara alternativas de arquitetura.