Capítulo 5 — Proposta e piloto
Mapa da aula
Aula 05 publicada. Mapa, exemplo, EX027.
flowchart TD
N0["5.1 A proposta"]
N1["5.3 Quantas redes"]
N2["5.4 Ajuste do plano"]
N3["5.5 Relato do piloto"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4
N4 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX027"]
Desenho lógico
flowchart LR
N0["5.1 A proposta"]
N1["5.3 Quantas redes"]
N2["5.4 Ajuste do plano"]
N3["5.5 Relato do piloto"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX027"]
[5.1 A proposta]
|
v
[5.3 Quantas redes]
|
v
[5.4 Ajuste do plano]
|
v
[5.5 Relato do piloto]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX027]
Objetivos de aprendizagem
Você vai (1) escrever uma proposta de dissertação concisa; (2) conduzir um piloto para testar o código e os parâmetros; (3) estimar quantas redes simuladas são necessárias; (4) ajustar o plano a partir das evidências do piloto.
5.1 A proposta
A proposta de Kenji cabe em seis páginas. Ela declara a pergunta, as três políticas e o controle de arestas aleatórias, os desfechos de alcance médio e número de regras, as verificações das rivais e os limiares de reversão, o acordo ético com a Vantor e o cronograma. Lista as entregas: uma dissertação, um repositório de código com sementes fixas e um resumo curto para praticantes. A Dra. Aydın pede que ele corte pela metade a seção de contexto e amplie os métodos, porque os avaliadores julgam a viabilidade pelos métodos. A banca a aprova com uma condição: um piloto deve confirmar que a simulação roda dentro do tempo de computação disponível.
5.2 Objetivos do piloto
O piloto roda o pipeline completo em vinte redes pequenas. Seus objetivos são práticos: confirmar que o código produz valores de alcance sensatos, verificar o tempo de execução por rede, encontrar bugs e medir quanto os resultados variam entre as redes. Ele não serve para responder à pergunta. Kenji escreve um teste que compara a busca em largura com uma contagem por força bruta em redes minúsculas, nas quais a resposta certa pode ser conferida à mão, um teste de resposta conhecida parecido, em espírito, com os vetores de teste. O teste encontra um bug em que as arestas dos jump hosts eram adicionadas duas vezes, inflando o alcance numa das políticas.
5.3 Quantas redes
Usando a variação do piloto, Kenji estima quantas redes são necessárias para a comparação principal. O desvio padrão da diferença entre o alcance por identidade e por zonas nas redes do piloto é de cerca de dois servidores. Para estimar a diferença média com margem de cerca de meio servidor e noventa e cinco por cento de confiança, ele precisa de aproximadamente sessenta redes por tamanho. Escolhe duzentas por tamanho para acomodar os parâmetros extras das verificações das rivais. O tempo de execução do piloto mostra que isso cabe com folga num notebook durante uma noite, de modo que a condição de computação da banca é cumprida.
5.4 Ajuste do plano
O piloto também mostra que, no menor tamanho de rede, as políticas por zonas e por identidade muitas vezes dão o mesmo alcance, porque cada departamento tem um único servidor. Kenji descarta esse tamanho e acrescenta um maior, documentando a mudança e o motivo no log de mudanças do plano. Ele também descobre que o parâmetro de configuração incorreta em dez por cento torna todas as políticas quase planas, então limita a faixa a de zero a cinco por cento, uma faixa que os engenheiros da Vantor consideram realista. Cada ajuste é registrado antes do início das execuções principais.
5.5 Relato do piloto
O relatório do piloto de Kenji tem duas páginas: o que foi rodado, o que foi encontrado, o que mudou e por quê. Ele inclui o bug encontrado pelo teste de resposta conhecida e o tamanho de rede descartado. A Dra. Aydın insiste que o relatório seja honesto sobre os problemas, porque os examinadores confiam mais num estudo quando conseguem ver como ele foi depurado. O relatório vira um apêndice da dissertação. Kenji também marca com uma tag, no repositório, a versão do código usada no piloto, para que os experimentos principais partam de um estado conhecido e testado, e não de um código ainda em mudança.
Exemplo resolvido
Kenji escreve uma proposta de seis páginas, pilota vinte redes, corrige com um teste de resposta conhecida um bug de contagem dupla nos jump hosts, dimensiona o estudo principal em duzentas redes por tamanho e registra dois ajustes no plano.
Caso sintético. Os números do piloto e as decisões da banca são sintéticos.
Erros e limites
As estimativas de tamanho de amostra feitas com um piloto pequeno também são incertas. Descartar um tamanho de rede muda a população que os resultados descrevem.
Exercícios
-
EX027 — Condição da banca. Que condição a banca impôs à aprovação? Rubrica: 3 = um piloto que confirme que a simulação cabe no tempo de computação disponível;; 2 = piloto;; 1 = vago;; 0 = nenhuma.
-
EX028 — Bug da resposta conhecida. Que bug o teste de resposta conhecida encontrou? Rubrica: 3 = arestas de jump host adicionadas duas vezes, inflando o alcance;; 2 = jump host;; 1 = vago;; 0 = nenhuma.
-
EX029 — Redes necessárias. Quantas redes por tamanho a estimativa exigia, e quantas foram escolhidas? Rubrica: 3 = cerca de sessenta necessárias; duzentas escolhidas;; 2 = um número;; 1 = errado;; 0 = nenhuma.
-
EX030 — Tamanho descartado. Por que o menor tamanho de rede foi descartado? Rubrica: 3 = um servidor por departamento deixava iguais os alcances por zonas e por identidade;; 2 = motivo;; 1 = vago;; 0 = nenhuma.
-
EX031 — Faixa de configuração incorreta. Que faixa foi definida para a configuração incorreta, e por quê? Rubrica: 3 = de zero a cinco por cento, considerada realista pelos engenheiros;; 2 = faixa;; 1 = dez por cento;; 0 = nenhuma.
-
EX032 — Tag do código do piloto. Por que marcar com tag a versão do código do piloto? Rubrica: 3 = para que os experimentos principais partam de um estado conhecido e testado;; 2 = estado conhecido;; 1 = sem motivo;; 0 = nenhuma.
Síntese
Uma proposta curta e um piloto honesto transformam um plano de pesquisa em um pipeline testado, com um tamanho de amostra justificado.
Continue estudando — aula 05 (capítulo 05 de 08)
← Capítulo 04 · Índice das aulas · Capítulo 06 →
Continue para a próxima aula já escrita.