Capítulo 43 — Prática na indústria ou no serviço público
Mapa da aula
Aula 43 publicada. Mapa, exemplo, EX127.
flowchart TD
N0["43.2 Governança na prática"]
N1["43.3 Apenas trabalho autorizado"]
N2["43.4 Prática reflexiva"]
N3["43.4b Trabalhando com restrições"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4
N4 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX127"]
Desenho lógico
flowchart LR
N0["43.2 Governança na prática"]
N1["43.3 Apenas trabalho autorizado"]
N2["43.4 Prática reflexiva"]
N3["43.4b Trabalhando com restrições"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX127"]
[43.2 Governança na prática]
|
v
[43.3 Apenas trabalho autorizado]
|
v
[43.4 Prática reflexiva]
|
v
[43.4b Trabalhando com restrições]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX127]
Objetivos de aprendizagem
Você vai (1) trabalhar dentro dos processos de governança e de segurança de IA de uma organização; (2) contribuir, sob supervisão, para tarefas reais (autorizadas) de segurança de IA; (3) refletir sobre a prática usando evidências; e (4) manter a confidencialidade e a ética profissionais durante o estágio.
43.1 Objetivos do estágio
Um estágio conecta o trabalho do curso à realidade organizacional: orçamentos, prazos, sistemas legados, compras e regulação. Combine os objetivos com a organização anfitriã e com a universidade: em geral, uma entrega (uma avaliação, a implementação de um controle, um conjunto de avaliação) mais a participação em processos rotineiros. Uma única entrega dá ao estágio um propósito claro e algo que a organização pode continuar usando; participar de processos rotineiros, como comitês de mudança ou revisões de incidentes, mostra como as decisões são realmente tomadas. Os objetivos são escritos na primeira semana com o supervisor da organização e o orientador acadêmico, para que os três concordem sobre o que é sucesso e sobre o que o estudante pode acessar.
43.2 Governança na prática
Organizações que adotam a ISO/IEC 42001 ou o NIST AI RMF têm políticas de IA, inventários, avaliações de risco e comitês de aprovação. Aprenda como um sistema de IA é proposto, avaliado, aprovado e monitorado, quem assina e que evidências essas pessoas esperam. Acompanhar uma aprovação real mostra como os frameworks são no uso diário. Um comitê pode pedir uma avaliação de risco, um model card e um resumo de testes antes de aprovar um piloto, e dados de monitoramento antes de aprovar o uso pleno. Os estudantes aprendem quais evidências os tomadores de decisão leem e quais pulam, o que molda a forma como escrevem seus próprios relatórios. Também veem quanto tempo a aprovação leva e planejam seu trabalho em torno disso.
43.3 Apenas trabalho autorizado
Todo teste no estágio é regido por uma autorização por escrito do dono do sistema, especificando escopo, métodos e período. Use ambientes que não sejam de produção sempre que possível. Relate os achados pelos canais da organização; nunca os divulgue externamente sem permissão. Estar em estágio não dá permissão para testar qualquer coisa. A autorização por escrito nomeia os sistemas, os métodos e as datas, e um estudante que encontra um sistema interessante fora dela pergunta antes de tocá-lo. Ambientes que não são de produção protegem as operações da organização e o estudante, já que uma indisponibilidade acidental causada durante os testes pode encerrar um estágio. Os achados pertencem à organização, que decide como e se serão compartilhados.
43.4 Prática reflexiva
Mantenha um registro semanal: o que você fez, que evidências produziu, o que o surpreendeu, o que faria diferente. A reflexão transforma a experiência em habilidade transferível e é avaliada. Uma entrada útil vai além de "revisei o inventário". Ela anota o que foi difícil, por exemplo que os donos das áreas de negócio não sabiam se suas ferramentas de planilha contavam como IA, e o que o estudante mudaria da próxima vez, como perguntar explicitamente sobre suplementos (add-ins). Reler as entradas no fim mostra padrões que as semanas isoladas escondem e dá exemplos concretos para entrevistas de emprego e avaliações posteriores.
43.4b Trabalhando com restrições
Organizações reais raramente partem de um projeto limpo. Sistemas legados não têm logs, fornecedores limitam os testes, orçamentos são fixos e prazos mudam. Bons praticantes priorizam pelo risco, propõem o menor controle que o reduza de forma significativa e documentam o que resta. Uma nota de risco curta e precisa entregue a tempo costuma valer mais que uma avaliação perfeita entregue depois da decisão. O estágio de Sam mostra isso. As três planilhas com suplementos de ML não tinham logs nem dono registrado, então o inventário as incluiu com sensibilidade de dados "desconhecida" e uma pessoa nomeada para confirmá-la, em vez de deixá-las de fora até que pudessem ser avaliadas por completo.
43.5 Exemplo resolvido (caso sintético da NRS)
O objetivo do estágio de Sam era construir o inventário de IA da NRS. Usando o laboratório de inventário como modelo inicial, Sam catalogou 14 sistemas de IA, incluindo três planilhas com suplementos de ML embutidos que ninguém havia registrado. O inventário pontuou exposição, autonomia, sensibilidade dos dados e entrada não confiável; o piloto de triagem de currículos no RH teve pontuação alta e foi encaminhado para uma avaliação mais completa, em parte porque sistemas de recrutamento podem ser de alto risco segundo o EU AI Act.
"""Lab V: an AI system inventory scored for review priority (synthetic).
Each system lists exposure, autonomy, data sensitivity and whether it reads
untrusted content; mapping to OWASP LLM Top 10 (2025) IDs is illustrative."""
import json
inv = json.loads("""[
{"name":"support-chatbot","exposure":"public","autonomy":"tools","data":"customer","untrusted_input":true},
{"name":"invoice-ocr-model","exposure":"internal","autonomy":"none","data":"financial","untrusted_input":true},
{"name":"code-assistant","exposure":"internal","autonomy":"suggest","data":"source","untrusted_input":true},
{"name":"churn-predictor","exposure":"internal","autonomy":"none","data":"customer","untrusted_input":false},
{"name":"hr-cv-screener","exposure":"internal","autonomy":"decide","data":"personal","untrusted_input":true}
]""")
E = {"public": 3, "internal": 1}; A = {"none": 0, "suggest": 1, "tools": 3, "decide": 3}
D = {"customer": 2, "financial": 2, "source": 2, "personal": 3}
for s in inv:
s["score"] = E[s["exposure"]] + A[s["autonomy"]] + D[s["data"]] + (2 if s["untrusted_input"] else 0)
risks = []
if s["untrusted_input"]: risks.append("LLM01")
if s["autonomy"] in ("tools", "decide"): risks.append("LLM06")
if s["data"] in ("customer", "personal"): risks.append("LLM02")
s["owasp"] = ",".join(risks) or "-"
for s in sorted(inv, key=lambda s: -s["score"]):
print(f"{s['name']:18s} score={s['score']:2d} owasp={s['owasp']}")
Saída esperada:
support-chatbot score=10 owasp=LLM01,LLM06,LLM02
hr-cv-screener score= 9 owasp=LLM01,LLM06,LLM02
code-assistant score= 6 owasp=LLM01
invoice-ocr-model score= 5 owasp=LLM01
churn-predictor score= 3 owasp=LLM02
A pontuação do laboratório explica o resultado: autonomia para decidir, dados pessoais e currículos não confiáveis colocam o triador perto do topo da lista.
43.6 Erros e limites
Três erros são comuns: testar além do escopo por escrito; entregas do estágio que ninguém vai manter; e registros reflexivos que apenas listam tarefas. Testar além do escopo é o mais grave, porque boas intenções não tornam um acesso não autorizado lícito nem seguro. Entregas que dependem do estudante para serem mantidas param de funcionar quando o estágio termina, então a passagem para um responsável nomeado faz parte do trabalho. Registros que apenas listam tarefas deixam de fora o aprendizado que a avaliação procura: o que mudou na compreensão do estudante e por que mudou.
Exercícios
- EX127 — Leitura do laboratório. Quais dois sistemas ficam no topo do laboratório de inventário e por quê? Rubrica: 3 = support-chatbot (10) e hr-cv-screener (9); público/ferramentas/dados de clientes/entrada não confiável e decide/dados pessoais; 2 = só os nomes; 1 = um; 0 = errado.
- EX128 — IA paralela. Por que suplementos de ML não registrados importam? Rubrica: 3 = risco não gerenciado, nenhuma avaliação, exposição de dados, lacunas de conformidade; 2 = parcial; 1 = vago; 0 = errado.
- EX129 — Reflexão. Escreva uma entrada de registro reflexivo com evidência e uma lição. Rubrica: 3 = atividade, evidência, surpresa, mudança; 2 = três; 1 = só lista; 0 = nenhuma.
Síntese
A prática revela como a segurança de IA funciona dentro das organizações: processos de governança, trabalho autorizado, restrições reais e o hábito da melhoria reflexiva.
Continue estudando — capítulo 43 de 50
← Capítulo 42 (rascunho) · Índice de capítulos do curso · Capítulo 44 (rascunho) →