Capítulo 36 — Prática de campo ou comunitária
Mapa da aula
Aula 36 publicada. Mapa, exemplo, EX106.
flowchart TD
N0["36.1 Contextos"]
N1["36.2 Resultados úteis"]
N2["36.3 Trabalho com não especialistas"]
N3["36.4 Autorização e confidencialidade"]
N4["36.5 Reflexão"]
N5["36.7b Deixar o contexto melhor"]
N6["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6
N6 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX106"]
Desenho lógico
flowchart LR
N0["36.1 Contextos"]
N1["36.2 Resultados úteis"]
N2["36.3 Trabalho com não especialistas"]
N3["36.4 Autorização e confidencialidade"]
N4["36.5 Reflexão"]
N5["36.7b Deixar o contexto melhor"]
N6["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> N6 --> Q["EX106"]
[36.1 Contextos]
|
v
[36.2 Resultados úteis]
|
v
[36.3 Trabalho com não especialistas]
|
v
[36.4 Autorização e confidencialidade]
|
v
[36.5 Reflexão]
|
v
[36.7b Deixar o contexto melhor]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX106]
Objetivos de aprendizagem
Você vai (1) aplicar conhecimentos de segurança de IA numa organização ou comunidade, sob supervisão; (2) comunicar-se com não especialistas; (3) entregar um resultado útil e proporcional; e (4) refletir sobre a experiência.
36.1 Contextos
Os estágios podem ser numa empresa, num órgão público, numa organização beneficente ou num grupo comunitário que adota ferramentas de IA. Organizações pequenas muitas vezes usam assistentes de IA hospedados sem nenhuma política; uma contribuição bem delimitada pode fazer uma diferença real. O estágio de Rina foi numa pequena organização beneficente cujos funcionários usavam um assistente hospedado sem nenhuma política. A organização não tinha equipe de TI, então a contribuição precisava ser algo que os funcionários conseguissem manter depois que ela saísse: uma política curta, configurações sensatas e uma sessão de treinamento. Uma organização maior exigiria um trabalho de outro formato, mas vale o mesmo princípio de se ajustar ao contexto.
36.2 Resultados úteis
Resultados típicos: um inventário de IA; uma política de uso aceitável de assistentes de IA; uma avaliação de riscos curta de uma ferramenta de IA, com configurações recomendadas; treinamento dos funcionários; uma lista de verificação para comprar produtos de IA. Mantenha os resultados proporcionais ao tamanho e à capacidade da organização. Na organização beneficente, um inventário de IA teria uma única entrada, então Rina o dispensou. A política de uso aceitável e a mudança de configurações trataram o risco real, que era os funcionários colarem anotações de casos. Uma lista de verificação de compras ficou para depois, já que a organização não planejava comprar mais ferramentas. Escolher os resultados dessa forma manteve o trabalho viável em seis semanas.
36.3 Trabalho com não especialistas
Evite jargão; explique os riscos com exemplos ligados ao trabalho das pessoas; dê um pequeno número de ações claras; respeite suas restrições. Ouça primeiro: o conhecimento delas sobre o trabalho define como é o dano. Na organização beneficente, Rina explicou o risco pedindo aos funcionários que imaginassem suas anotações de casos aparecendo na minuta de carta de um estranho, em vez de descrever a retenção de dados para treinamento. Os funcionários lhe contaram que algumas cartas tinham prazos ligados a recursos de benefícios sociais, o que moldou seu conselho: a política permitia usar o assistente para estrutura e redação, mas exigia que nomes e detalhes dos casos fossem acrescentados depois, à mão.
36.4 Autorização e confidencialidade
Acorde por escrito o que você fará e quais dados verá. Não teste sistemas além desse acordo. Mantenha confidenciais as informações da organização. O acordo de Rina com a organização beneficente permitia que ela visse as configurações do assistente e uma amostra de cartas anonimizadas, mas não os arquivos dos casos. Quando um funcionário se ofereceu para lhe mostrar anotações reais para explicar um problema, ela recusou e pediu um exemplo inventado. Isso a manteve dentro do acordo e evitou qualquer dúvida sobre como ela tratava as informações dos atendidos.
36.5 Reflexão
Registre o que você fez, o que funcionou, o que mudaria e o que aprendeu sobre como a segurança de IA funciona na prática. A reflexão de Rina anotou que seu primeiro rascunho de política tinha três páginas e os funcionários não o leram; a versão de uma página funcionou. Ela também registrou que a mudança de configurações dependia das opções do provedor, que ela não conseguia verificar por completo, e que um acompanhamento depois de seis meses mostraria se a política ainda estava sendo seguida depois de sua saída.
36.6 Exemplo resolvido (caso sintético da LCH)
Rina passou seis semanas numa pequena organização beneficente (sintética) que usava um assistente de IA hospedado para redigir cartas a atendidos em situação de vulnerabilidade. Os funcionários colavam no assistente as anotações completas dos casos. Os resultados de Rina: uma política de uso de IA de uma página (o que não colar, como verificar as saídas), configurações do assistente que desativavam a retenção de conversas para treinamento quando o provedor o permitia e uma sessão de 30 minutos com os funcionários. Uma pesquisa de acompanhamento mostrou que 80% dos funcionários sabiam identificar corretamente quais dados não podem ser colados. A pesquisa foi o acompanhamento, feito quatro semanas depois da sessão.
36.7 Erros e limites
Três erros são comuns: recomendar controles de escala corporativa a uma pequena organização beneficente; testar além do escopo acordado; e resultados sem acompanhamento. Uma organização beneficente sem equipe de TI não consegue operar um serviço de políticas nem um painel de monitoramento, então recomendá-los desperdiça o tempo de todos. Testar o assistente além do que o acordo permitia, como sondar os sistemas do provedor, teria quebrado a confiança da organização. Sem a pesquisa de acompanhamento, ninguém saberia se os funcionários de fato mudaram o que colam no assistente. O relatório de Rina recomendou repetir a pesquisa anualmente, já que chegam novos funcionários e os hábitos se desgastam.
36.7b Deixar o contexto melhor
Um estágio de campo termina com algo que a organização anfitriã pode usar sem o estudante: por exemplo, uma lista de verificação de uma página para avaliar um fornecedor de chatbot, escrita em linguagem simples e testada com o gestor. O relatório do estudante registra o que a organização decidiu adotar e o que deixou de lado. Na organização beneficente, o relatório de Rina anotou que a política foi adotada e a lista de verificação de compras foi deixada de lado. A gestora da organização guardou uma cópia da política e das notas de configuração, para que um novo funcionário pudesse ser orientado sem Rina.
Exercícios
- EX106 — Resultado proporcional. Proponha três resultados para uma empresa de cinco pessoas que usa assistentes de IA. Rubrica: 3 = proporcionais, específicos; 2 = dois; 1 = genéricos; 0 = nenhum.
- EX107 — Linguagem simples. Explique a injeção de prompt aos funcionários da organização beneficente em duas frases. Rubrica: 3 = correta, sem jargão, exemplo pertinente; 2 = parcial; 1 = jargão; 0 = errada.
- EX108 — Regra de política. Escreva duas regras para a política de uso de IA da organização beneficente. Rubrica: 3 = regras específicas e acionáveis sobre dados e verificação das saídas; 2 = uma; 1 = vagas; 0 = nenhuma.
Síntese
A prática de campo testa se o conhecimento de segurança de IA ajuda pessoas reais. Resultados proporcionais, linguagem simples e trabalho autorizado fazem a diferença.
Continue estudando — capítulo 36 de 40
← Capítulo 35 (rascunho) · Índice de capítulos do curso · Capítulo 37 (rascunho) →