Capítulo 5 — Letramento em segurança
Mapa da aula
Aula 05 publicada. Mapa, exemplo, EX013.
flowchart TD
N0["5.1 A tríade CIA"]
N1["5.2 Vocabulário de risco"]
N2["5.3 Ataques clássicos e variantes com IA"]
N3["5.4 Práticas básicas"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4
N4 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX013"]
Desenho lógico
flowchart LR
N0["5.1 A tríade CIA"]
N1["5.2 Vocabulário de risco"]
N2["5.3 Ataques clássicos e variantes com IA"]
N3["5.4 Práticas básicas"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX013"]
[5.1 A tríade CIA]
|
v
[5.2 Vocabulário de risco]
|
v
[5.3 Ataques clássicos e variantes com IA]
|
v
[5.4 Práticas básicas]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX013]
Objetivos de aprendizagem
Você vai (1) explicar confidencialidade, integridade e disponibilidade; (2) definir ameaça, vulnerabilidade, risco e controle; (3) descrever ataques comuns (phishing, malware, roubo de credenciais) e suas variantes na era da IA; e (4) aplicar práticas básicas de segurança pessoais e organizacionais.
5.1 A tríade CIA
A confidencialidade mantém a informação longe de pessoas não autorizadas; a integridade a mantém exata e inalterada; a disponibilidade mantém os sistemas utilizáveis quando necessário. Num chatbot de IA: confidencialidade dos dados de pacientes nas conversas; integridade das respostas e das marcações; disponibilidade do serviço. No Ask Lumen, uma falha de confidencialidade seria mostrar a um paciente a consulta de outro; uma falha de integridade seria uma resposta errada sobre o horário de uma clínica ou uma marcação feita para a pessoa errada; uma falha de disponibilidade seria o chatbot ficar inutilizável numa manhã movimentada. Cada uma exige controles diferentes, então nomear a propriedade em risco ajuda a escolher o controle certo.
5.2 Vocabulário de risco
Uma ameaça é algo que pode causar dano (um atacante, um acidente). Uma vulnerabilidade é uma fraqueza. O risco combina probabilidade e impacto. Um controle reduz o risco. Um vocabulário preciso ajuda as equipes a concordar sobre prioridades. Aplicado ao Ask Lumen: uma ameaça é um paciente tentando ver as consultas de outro; a vulnerabilidade é a conta de serviço de agendamento que pode agir por qualquer paciente; o risco é a probabilidade dessa combinação vezes o dano de dados de saúde expostos; o controle é uma verificação de política que vincula cada marcação ao paciente conectado. Usar as palavras de forma consistente impede que as discussões misturem problemas com soluções.
5.3 Ataques clássicos e variantes com IA
O phishing engana pessoas para que revelem credenciais; a IA pode gerar phishing mais convincente e personalizado, além de clones de voz. O malware compromete dispositivos; código gerado por IA pode conter vulnerabilidades se for aceito sem crítica. O roubo de credenciais dá acesso aos atacantes; credenciais coladas em chatbots podem vazar. E os sistemas de IA introduzem novos tipos de ataque: injeção de prompt, envenenamento de dados, extração de modelo e evasão. Os novos tipos de ataque afetam as mesmas três propriedades: a injeção de prompt ameaça a integridade das ações, a extração ameaça a confidencialidade do modelo, o envenenamento ameaça a integridade dos dados de treinamento.
5.4 Práticas básicas
Use autenticação multifator, mantenha o software atualizado, aplique o menor privilégio, faça backup de dados importantes e relate eventos suspeitos. Para ferramentas de IA: não cole segredos ou dados pessoais em serviços não aprovados, verifique as saídas antes de agir e siga a política da organização sobre ferramentas aprovadas. Essas práticas valem para o trabalho com IA tanto quanto para qualquer outro: uma chave de API do provedor do modelo é uma credencial que exige o mesmo cuidado que uma senha. Na LCH, os funcionários são informados sobre quais ferramentas de IA estão aprovadas para trabalho envolvendo pacientes e de que dados de pacientes nunca devem ser colados em outras. Verificar a saída da IA antes de agir com base nela é o hábito que teria pegado a referência inventada de Rina.
5.5 Exemplo resolvido (caso sintético da LCH)
Uma recepcionista da LCH recebeu uma mensagem de voz aparentemente de um diretor de clínica pedindo para alterar com urgência os dados bancários de um fornecedor. A sessão de treinamento em letramento em segurança de Rina usou esse caso sintético para discutir clonagem de voz e o controle que a detém: verificar alterações de pagamento por meio de um número de telefone conhecido e de um segundo aprovador, por mais convincente que o pedido pareça. O controle funciona seja a voz real ou clonada, e é por isso que aqui o processo vence a detecção. A LCH também disse aos funcionários que a urgência num pedido de pagamento é, por si só, um motivo para desacelerar e verificar.
5.6 Erros e limites
Três erros são comuns: tratar riscos específicos de IA como alheios à segurança clássica; confiar na detecção de falsificações em vez de controles de processo; e colar dados sensíveis em ferramentas públicas de IA. Riscos específicos de IA muitas vezes reutilizam caminhos clássicos: uma voz clonada é phishing por outro meio, e uma chave de API vazada é roubo de credencial. Confiar em identificar falsificações falha à medida que a geração melhora, enquanto a verificação por retorno de ligação continua funcionando. Colar dados sensíveis em ferramentas públicas pode expô-los à retenção pelo provedor e a quem quer que obtenha esses dados depois, por isso a política da LCH nomeia explicitamente as ferramentas aprovadas.
Exercícios
- EX013 — CIA. Dê um exemplo de cada propriedade da tríade CIA para o DocSort. Rubrica: 3 = um exemplo de cada, preciso; 2 = dois; 1 = um; 0 = nenhum.
- EX014 — Vocabulário. No caso do clone de voz, indique ameaça, vulnerabilidade, impacto e controle. Rubrica: 3 = os quatro coerentes; 2 = três; 1 = um ou dois; 0 = nenhum.
- EX015 — Práticas. Liste três práticas seguras para usar assistentes de IA no trabalho. Rubrica: 3 = nada de segredos/dados pessoais, verificar saídas, só ferramentas aprovadas; 2 = duas; 1 = uma; 0 = nenhuma.
Síntese
O letramento em segurança — CIA, vocabulário de risco, ataques comuns e práticas básicas — é a base sobre a qual se constrói a segurança específica de IA.
Continue estudando — capítulo 05 de 40
← Capítulo 04 (rascunho) · Índice de capítulos do curso · Capítulo 06 (rascunho) →