◇ OpenCyber Academy
Profissionalizante · Capítulo 1 · Português

Capítulo 1 — Fundamentos de segurança para profissionais

Ensino gratuito e aberto para quem deseja proteger pessoas e tecnologias. Não é preciso criar uma conta para estudar ou consultar as respostas.

Capítulo 1 — Fundamentos de segurança para profissionais

Mapa da aula

Aula 01 publicada. Mapa, exemplo, EX001.

flowchart TD
  N0["1.1 A tríade CIA aplicada à IA"]
  N1["1.2 Vocabulário básico"]
  N2["1.3 Referenciais e seus usos"]
  N3["1.4 Por que a IA precisa de atenção específica"]
  N4["Síntese"]
  N0 --> N1 --> N2 --> N3 --> N4
  N4 --> EX["Exemplo resolvido"]
  EX --> Q["Exercício EX001"]

Desenho lógico

flowchart LR
  N0["1.1 A tríade CIA aplicada à IA"]
  N1["1.2 Vocabulário básico"]
  N2["1.3 Referenciais e seus usos"]
  N3["1.4 Por que a IA precisa de atenção específica"]
  N4["Síntese"]
  N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX001"]

[1.1 A tríade CIA aplicada à IA]
    |
    v
[1.2 Vocabulário básico]
    |
    v
[1.3 Referenciais e seus usos]
    |
    v
[1.4 Por que a IA precisa de atenção específica]
    |
    v
[Síntese]
    |
    v
[Exemplo resolvido] --> [Exercício EX001]

Objetivos de aprendizagem

Você vai (1) usar confidencialidade, integridade e disponibilidade para descrever riscos de IA; (2) distinguir ameaça, vulnerabilidade, risco e controle; (3) nomear os principais referenciais de segurança de IA e para que serve cada um; (4) explicar por que os sistemas de IA precisam de atenção específica; e (5) aplicar essas ideias a um serviço que você conhece.

1.1 A tríade CIA aplicada à IA

Confidencialidade: registros de clientes, documentos enviados, prompts de sistema e dados de treinamento não podem chegar às pessoas erradas. Integridade: respostas, pontuações e ações não podem ser manipuladas — por exemplo, por um texto escondido num documento enviado. Disponibilidade: o serviço precisa continuar no ar e com custo suportável; enxurradas de requisições longas podem esgotar orçamentos. O NIST AI 100-2 E2025 usa objetivos de atacante comparáveis (disponibilidade, integridade, privacidade) para organizar os ataques a IA. No ClaimChat, os três se aplicam ao mesmo tempo, e é por isso que Sofia começa sua avaliação por eles.

1.2 Vocabulário básico

Uma ameaça é uma possível fonte de dano (um fraudador). Uma vulnerabilidade é uma fraqueza (o ClaimChat agenda retornos para qualquer número de sinistro). O risco combina a probabilidade de um dano com a gravidade que ele teria. Um controle reduz o risco (uma verificação de titularidade). Palavras precisas ajudam as equipes a concordar depressa sobre o que corrigir. No exemplo de Sofia, a fraqueza dos retornos só se torna um risco alto porque um fraudador poderia usá-la contra os sinistros de muitos clientes. Use as quatro palavras de forma coerente nas constatações, para que os leitores saibam se você fala de uma fraqueza, de um dano ou de uma correção.

1.3 Referenciais e seus usos

Sofia usa o OWASP para nomear os riscos do ClaimChat e o AI RMF para organizar seu trabalho.

1.4 Por que a IA precisa de atenção específica

Os sistemas de IA se comportam de forma estatística; podem ser conduzidos por um texto fornecido por um atacante (injeção de prompt); aprendem com dados que podem ser corrompidos; e suas saídas podem vazar dados de treinamento. Os controles comuns continuam importando — controle de acesso, registro de eventos, aplicação de correções —, mas a IA acrescenta novos caminhos para o dano. Na Meridian, o ClaimChat lê orçamentos de reparo enviados, escritos por pessoas de fora da empresa, e o FraudFlag aprende com rótulos definidos por investigadores. Ambos são caminhos que uma aplicação web comum não tem, por isso a avaliação de Sofia os cobre ao lado do controle de acesso e do registro de eventos.

1.5 Exemplo resolvido (caso sintético da Meridian)

No primeiro dia, Sofia descreve o ClaimChat em termos de CIA. Confidencialidade: um cliente poderia ver o sinistro de outro cliente. Integridade: um orçamento de reparo com texto escondido poderia fazer o ClaimChat dizer a um cliente que seu sinistro foi aprovado. Disponibilidade: scripts automatizados poderiam inundar o ClaimChat durante uma tempestade, justamente quando os clientes reais mais precisam dele. Ela mapeia o segundo cenário para o OWASP LLM01 e o primeiro para o LLM02. Cada cenário nomeia um dano, as pessoas afetadas e uma entrada de referencial, para que a equipe possa discuti-los sem ambiguidade.

1.6 Erros e limites

Três erros são comuns: tratar a IA como uma caixa-preta fora da segurança normal; confundir uma vulnerabilidade com um risco; e citar referenciais sem aplicá-los. Cada erro causa problemas mais adiante. Tratar a IA como algo fora da segurança normal deixa sem verificação o básico em torno do ClaimChat, como controle de acesso e registro de eventos. Confundir uma vulnerabilidade com um risco leva as equipes a discutir a gravidade sem concordar sobre qual é a fraqueza. Citar uma entrada de referencial sem dizer como ela se aplica ao sistema, como Sofia faz com LLM01 e LLM02, não dá ao leitor nada sobre o que agir. Verifique os três nas anotações da sua primeira avaliação.

Exercícios

Síntese

Os profissionais partem de um vocabulário e de referenciais compartilhados e depois os aplicam às formas específicas pelas quais os serviços de IA podem ser conduzidos, corrompidos ou esgotados.

Continue estudando — capítulo 01 de 12

← Página do curso · Índice de capítulos do curso · Capítulo 02 (rascunho) →