Capítulo 2 — Sistemas computacionais
Mapa da aula
Aula 02 publicada. Mapa, exemplo, EX004.
flowchart TD
N0["2.1 Camadas de um sistema computacional"]
N1["2.2 Onde a IA roda"]
N2["2.3 Responsabilidade compartilhada"]
N3["2.4 Mapeamento de um serviço de IA"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4
N4 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX004"]
Desenho lógico
flowchart LR
N0["2.1 Camadas de um sistema computacional"]
N1["2.2 Onde a IA roda"]
N2["2.3 Responsabilidade compartilhada"]
N3["2.4 Mapeamento de um serviço de IA"]
N4["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> Q["EX004"]
[2.1 Camadas de um sistema computacional]
|
v
[2.2 Onde a IA roda]
|
v
[2.3 Responsabilidade compartilhada]
|
v
[2.4 Mapeamento de um serviço de IA]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX004]
Objetivos de aprendizagem
Você vai (1) descrever como computadores, sistemas operacionais, redes e serviços em nuvem se encaixam; (2) identificar onde uma aplicação de IA roda e armazena dados; (3) explicar o modelo de responsabilidade compartilhada para nuvem e IA hospedada; e (4) mapear um serviço de IA em seus componentes computacionais.
2.1 Camadas de um sistema computacional
O hardware executa um sistema operacional, que executa aplicações; as aplicações conversam pela rede com outros serviços, muitas vezes na nuvem. Uma aplicação de IA acrescenta arquivos de modelo, servidores de inferência, bancos de dados vetoriais e conexões com APIs externas de modelos. Cada camada tem seus próprios responsáveis e modos de falha. No Ask Lumen, as partes extras são o modelo hospedado, o banco de dados vetorial com documentos das clínicas e a ferramenta de agendamento. Cada uma acrescenta responsáveis: o provedor do modelo, a equipe de dados da LCH e os administradores do sistema de agendamento. Um problema de segurança em qualquer uma delas, como um banco de dados mal configurado, afeta o chatbot mesmo que o modelo em si funcione corretamente. Conhecer as camadas diz a Rina a quem perguntar sobre cada risco.
2.2 Onde a IA roda
Um modelo pode rodar no dispositivo do usuário, nos servidores da organização ou num provedor, por meio de uma API. Cada escolha muda quem pode ver os dados, quem pode alterar o modelo e quem pode testá-lo. APIs de IA hospedada processam os prompts na infraestrutura do provedor; a organização controla apenas seu próprio código, sua configuração e os dados que envia. O Ask Lumen usa uma API hospedada, então a LCH não pode inspecionar os pesos do modelo nem corrigi-lo; pode apenas escolher o que enviar e como tratar o que volta. Isso faz do próprio código da LCH, a parte que monta os prompts e verifica as saídas, o principal lugar onde controles podem ser acrescentados.
2.3 Responsabilidade compartilhada
Na computação em nuvem, o provedor protege a infraestrutura e o cliente protege o que coloca sobre ela. Na IA hospedada, o provedor costuma responder pela hospedagem do modelo e pela segurança da plataforma; o cliente responde pelos dados que envia, por como as saídas são usadas, pelas ferramentas que o modelo pode acionar e por quem pode acessar a aplicação. Entender mal essa divisão é uma causa comum de incidentes. No mapa de Rina, a conta de serviço de agendamento é o exemplo mais claro: o provedor do modelo não tem nenhum controle sobre o que essa conta pode fazer no sistema de agendamento da LCH.
2.4 Mapeamento de um serviço de IA
Liste: interface do usuário; servidor de aplicação; modelo (onde roda e qual versão); repositório de recuperação; ferramentas e os sistemas que elas tocam; logs; identidades usadas em cada etapa. Esse mapa é o ponto de partida de todos os capítulos seguintes. Cada item responde a uma pergunta que um atacante ou investigador faria: onde a entrada chega, onde os dados ficam, o que o sistema pode alterar e sob qual identidade. Um mapa que lista apenas o modelo deixa de fora a maior parte da superfície de ataque, porque no Ask Lumen as ações arriscadas acontecem pela ferramenta de agendamento e pelo repositório de recuperação. Rina mantém seu mapa num documento compartilhado e o atualiza sempre que a LCH muda um componente.
2.5 Exemplo resolvido (caso sintético da LCH)
Rina mapeou o Ask Lumen: widget de chat na web → servidor de aplicação da LCH (máquina virtual na nuvem) → API hospedada do modelo de linguagem (provedor) → recuperação a partir de um banco de dados vetorial de documentos das clínicas (gerido pela LCH) → ferramenta de agendamento que chama o sistema de agendamento (local) usando uma conta de serviço. Os logs iam para o serviço de logs do provedor de nuvem. Rina observou que a conta de serviço de agendamento podia marcar consultas para qualquer paciente — uma responsabilidade que cabe à LCH, e não ao provedor do modelo, corrigir.
O mapa também mostra quem precisa agir em cada achado: a conta de serviço pertence à equipe de agendamento da LCH, e a correção é restringi-la ao paciente cuja sessão fez o pedido.
2.6 Erros e limites
Três erros são comuns: supor que o provedor do modelo protege a aplicação inteira; esquecer ferramentas e logs no mapa; e não saber qual versão do modelo está em uso. Cada erro esconde parte do risco. Supor que o provedor protege tudo deixa a conta de serviço da LCH sem exame. Deixar de fora ferramentas e logs esconde os caminhos pelos quais o chatbot pode agir sobre dados de pacientes ou registrá-los. Não saber a versão do modelo torna impossível dizer se uma mudança de comportamento veio de uma atualização do modelo pelo provedor ou do próprio código da LCH.
Exercícios
- EX004 — Responsabilidade. Para o Ask Lumen, liste duas responsabilidades do provedor e três da LCH. Rubrica: 3 = divisão correta; 2 = erro menor; 1 = confuso; 0 = nenhuma.
- EX005 — Mapa. Mapeie um assistente de IA para tarefas escolares nos sete componentes de 2.4. Rubrica: 3 = os sete plausíveis; 2 = cinco; 1 = três; 0 = nenhum.
- EX006 — Escolha de implantação. Dê uma vantagem de segurança dos modelos no dispositivo e uma das APIs hospedadas. Rubrica: 3 = dados ficam no local vs correções/escala geridas pelo provedor; 2 = uma; 1 = vago; 0 = errado.
Síntese
Aplicações de IA são sistemas computacionais com partes extras. Mapear onde cada parte roda e quem responde por ela é o primeiro passo de segurança.
Continue estudando — capítulo 02 de 40
← Capítulo 01 (rascunho) · Índice de capítulos do curso · Capítulo 03 (rascunho) →