Capítulo 21 — Segurança de IA e aprendizado de máquina: integração de serviços
Mapa da aula
Aula 21 publicada. Mapa, exemplo, EX061.
flowchart TD
N0["21.1 Integração com as plataformas"]
N1["21.2 APIs de fornecedores"]
N2["21.3 Vários serviços e vários agentes"]
N3["21.4 Contratos de integração"]
N4["21.4b Testando integrações"]
N5["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5
N5 --> EX["Exemplo resolvido"]
EX --> Q["Exercício EX061"]
Desenho lógico
flowchart LR
N0["21.1 Integração com as plataformas"]
N1["21.2 APIs de fornecedores"]
N2["21.3 Vários serviços e vários agentes"]
N3["21.4 Contratos de integração"]
N4["21.4b Testando integrações"]
N5["Síntese"]
N0 --> N1 --> N2 --> N3 --> N4 --> N5 --> Q["EX061"]
[21.1 Integração com as plataformas]
|
v
[21.2 APIs de fornecedores]
|
v
[21.3 Vários serviços e vários agentes]
|
v
[21.4 Contratos de integração]
|
v
[21.4b Testando integrações]
|
v
[Síntese]
|
v
[Exemplo resolvido] --> [Exercício EX061]
Objetivos de aprendizagem
Você vai (1) integrar serviços de IA às plataformas de identidade, de registros e de segredos; (2) proteger APIs de modelos de fornecedores; (3) tratar integrações entre vários serviços e vários agentes; e (4) revisar contratos de integração.
21.1 Integração com as plataformas
Serviços de IA devem usar as mesmas plataformas que todo o resto: o provedor de identidade da empresa para usuários e identidades de serviço; o gerenciador de segredos para as chaves; os registros centralizados; o pipeline de implantação padrão. Serviços de IA tratados como caso especial acabam saindo da cobertura de segurança. Na Brightwell, o Ask Brightwell agora usa o provedor de identidade da empresa para os tokens delegados, o gerenciador de segredos para a chave do fornecedor, o depósito central de registros e o pipeline padrão. O redator de e-mails do marketing, encontrado fora do inventário, não tinha nada disso até que a revisão de Jonas o trouxe para as mesmas plataformas.
21.2 APIs de fornecedores
Confira: o fornecedor usa seus dados para treinamento, e você pode recusar? Por quanto tempo os prompts ficam retidos? Em que região os dados são processados? Você pode fixar as versões do modelo e ser avisado das mudanças? Há limites de gastos? Guarde a chave no servidor; restrinja-a aos modelos necessários; defina cotas. Para a integração do redator de e-mails, Jonas exigiu retenção zero no fornecedor. No Ask Brightwell, ele fixa a versão do modelo para que uma atualização do fornecedor não possa mudar o comportamento sem antes passar pelo critério de liberação. Os limites de gastos na conta do fornecedor reforçam o orçamento diário de tokens.
21.3 Vários serviços e vários agentes
Quando um serviço de IA chama outro, trate a resposta como entrada não confiável. Uma instrução injetada pode viajar de um documento para o agente A e dele para o agente B. Cada serviço impõe sua própria política sobre o que ele faz, não importa quem tenha pedido. A revisão do redator de e-mails aplicou isso: o texto da conversa do Ask Brightwell, que pode conter instruções injetadas, se tornaria a entrada do redator de e-mails. Por isso o redator de e-mails impõe seus próprios limites e envia apenas para o endereço verificado do cliente conectado, seja o que for que o Ask Brightwell peça.
21.4 Contratos de integração
Anote, para cada integração: os dados trocados, o formato, as regras de validação, a autenticação, os limites de taxa, o tratamento de erros e a quem contatar. Revise os contratos quando qualquer um dos lados mudar. Na integração do redator de e-mails, o contrato registra que o Ask Brightwell envia um ID de modelo de mensagem e um único campo curto escapado, que os e-mails vão apenas para o endereço verificado, o limite de taxa de um e-mail e os contatos no marketing e na equipe de Jonas. O contrato do redator de e-mails é o primeiro escrito dessa forma e agora serve de modelo da Brightwell para as integrações seguintes.
21.4b Testando integrações
Acrescente casos de integração ao harness: plante instruções na entrada do serviço anterior e confira se o serviço seguinte não faz nada fora do seu contrato. Teste também os caminhos de falha — tempos-limite, respostas malformadas — e confirme que cada lado falha de forma fechada. Para o redator de e-mails, o harness de Jonas planta numa conversa uma instrução pedindo um e-mail para um endereço externo e confere que nada é enviado. Um tempo-limite do serviço de e-mail resulta em nenhum e-mail e num erro registrado, e não num laço de novas tentativas.
21.5 Exemplo resolvido (caso sintético da Brightwell)
O marketing quer que o Ask Brightwell chame seu redator de e-mails para enviar mensagens de acompanhamento. Jonas revisa: o redator de e-mails receberia o texto da conversa (não confiável) e poderia enviar e-mails para qualquer endereço. Ele exige: a ferramenta de e-mail só envia para o endereço verificado do cliente conectado; o conteúdo vem de um modelo de mensagem fixo, com o texto do modelo de IA limitado a um campo curto e escapado; limite de taxa de um e-mail por conversa; retenção de dados no fornecedor definida em zero dias. Cada exigência limita o que uma injeção conseguiria, mesmo que chegue ao redator de e-mails. Enviar apenas para o endereço verificado impede e-mails para estranhos; o modelo de mensagem e o campo escapado impedem conteúdo arbitrário; e o limite de taxa impede que uma única conversa inunde um cliente.
21.6 Erros e limites
Três erros são comuns: serviços de IA fora das plataformas padrão; confiar na saída de outro agente; e integrações não documentadas. O redator de e-mails mostrava os três antes da revisão de Jonas: rodava fora das plataformas padrão, teria confiado no texto do Ask Brightwell, e nenhum contrato descrevia a integração. Trazê-lo para dentro do inventário e do harness tratou de cada um. Uma integração que ninguém documentou é também uma que ninguém testa quando um dos lados muda. Cada integração agora tem um contrato, um dono e um caso no harness, de modo que uma mudança em qualquer um dos lados é testada antes do lançamento.
Exercícios
- EX061 — Lista de verificação do fornecedor. Escreva seis verificações para a API de um fornecedor. Rubrica: 3 = seis adequadas; 2 = quatro ou cinco; 1 = duas ou três; 0 = menos.
- EX062 — Cadeia de agentes. Explique como uma injeção poderia passar de uma avaliação para o redator de e-mails e como os controles do redator de e-mails a detêm. Rubrica: 3 = caminho mais o efeito de cada controle; 2 = caminho e um controle; 1 = vago; 0 = nenhum.
- EX063 — Contrato. Escreva um contrato de integração para Ask Brightwell → redator de e-mails. Rubrica: 3 = os sete elementos; 2 = cinco; 1 = três; 0 = nenhum.
Síntese
Integre os serviços de IA às plataformas padrão, trate toda mensagem entre serviços como não confiável e documente o contrato de cada integração.
Continue estudando — capítulo 21 de 30
← Capítulo 20 (rascunho) · Índice de capítulos do curso · Capítulo 22 (rascunho) →