Trilha 05 · 12 aulas
Segurança de sistemas com IA
Para quem responde pelo que o agente faz com dinheiro, dados e clientes: prompt injection, permissão mínima, aprovação humana e trilha de auditoria.
- 01FundamentoPrompt injection na práticaPor que todo texto que o modelo lê pode virar uma ordem, e o que fazer a respeito.
- 02SmellOrdem Vinda do DadoTexto de páginas, emails ou documentos entra no prompt com o mesmo peso das instruções.
- 03RefatoraçãoPôr Conteúdo Externo em QuarentenaLer conteúdo de fora com um modelo sem ferramentas e passar adiante só dados estruturados.
- 04PadrãoLLM DuploUm modelo em quarentena lê o conteúdo não confiável; outro, com ferramentas, só vê o resultado estruturado.
- 05PadrãoGuardrails de EntradaChecar a entrada antes do modelo principal: tema, abuso, injeção e dados sensíveis.
- 06SmellFerramenta SuperpoderosaUma ferramenta de consulta tem permissão de escrita, ou um run_sql aceita qualquer comando.
- 07RefatoraçãoRestringir PermissõesDar a cada ferramenta só o acesso de que ela precisa para o caso de uso.
- 08SmellEfeito Sem PortãoO agente envia email, paga ou apaga dados sem nenhuma confirmação.
- 09RefatoraçãoPedir Aprovação Antes do EfeitoPausar a execução e mostrar a ação para um humano antes de pagar, enviar ou apagar.
- 10PadrãoHumano no CircuitoPausar em pontos definidos para um humano aprovar, editar ou recusar.
- 11PadrãoTrilha de AuditoriaRegistrar quem pediu, o que o modelo viu, o que decidiu e o que executou.
- 12Cenário realAssistente financeiro com aprovaçãoLer extratos, sugerir pagamentos e agendar Pix só com confirmação explícita.
- Projeto finalLangGraph LabAssistente financeiro com aprovaçãoUm assistente no app do banco que acha contas, propõe pagamentos e agenda Pix sem tirar do cliente o controle do dinheiro.