RiscoComo se manifestaMitigaçãoQuem acompanha
R1
Viés e tratamento desigual
Como se manifestaQualidade diferente de respostas ou de encaminhamento para alguns grupos, idiomas ou regiões.
Mitigação- Qualidade testada por idioma e grupo em solicitações reais
- Os agentes propõem; os servidores decidem sobre tudo o que afeta direitos
- Revisão periódica por amostragem pela auditoria
Quem acompanhaAuditoria e encarregado de dados
R2
Alucinação
Como se manifestaUma resposta confiante ou uma citação que não existe.
Mitigação- Respostas apenas a partir das suas fontes indexadas, com trecho e link
- Sem fonte, sem resposta — o agente diz que não sabe
- Testes de referência bloqueiam liberações que pioram a qualidade
Quem acompanhaServidores responsáveis e TI
R3
Vazamento de dados
Como se manifestaDados pessoais chegando a alguém sem permissão ou saindo da jurisdição.
Mitigação- Implantação isolada ou no país
- Acesso até o nível de linhas e campos, herdado do seu diretório
- Mascaramento e logs de acesso completos
Quem acompanhaTI e segurança
R4
Manipulação do agente
Como se manifestaUm texto em uma solicitação ou documento tenta alterar as instruções do agente.
Mitigação- Filtragem de entradas e separação entre instruções e conteúdo
- Os agentes não podem ampliar os próprios direitos
- Ações de risco sempre exigem uma pessoa
Quem acompanhaTI e segurança
R5
Excesso de confiança
Como se manifestaServidores aprovam minutas sem lê-las.
Mitigação- Fontes exibidas ao lado de cada afirmação
- Verificações por amostragem e métricas de retrabalho por usuário
- Treinamento dos servidores no lançamento
Quem acompanhaChefias das unidades
R6
Dependência do fornecedor
Como se manifestaO órgão não consegue trocar de fornecedor ou de modelo sem recomeçar do zero.
Mitigação- Roda na sua infraestrutura; os modelos podem ser trocados
- Dados, prompts e logs exportáveis em formatos abertos
- Documentação e transferência de conhecimento para a sua equipe
Quem acompanhaCIO e área de compras