Ética, segurança e impacto

Objetivo: integrar os riscos ao ciclo de vida, não depois da implantação.

Viés e equidade

Os dados refletem coleta, acesso, história e decisões humanas. Meça erros e taxas de seleção por grupos pertinentes, mas não escolha uma métrica de equidade sem contexto jurídico e de negócio. Vários critérios de equidade podem ser matematicamente incompatíveis quando as taxas de base diferem.

Confidencialidade

Minimize os dados, controle os acessos, criptografe, defina retenção e exclusão. Um modelo pode memorizar exemplos raros. Teste a exposição e evite publicar pesos treinados em informações sensíveis sem análise.

Ameaças

• envenenamento dos dados de treinamento;
• exemplos adversariais e entradas fora da distribuição;
• extração do modelo por requisições;
• inversão ou inferência de pertencimento;
• dependências, modelos e arquivos de pesos não confiáveis.