Éthique, sécurité et impact

Objectif : intégrer les risques au cycle de vie, pas après le déploiement.

Biais et équité

Les données reflètent collecte, accès, histoire et décisions humaines. Mesurez erreurs et taux de sélection par groupes pertinents, mais ne choisissez pas une métrique d'équité sans contexte juridique et métier. Plusieurs critères d'équité peuvent être mathématiquement incompatibles lorsque les taux de base diffèrent.

Confidentialité

Minimisez les données, contrôlez les accès, chiffrez, définissez rétention et suppression. Un modèle peut mémoriser des exemples rares. Testez l'exposition et évitez de publier des poids entraînés sur des informations sensibles sans analyse.

Menaces

• empoisonnement des données d'entraînement ;
• exemples adverses et entrées hors distribution ;
• extraction du modèle par requêtes ;
• inversion ou inférence d'appartenance ;
• dépendances, modèles et fichiers de poids non fiables.