Ética, seguridad e impacto

Objetivo: integrar los riesgos en el ciclo de vida, no después del despliegue.

Sesgos y equidad

Los datos reflejan recolección, acceso, historia y decisiones humanas. Mide errores y tasas de selección por grupos pertinentes, pero no elijas una métrica de equidad sin contexto jurídico y de negocio. Varios criterios de equidad pueden ser matemáticamente incompatibles cuando las tasas de base difieren.

Confidencialidad

Minimiza los datos, controla los accesos, cifra, define retención y supresión. Un modelo puede memorizar ejemplos raros. Prueba la exposición y evita publicar pesos entrenados con información sensible sin análisis.

Amenazas

• envenenamiento de los datos de entrenamiento;
• ejemplos adversarios y entradas fuera de distribución;
• extracción del modelo mediante consultas;
• inversión o inferencia de pertenencia;
• dependencias, modelos y archivos de pesos no fiables.