La plupart des organisations commencent les discussions sur l’intelligence artificielle avec des principes abstraits : équité, explicabilité, responsabilité.
Cependant, les opérations d’intelligence artificielle ne peuvent pas fonctionner sans un objet concret de contrôle.
Avant de mesurer le risque, avant d’appliquer la politique, avant de surveiller le drift, une organisation doit d’abord savoir :
Quels sont les systèmes d’intelligence artificielle ?
Un inventaire d’intelligence artificielle n’est pas seulement une liste de modèles. Il s’agit d’une représentation structurée des systèmes, des composants réutilisables et des relations entre eux :
• Modèles, agents logiciels, retrievers, outils et bases de connaissances
• Relations architecturales
• propriétaires et États du cycle de vie
• Les preuves de préparation
• coûts, événements et portée de déploiement
Sans enregistrement, les opérations deviennent réactives et fragmentées.
Lorsque l'inventaire est traité comme un artifact de première classe, plusieurs capacités émergent:
- Le suivi de la vie devient déterministe
- Les contrôles d'exploitation peuvent être appliqués de manière cohérente
- L’appétit de risque peut être exploité
- Les pistes d'audit deviennent reconstituables
- Les modèles cross-systèmes peuvent être détectés
C’est pourquoi les opérations d’intelligence artificielle ne doivent pas commencer par des hypothèses, mais par la visibilité du système.
La comptabilité a besoin de plus qu’un document – elle a besoin d’un système d’enregistrement.