La mayoría de las organizaciones comienzan discusiones de inteligencia artificial con principios abstractos: equidad, explicación, responsabilidad.
Sin embargo, las operaciones de inteligencia artificial no pueden funcionar sin un objeto concreto de control.
Antes de medir el riesgo, antes de aplicar la política, antes de monitorizar el desplazamiento, una organización debe saber primero:
¿Cuáles son los sistemas de inteligencia artificial?
Un inventario de inteligencia artificial no es simplemente una lista de modelos. Es una representación estructurada de los sistemas, componentes reutilizables y las relaciones entre ellos:
• modelos, agentes de software, retrievers, herramientas y bases de conocimiento
• Relaciones arquitectónicas
• Propietarios y estados de ciclo de vida
• Evidencias de preparación
• Costo, eventos y alcance de implementación
Sin inventario, las operaciones se vuelven reactivas y fragmentadas.
Cuando el inventario se trata como un artefacto de primera clase, surgen varias capacidades:
- El ciclo de vida se vuelve determinista
- Los controles operativos pueden ser aplicados de forma consistente
- El apetito de riesgo puede funcionar
- Las líneas de auditoría se vuelven reconstruibles
- Se pueden detectar los patrones de sistema
Es por eso que las operaciones de inteligencia artificial deben comenzar no con las suposiciones, sino con la visibilidad del sistema.
La responsabilidad necesita más que un documento: necesita un sistema de registros.