A maioria das organizações inicia discussões de inteligência artificial com princípios abstratos: honestidade, explicabilidade, responsabilidade.
No entanto, as Operações de Inteligência Artificial não podem funcionar sem um objeto concreto de controle.
Antes de medir o risco, antes de aplicar a política, antes de monitorar o drift – uma organização deve primeiro saber:
Quais sistemas de inteligência artificial existem?
Um inventário de inteligência artificial não é apenas uma lista de modelos. É uma representação estruturada de sistemas, componentes reutilizáveis e as relações entre eles:
• modelos, agentes de software, retrievers, ferramentas e bases de conhecimento
• Relações de Arquitetura
• Proprietários e estados do ciclo de vida
• Prova de preparação
• Custo, eventos e alcance de implementação
Sem inventário, as operações se tornam reactivas e fragmentadas.
Quando o inventário é tratado como um artefato de primeira classe, surgem várias capacidades:
- O rastreamento do ciclo de vida torna-se determinista
- Os controlos operacionais podem ser aplicados de forma consistente
- O apetite de risco pode ser operado
- Os caminhos de auditoria tornam-se reconstruíveis
- Os padrões cross-systems podem ser detectados
É por isso que as operações de inteligência artificial devem começar não com suposições, mas com visibilidade do sistema.
A responsabilidade precisa de mais do que um documento – precisa de um sistema de registros.