NoèmeX publie un guide sur une gouvernance de l’IA fondée sur des éléments probants

NoèmeX publie aujourd’hui de nouveaux guides sur une gouvernance de l’intelligence artificielle fondée sur des éléments probants, à l’intention des dirigeants, des conseils d’administration et des responsables technologiques.

Ces guides examinent comment les organisations peuvent distinguer une simple étiquette d’IA d’une capacité étayée par des éléments probants. Ils relient les déclarations de capacité au comportement sous-jacent des modèles, aux données, à la supervision humaine, au suivi, à la traçabilité et au contexte opérationnel nécessaires à une évaluation responsable.

La publication aborde la gouvernance sur l’ensemble du cycle de vie du système : définir la décision ou l’action, valider le modèle et les données, attribuer les pouvoirs décisionnels, établir les circuits d’approbation et d’escalade, surveiller la performance et consigner les éléments probants aux fins d’examen. Elle traite également des liens entre l’assurance technique, les obligations relatives à la protection des renseignements personnels et la reddition de comptes des dirigeants.

L’objectif est de rendre la gouvernance de l’IA opérationnelle : les contrôles doivent correspondre aux décisions qu’un système influence, aux actions qu’il peut entreprendre et aux conséquences qui exigent un jugement ou une intervention humaine.