Pourquoi tant de conseils gouvernent une IA qui n’existe pas, et pourquoi la preuve doit précéder les structures de gouvernance, la communication et l’imputabilité.
Pourquoi tant de conseils gouvernent une IA qui n’existe pas
Cet article expose l’argument central d’un ouvrage plus approfondi actuellement en préparation. L’analyse complète examine en détail les cadres de conception organisationnelle, le droit canadien et international de la gouvernance d’entreprise, les exigences de transparence du règlement européen sur l’intelligence artificielle, les mécanismes de recours ouverts aux parties prenantes face aux décisions algorithmiques ainsi qu’un tableau de référence pratique destiné aux administrateurs qui doivent évaluer les affirmations relatives à l’IA. Pour recevoir le texte en avant-première ou échanger sur ces idées, vous pouvez communiquer directement avec moi.
Entrez dans n’importe quelle discussion de conseil d’administration consacrée à l’IA et vous retrouverez une scène familière : cadres de gouvernance et matrices de rôles et de responsabilités côtoient chartes éthiques et nouvelles fonctions dédiées à la gouvernance de l’IA. L’ensemble donne le sentiment que l’organisation prend le sujet au sérieux puisqu’elle a construit des structures autour de lui. Le conseil examine ces dispositifs, pose des questions légitimes sur la responsabilité et les risques, puis quitte la séance avec l’impression que la gouvernance fonctionne.
Sous cette apparence de rigueur organisationnelle se trouve pourtant un désalignement fondamental. Les structures créées restent souvent éloignées du fonctionnement réel des systèmes d’IA, de leurs modes de défaillance et de la manière dont leurs risques apparaissent. Dans de nombreux cas, elles restent même éloignées de tout système d’IA, parce que les solutions présentées comme telles ne relèvent, selon aucune définition rigoureuse, de l’intelligence artificielle.
Il s’agit d’un échec de gouvernance d’une nature particulière. Il ne procède ni d’un manque d’intention ni d’un défaut de diligence, mais d’un problème de résolution. Les conseils gouvernent à une altitude où tout ressemble à de l’IA, parce que le vocabulaire de l’organisation ne distingue plus un réseau neuronal entraîné sur des millions de points de données d’une macro de tableur qui reformate des cellules. Les deux apparaissent dans les rapports sous la même étiquette. Or, lorsqu’un terme recouvre tout, son utilité comme catégorie de gouvernance tend vers zéro.
Lorsqu’un terme recouvre tout, son utilité comme catégorie de gouvernance tend vers zéro.
L’analyse qui suit est née d’une expérience précise. Un chef de la direction que je connais bien m’a demandé, à titre de service professionnel, d’examiner les capacités d’IA de son organisation. J’ai découvert un écart systématique entre la manière dont ces capacités étaient présentées au conseil et le fonctionnement technique réel des systèmes. Des solutions décrites comme des agents d’IA dans les documents remis aux administrateurs se sont révélées être des automatisations fondées sur des flux prédéterminés. Elles avaient adopté le vocabulaire de l’intelligence artificielle parce qu’aucune preuve n’avait été exigée dans la chaîne d’approbation et parce que l’organisation récompensait plus volontiers le « signal superficiel » que la démonstration. Ce constat a déclenché une enquête plus large, nourrie de conversations ultérieures avec des administrateurs et des chefs de la direction de plusieurs secteurs, sur l’étendue du phénomène et sur ce que la gouvernance doit désormais accomplir différemment.
Lorsque l’étiquette « IA » devient un risque de classification
Le monde universitaire s’est montré beaucoup plus précis que le marché pour définir ce qui constitue une intelligence artificielle. Le MIT, Carnegie Mellon et des institutions législatives, dont le Congrès américain, ont chacun formulé des définitions fondées sur des propriétés techniques déterminées qu’un système doit posséder pour être qualifié d’IA. Ces définitions convergent vers un ensemble de capacités qui distingue une IA véritable d’une automatisation logicielle conventionnelle. Le risque de gouvernance se concentre précisément dans l’écart entre ces définitions institutionnelles et l’usage commercial du terme.
Quarante pour cent des jeunes entreprises européennes classées comme entreprises d’IA n’intégraient aucune IA significative à leurs produits. C’était en 2019. La situation ne s’est pas améliorée.
En 2019, une étude de MMC Ventures portant sur 2 830 jeunes entreprises européennes classées dans la catégorie de l’IA concluait qu’environ quarante pour cent d’entre elles ne disposaient d’aucune IA significative dans leurs produits principaux. Il ne s’agissait pas d’acteurs marginaux. Elles avaient attiré des investissements, construit leur positionnement commercial et recruté sur la foi d’une capacité qu’elles ne possédaient pas. Le schéma est familier à quiconque examine le sujet de près : des systèmes qui suivent des règles prédéterminées sont présentés comme une prise de décision intelligente, tandis qu’une automatisation ordinaire est décrite comme un processus autonome. Dans chaque cas, les implications de gouvernance de ce que le système est réellement diffèrent fondamentalement de celles que suggère son étiquette.
Le risque de communication est devenu un risque pour le conseil
Ce qui transforme cette observation sectorielle en priorité pour les conseils tient au passage des autorités de la surveillance à l’application. Depuis mars 2024, la Securities and Exchange Commission des États-Unis a engagé des procédures contre des entreprises ayant formulé de fausses affirmations sur leurs capacités d’IA. Le ministère américain de la Justice a déposé des accusations criminelles contre le dirigeant d’une plateforme prétendument automatisée qui reposait presque entièrement sur du travail humain manuel. L’opération AI Comply de la Federal Trade Commission a ciblé des organisations de plusieurs secteurs. Dans au moins un cas, la SEC a également procédé à un audit technique détaillé comparant les déclarations publiques aux données réelles de performance du système. La posture évolue dans une direction concrète : les autorités développent leur capacité à vérifier la réalité des affirmations relatives à l’IA et l’utilisent.
Pour les administrateurs assujettis à la Loi canadienne sur les sociétés par actions, ou à des cadres comparables ailleurs dans le monde, ces évolutions rejoignent directement les obligations fiduciaires. Les administrateurs doivent agir avec le soin, la diligence et la compétence dont ferait preuve une personne raisonnablement prudente. Un conseil qui approuve des communications publiques décrivant des capacités d’IA que l’organisation ne possède pas s’expose à un risque de gouvernance qu’aucun cadre de conformité ni aucune création de poste ne pourra corriger après coup.
Ce que les conseils découvrent lorsqu’ils exigent des preuves
Au cours de l’année écoulée, j’ai appliqué à cette question un diagnostic structuré, fondé sur les définitions d’institutions universitaires reconnues, le droit canadien et international de la gouvernance d’entreprise, la théorie de la conception organisationnelle et les mesures d’application prises par les autorités. Le diagnostic a été conçu pour être utilisable par des administrateurs et des dirigeants ne possédant pas d’expertise technique, tout en produisant des conclusions capables de résister à l’examen.
Les constats se sont révélés remarquablement cohérents d’une organisation et d’un secteur à l’autre. Des entreprises qui avaient construit des structures de gouvernance autour de l’IA étaient fréquemment incapables de démontrer que leurs systèmes atteignaient le seuil de définition le plus élémentaire établi par les milieux universitaires et législatifs. Des fonctions de direction avaient été créées pour des capacités dépourvues d’équipe technique. Des stratégies d’IA approuvées par le conseil reposaient sur des démonstrations de fournisseurs plutôt que sur des évaluations internes. Dans un cas, l’ensemble du portefeuille d’IA d’une organisation consistait en des appels à un seul service commercial tiers. L’entreprise contrôlait donc peu de ce qui déterminait le système dans la durée : son évolution, ses défaillances et ce qu’il deviendrait à mesure que ses dépendances changeraient.
Un autre schéma structurel, peut-être plus frappant encore, est apparu dans presque toutes les organisations étudiées. Les titulaires de fonctions de gouvernance de l’IA, y compris les responsables de l’éthique et de l’imputabilité, ne savaient souvent pas interpréter les systèmes qu’ils étaient censés superviser. Les postes avaient été conçus à partir de cadres qui énonçaient des responsabilités sans vérifier si l’organisation possédait la capacité technique de les exercer. Cela revient fonctionnellement à nommer un auditeur financier incapable de lire un bilan.
La gouvernance doit passer du principe au terrain
Les systèmes d’information géographique offrent une analogie utile. Un plan de zonage indique ce qui est juridiquement permis sur une parcelle ; une carte topographique montre à quoi ressemble réellement le terrain. Les deux sont nécessaires, mais le zonage seul ne permet pas de savoir si un itinéraire peut effectivement être parcouru.
Les cadres actuels de gouvernance de l’IA fournissent la couche de zonage avec une clarté souvent remarquable : ils précisent les principes, les limites et les rôles. Ce qui leur manque fréquemment est la couche topographique, c’est-à-dire une connaissance vérifiée du fonctionnement réel des systèmes, des endroits où se concentrent les risques et de la capacité du terrain à supporter le poids de la structure de gouvernance. Le travail plus approfondi développe cette articulation entre le langage de la gouvernance et la réalité opérationnelle, afin que les administrateurs puissent gouverner ce qui existe plutôt que ce qui est suggéré.
Une autre dimension reste largement ignorée. Toute organisation qui emploie des personnes dispose de mécanismes permettant de contester une conduite humaine : voies de plainte, procédures d’escalade et canaux indépendants de signalement. Lorsque des décisions sont déléguées à des systèmes d’IA, les mêmes principes exigent des mécanismes équivalents de transparence et de recours ; le règlement européen sur l’intelligence artificielle en a désormais fait une obligation juridique. La manière de construire ces mécanismes et la façon dont les conseils doivent les superviser figurent parmi les domaines les moins développés de la réflexion actuelle, alors même que les attentes réglementaires deviennent moins indulgentes.
Passer des structures de gouvernance à une réalité vérifiable
L’argument présenté ici n’appelle pas à rejeter la pensée de gouvernance, mais à la faire évoluer. Les principes qui ont bien servi les conseils dans d’autres domaines restent valables. Ils doivent toutefois intégrer le fait que, lorsque le terrain est complexe et peu familier, la gouvernance ne peut demeurer uniquement en altitude.
La première tâche de la gouvernance à l’ère de l’IA n’est pas de bâtir de nouvelles structures, mais de vérifier que les systèmes dont ces structures sont censées répondre existent sous la forme qui a été représentée. Sans cette vérification, tout ce qui suit repose sur une hypothèse plutôt que sur une preuve et l’organisation commence à accumuler un risque que les autorités, les investisseurs, les clients ou les trois, finiront par intégrer dans leur appréciation.
Si cette réflexion fait écho à vos préoccupations, le livre numérique à paraître prolonge le diagnostic vers un usage directement destiné aux conseils. Il aide les administrateurs à appliquer cette lecture du terrain à leur propre organisation, afin que la formule « propulsé par l’IA » devienne une affirmation démontrable en salle du conseil plutôt qu’une expression répétée dans un document de présentation. Pour accéder à l’ouvrage, vous pouvez en faire la demande ici ou communiquer directement avec moi.
