Le rapport NTT DATA Technology Foresight 2026 place cette question au cœur de sa troisième grande tendance : Intelligence We Trust. Il ne s’agit plus seulement d’un enjeu technologique, mais d’un défi stratégique pour les organisations. Comment s’assurer que l’intelligence déployée est digne de confiance ?
Il y a vingt ans, la cybersécurité consistait essentiellement à protéger le périmètre du système d’information. Aujourd’hui, elle joue un rôle bien plus large : elle soutient l’innovation, protège la réputation de l’entreprise et contribue à la continuité de l’activité. L’intelligence artificielle suit une trajectoire comparable, mais à un rythme nettement plus rapide.
La conversation autour de l’IA a déjà dépassé la seule question de la performance. Il reste essentiel de savoir si un modèle fonctionne, s’il est suffisamment précis et quels cas d’usage il permet d’adresser. Mais à mesure que les systèmes d’IA gagnent en autonomie, deviennent plus interconnectés et s’intègrent aux opérations critiques, d’autres questions prennent une importance croissante : sont-ils explicables, vérifiables, gouvernables et auditables ?
C'est la nouvelle frontière de la cybersécurité. Protéger l'intelligence elle-même : les données qui alimentent les modèles, les modèles face à la manipulation, les outputs face à l'erreur systématique, les agents face aux comportements non souhaités.
Assurance continue : du contrôle périodique à la confiance en temps réel
Les organisations ont l’habitude de valider leurs systèmes selon des cycles définis : audits annuels, revues trimestrielles ou tests avant mise en production. Cette approche a été conçue pour des environnements relativement stables. Les modèles d’IA, eux, évoluent en permanence.Lorsque les données du monde réel changent, leur comportement peut dériver de façon parfois difficile à anticiper.
Technology Foresight 2026 introduit le concept d’**assurance continue de l’IA** : intégrer l’explicabilité, la surveillance du drift, le lignage des données, les preuves automatisées et les mécanismes de gouvernance directement dans les pipelines d’IA, plutôt que de les traiter comme des contrôles externes réalisés après coup.
La confiance n’est alors plus un état validé une fois pour toutes. Elle devient un processus opérationnel continu, surveillé, mesuré et renforcé en temps réel.
Pour une organisation mature, cela signifie savoir non seulement que son modèle de scoring crédit atteint 94 % de précision, mais également quelles données ont servi à son entraînement. Elle est capable d’identifier le moment où le comportement du modèle commence à dériver, d’expliquer à un régulateur pourquoi une demande a été refusée et d’activer des mécanismes permettant de revoir ou d’annuler une décision automatisée lorsque cela est nécessaire.
Le marché répond déjà
L’urgence n’est plus théorique. Le marché de la gestion de la confiance, du risque et de la sécurité de l’IA (AI TRiSM) a atteint 2,34 milliards de dollars en 2024 et devrait atteindre 6,22 milliards de dollars en 2029, avec un taux de croissance annuel de 21,6 %.
Selon les prévisions du Technology Foresight 2026, 90 % des entreprises adopteront des cadres de gouvernance des agents d’IA dans les 18 prochains mois. D’ici 2028, 85 % des produits de données intégreront un **AI Bill of Materials**, documentant la manière dont les données ont été collectées, modifiées et préparées.
Autrement dit, les organisations redéfinissent la manière dont elles démontrent que leurs systèmes d’IA sont fiables, sûrs et adaptés aux usages qui leur sont confiés.
Le rôle de la gouvernance et du trust by design
L’une des erreurs les plus fréquentes consiste à considérer la gouvernance de l’IA comme un sujet réservé aux équipes data ou comme un simple prolongement des exigences réglementaires.
Le rapport Technology Foresight 2026 souligne au contraire qu’une IA digne de confiance nécessite une gouvernance transversale réunissant sécurité, conformité, architecture, éthique, opérations et stratégie.
Cela suppose l’émergence d’un langage commun entre des fonctions qui ont longtemps évolué en silos. Un CISO doit comprendre ce qu’implique un modèle présentant un faible niveau d’explicabilité. Un CDO doit maîtriser les enjeux de gouvernance liés à l’utilisation de données tierces pour entraîner un agent. Un CEO doit pouvoir expliquer à son conseil d’administration quels processus critiques reposent sur l’IA, quels risques ils présentent et quels mécanismes permettent de les contrôler ou de les interrompre si nécessaire.
Les organisations les plus avancées intégreront la confiance dès le départ : modèles explicables dès leur conception, données traçables dès leur ingestion, contrôles automatisés dans les pipelines, tests adversariaux avant déploiement et authentification continue pendant l’exécution.
Une IA digne de confiance accélère la prise de décision parce que les équipes sont davantage disposées à déléguer certaines tâches. Elle permet une personnalisation plus efficace parce que les données restent traçables. Elle contribue à réduire la fraude parce que les comportements sont observables. Elle favorise également une innovation plus rapide parce que des mécanismes existent pour corriger ou annuler les erreurs lorsqu’elles surviennent.
La confiance, à l'ère de l'intelligence massive, est bien plus qu'une valeur affi-chée : c'est une infrastructure critique. Et à ce titre, les organisations qui la bâtiront tôt, et bien, auront plus de liberté pour avancer vite — au moment précis où l'essentiel sera de ne pas se tromper.