Depuis près de trente ans, j'accompagne des DSI de multinationales et d'organisations du secteur public qui gèrent parmi les environnements technologiques d'entreprise les plus complexes au monde. J'ai vu les entreprises traverser l'ère d'Internet, celle du cloud puis celle de la mobilité. Chacune de ces évolutions a transformé la manière dont les responsables informatiques envisagent l'infrastructure. Mais ce qui se passe aujourd'hui est différent : c'est plus déterminant et plus urgent que tout ce que j'ai connu jusqu'à présent.
Nous sommes entrés dans l'ère de l'exécution de l'IA, et la plupart des organisations n'y sont pas encore préparées.
Ce n'est pas une critique. C'est un constat fondé sur les échanges que j'ai chaque semaine avec des DSI, des RSSI et des responsables des infrastructures, tous confrontés à la même réalité : l'IA a dépassé les capacités des infrastructures conçues pour la prendre en charge.
Le problème n'est pas votre stratégie IA, mais ce qui la soutient
J'échange régulièrement avec des organisations qui ont investi massivement dans l'intelligence artificielle. Les projets pilotes ont donné de bons résultats, le conseil d'administration s'est montré enthousiaste et les business cases ont été validés. Puis, entre l'ambition et le déploiement, tout s'est ralenti. Des modèles qui obtenaient d'excellents résultats dans des environnements contrôlés ont commencé à montrer leurs limites une fois déployés en production à grande échelle. La latence a augmenté, les coûts ont grimpé et les équipes de sécurité ont commencé à tirer la sonnette d'alarme. Le retour sur investissement qui paraissait si convaincant dans les présentations ne s'est jamais concrétisé.
Le premier réflexe consiste à incriminer le modèle, les données ou le fournisseur. Pourtant, dans la quasi-totalité des cas, la véritable cause se trouve dans l'infrastructure sous-jacente.
Les charges de travail liées à l'IA ne surviennent pas par vagues : elles génèrent une activité permanente. L'inférence fonctionne en continu, les données circulent sans interruption et la latence est désormais un véritable enjeu métier. Pourtant, les infrastructures actuelles ont été conçues pour un rythme totalement différent, adapté aux traitements transactionnels et ponctuels des systèmes historiques.
Selon le Global AI Report 2026 de NTT DATA, A Playbook for Private and Sovereign AI, 96 % des organisations estiment que leur infrastructure actuelle ralentit l'adoption de l'IA. Il s'agit d'une urgence stratégique.
- À LIRE AUSSI : De l'ambition IA à un impact concret : pourquoi l'infrastructure fait toute la différence
La dette d'infrastructure IA : le coût caché
Chaque organisation porte ce que j'appelle une dette d'infrastructure IA. C'est le coût de l'exécution d'applications d'IA modernes sur des systèmes conçus pour une autre époque, et cette dette s'accumule rapidement.
- Les plateformes vieillissantes nécessitent des efforts toujours plus importants simplement pour rester stables.
- Les infrastructures traditionnelles ne peuvent pas évoluer au même rythme que l'IA, dont l'empreinte s'étend dans toute l'entreprise.
- Le verrouillage fournisseur augmente le coût total de possession.
- Les environnements fragmentés et multiconstructeurs créent des inefficacités opérationnelles précisément là où la rapidité et le contrôle sont essentiels.
Ce qui commence comme une simple friction devient progressivement une contrainte structurelle. Les investissements augmentent, mais les bénéfices ne suivent pas. Cette situation peut être corrigée, mais elle exige une approche de l'infrastructure fondamentalement différente de celle adoptée aujourd'hui par la plupart des organisations.
Les attentes ont changé. Votre modèle opérationnel suit-il le rythme ?
Je rencontre chaque jour des responsables technologiques qui comprennent parfaitement le problème sur le plan conceptuel, mais qui peinent à le résoudre dans la pratique. Et cela se comprend.
Les attentes envers les DSI ont profondément évolué. Ils doivent désormais moderniser rapidement les infrastructures, renforcer la sécurité, automatiser à grande échelle et déployer l'IA de manière responsable, tout cela simultanément et sans que les budgets aient suivi la même progression.
Le défi est autant technique qu'organisationnel. Beaucoup d'organisations continuent de gérer leurs infrastructures comme auparavant : de manière réactive, à travers des tickets et avec une interprétation manuelle des signaux provenant d'environnements fragmentés. À l'échelle de l'IA, ce modèle opérationnel devient un handicap. Il ralentit les opérations, augmente les coûts et crée des risques précisément au moment où la vitesse et le contrôle sont les plus importants.
Il est temps de repenser en profondeur la manière dont les infrastructures sont conçues, administrées et évaluées.
Trois priorités pour votre organisation
Chez NTT DATA, nous avons structuré notre approche autour de trois piliers qui doivent fonctionner ensemble. Il ne s'agit ni de projets distincts ni d'une simple liste de contrôle, mais d'un modèle d'exécution intégré.
1. Moderniser les fondations de l'IA
Il s'agit de reconstruire votre infrastructure pour répondre aux exigences d'une inférence continue, et non de corriger l'existant. Il faut concevoir un réseau capable de supporter durablement les flux IA, intégrer la sécurité dès la conception afin que les contrôles évoluent sans limiter l'inférence et moderniser les pipelines de données et de stockage afin d'alimenter en continu le calcul accéléré.
2. Intégrer l'IA dans les opérations informatiques
C'est probablement le sujet qui me passionne le plus, car c'est à ce moment-là que l'IA cesse d'être un projet pour devenir le mode de fonctionnement réel de l'entreprise.
Notre plateforme Software-defined Infrastructure (SDI) Services, basée sur des technologies agentiques, permet de passer d'un modèle opérationnel réactif à un fonctionnement intelligent et permanent. Le SDI Services Agent apporte une intelligence multiconstructeur aux environnements complexes grâce au langage naturel. Les organisations évoluent ainsi des SLA vers des Value Level Agreements (VLA), et d'une logique de simple maintien en conditions opérationnelles vers une infrastructure génératrice de résultats métier mesurables.
Une infrastructure sécurisée de niveau entreprise, associée à une expérience de services agentiques conversationnels, constitue désormais un véritable facteur de différenciation stratégique.
3. Passer à l'échelle avec confiance et maîtrise
La confiance est le fondement indispensable au déploiement responsable de l'IA autonome. Pourtant, c'est précisément sur ce point que je vois le plus d'organisations commettre une erreur majeure.
La gouvernance, l'auditabilité et la sécurité ne peuvent pas être ajoutées une fois les projets déployés. À mesure que l'IA se généralise, elle touche davantage de systèmes, fonctionne dans davantage d'environnements et s'étend jusqu'à la périphérie du réseau. Chaque nouveau déploiement réalisé sans intégrer la confiance dès le départ crée un nouveau point de vulnérabilité, un nouvel écart entre ce que fait réellement l'IA et ce que l'organisation est capable de voir, de vérifier et de contrôler.
C'est pourquoi notre Enterprise AI Factory est déployée sur site afin de répondre aux exigences de souveraineté et d'IA privée. La souveraineté des données, la sécurité dès la conception et la conformité intégrée à l'architecture sont considérées comme des priorités absolues. Le terme « privée » est volontaire. Pour chaque DSI et RSSI, il signifie une chose essentielle : vos données restent là où elles doivent rester, vos modèles s'exécutent là où les exigences réglementaires l'imposent et vos mécanismes de contrôle sont intégrés dès l'origine.
Le moment d'agir est arrivé
J'ai commencé cet article en affirmant que nous étions entrés dans l'ère de l'exécution de l'IA. Permettez-moi de préciser ce que cela signifie.
La fenêtre d'opportunité pour investir dès aujourd'hui dans une infrastructure moderne, en commençant par les fondations, est ouverte. Mais elle ne le restera pas indéfiniment. À mesure que les charges de travail liées à l'IA gagneront en ampleur, le coût et la complexité de la modernisation des infrastructures augmenteront de façon exponentielle. Les décisions prises aujourd'hui créeront un avantage concurrentiel durable.
Les Infrastructure Solutions de NTT DATA ont précisément pour vocation de vous aider à construire et exploiter des environnements d'IA en continu, à grande échelle et sur une infrastructure de confiance. Cet engagement s'appuie sur 4 700 experts certifiés répartis dans 165 pays et sur la confiance de 75 % des entreprises du Fortune Global 100.
Selon une IDC Market Note :
« IDC se félicite que l'entité Infrastructure Solutions soit désormais l'un des piliers de la stratégie globale de NTT DATA. Cette évolution reflète l'impact de l'IA sur le marché, l'importance de construire une infrastructure moderne, le rôle essentiel des partenaires dans des domaines tels que les réseaux et la cybersécurité, ainsi que les investissements en innovation réalisés par des partenaires de services comme l'organisation Infrastructure Services de NTT DATA. »
Les leaders de la prochaine décennie seront définis par les fondations qu'ils construisent aujourd'hui. Si vous êtes prêt à passer des projets pilotes à une IA pleinement opérationnelle, je serais heureux de vous montrer comment y parvenir.
LA PROCHAINE ÉTAPE
Téléchargez notre guide Architecting Infrastructure for the Secure AI Enterprise et réservez dès aujourd'hui votre AI Infrastructure Readiness Assessment.
IDC Market Note. NTT DATA Infrastructure Solutions Are a Cornerstone of Its AI Strategy (Doc. #US54246126). Février 2026.