Data / IA
Les DSI face à 4 nouveaux défis de l’IA, selon Gartner
Par Laurent Delattre, publié le 05 novembre 2024
À l’occasion de Symposium 2024, Gartner a identifié quatre défis majeurs pour les DSI dans la mise en œuvre de l’IA. Quatre défis qu’il va falloir anticiper et se préparer à relever dès aujourd’hui…
Gartner tient cette semaine son fameux IT Symposium annuel. L’occasion de découvrir quelques nouvelles tendances et de mettre le doigt sur les difficultés que risquent de rencontrer les DSI dans les mois à venir. Car toute nouveauté technologique s’accompagne de son lot de difficultés d’implémentation et d’alignement.
Et parmi les différentes études dévoilées, l’une d’elles mérite une attention particulière des DSI selon nous. Elle montre que 45% des DSI de la région EMEA ont en charge de guider la stratégie IA de leur entreprise. Et Gartner d’alerter les responsables informatiques sur les 4 grands défis engendrés par l’IA si l’on veut s’assurer que celle-ci soit effectivement génératrice de valeur pour leur entreprise.
Voici ces 4 grands défis, ces 4 vérités essentielles à ne pas négliger, de l’IA :
1 – Les bénéfices de l’IA ne se matérialisent pas toujours
Bien que l’IA générative puisse permettre des gains de productivité, ceux-ci ne sont pas également répartis entre les employés. « La productivité générée par l’IA n’est pas distribuée de manière égale», explique Daryl Plummer, Distinguished VP Analyst, Chief Research chez Gartner. Ainsi, selon lui, « les gains varient selon les employés, non seulement en fonction de leur intérêt personnel et de leur niveau d’adoption, mais aussi selon la complexité de leur poste et leur niveau d’expérience. »
Cette observation met en évidence la nécessité pour les entreprises de ne pas considérer l’IA comme une solution universelle. L’IA est un outil singulier dont l’impact doit être évalué et adapté en fonction des spécificités de chaque rôle et département. Autrement dit, l’intégration de l’IA doit s’accompagner de stratégies d’accompagnement et de formation personnalisées pour en maximiser les avantages. Mais surtout, il est important de gérer les attentes concernant l’IA. Comme maintes fois évoqué ces derniers mois dans nos colonnes, toute cette « hype » médiatique autour de l’IA risque de créer des déceptions. Dans ses prédictions 2025, l’analyste Forrester s’attend à voir une majorité d’entreprises réduire prématurément leurs investissements IA en raison des déceptions engendrées par des IA génératives mal déployées. Une adoption précipitée, sans une compréhension approfondie des implications et des besoins spécifiques, peut conduire à des déceptions et des situations compliquées.
2 – Les coûts de l’IA peuvent rapidement devenir incontrôlables
Selon l’étude Gartner, plus de 90 % des DSI estiment que la gestion des coûts limite la valeur de l’IA dans leur organisation. Daryl Plummer rappelle aux DSI l’importance de bien comprendre les coûts liés à l’IA : « Vous devez comprendre votre facture IA et savoir comment réduire ces coûts et négocier avec les fournisseurs. »
Selon Gartner, les coûts de l’IA sont très mal maîtrisés. Il est dès lors essentiel de profiter des PoC (Proof of concept) pour tout de suite évaluer comment les coûts vont escalader avec un déploiement généralisé et immédiatement imaginer les KPI et contrôles qu’il va falloir mettre en place. Dit autrement, les PoC IA ne devront pas se contenter de montrer comment l’IA fonctionne et ce qu’elle peut apporter mais aussi et surtout ce qu’elle va coûter !
3 – La prolifération de l’IA et des données crée de nouveaux risques
Avec l’augmentation des solutions d’IA développées en dehors des départements informatiques traditionnels, les données et les systèmes d’IA échappent au contrôle direct de l’IT. Selon une enquête de Gartner, en moyenne, seulement 35 % des capacités d’IA seront développées par les équipes IT, ce qui signifie que de nouvelles approches sont nécessaires pour gérer et protéger l’accès aux données, ainsi que pour gouverner les entrées et sorties des systèmes d’IA.
Concept popularisé par Gartner, TRiSM, ou AI Trust, Risk, and Security Management, est un framework cherchant à assurer la confiance, la gestion des risques et la sécurité dans les modèles d’intelligence artificielle (IA). Il repose sur trois piliers :
– La Confiance (Trust): Assurer la transparence et la fiabilité des modèles d’IA, en particulier ceux utilisés dans des domaines critiques comme les véhicules autonomes ou les dispositifs médicaux.
– Le Risque (Risk): Identifier et atténuer les risques potentiels associés à l’utilisation de l’IA, y compris les biais et les vulnérabilités.
– La Sécurité (Security): Protéger les modèles d’IA contre les cyberattaques et garantir la confidentialité des données utilisées.
Cette approche proactive veut permettre aux entreprises de mieux gérer les défis liés à l’IA et de renforcer la confiance des utilisateurs dans ces technologies.
Daryl Plummer introduit ainsi le concept de « tech sandwich » où les technologies de gestion de la confiance, des risques et de la sécurité (TRiSM) sont essentielles pour sécuriser l’utilisation décentralisée de l’IA : « C’est ce dont vous avez besoin pour faire face à l’IA et aux données qui viennent de partout. »
Le « TRiSM » est l’un des concepts nouveaux de la Hype Cycle 2024. Derrière cet acronyme qui signifie « AI Trust, Risk, and Security Management » se cachent une approche et des outils visant à gérer de manière proactive les risques associés à l’intelligence artificielle.
4 – Ne pas négliger l’impact de l’IA sur la performance et le bien-être des employés
L’IA peut engendrer des réactions variées parmi les employés, certains se sentant menacés par la technologie. Cependant, seulement 13 % des entreprises en EMEA gèrent activement ces effets et ont élaboré des stratégies pour atténuer les impacts potentiels de l’IA générative sur le bien-être des employés.
« Peu d’entreprises se préoccupent de l’impact de l’IA sur le ressenti des employés », déplore Daryl Plummer. « C’est important car l’IA peut entraîner toutes sortes de conséquences comportementales imprévues », ajoute Alicia Mullery, VP Research chez Gartner. « Le point crucial est que si vous utilisez la gestion du changement pour gérer cela, soyez intentionnel quant à qui est responsable de quels résultats comportementaux. Les organisations doivent gérer les résultats comportementaux avec la même rigueur que les résultats technologiques et commerciaux. »
Dit autrement, sur tous les sujets IA, les DSI devront gérer les comportements liés à l’IA avec autant de rigueur que les résultats techniques.
Avoir conscience de ces défis permet aux DSI de réaliser déjà la moitié du chemin d’une implantation réussie et profitable de l’IA. Et selon Gartner, le plus dur est probablement de garder la tête froide et de ne pas céder à l’euphorie qui résulte de l’incessante course à l’innovation des fournisseurs technologiques, une euphorie très éloignée d’une réalité : « Tirer de la valeur de l’IA n’est pas chose aisée ».
À LIRE AUSSI :
À LIRE AUSSI :
À LIRE AUSSI :
À LIRE AUSSI :
