Data / IA
GenAI : réussir son déploiement en 4 étapes
Par Laurent Delattre, publié le 12 mars 2025
Lancer un projet GenAI sans stratégie claire, c’est courir droit vers l’échec. Pour garantir un retour sur investissement et éviter les pièges, mieux vaut avancer pas à pas, tester, ajuster et encadrer son utilisation avec précision. Voici quelques conseils pour déployer la GenAI en 4 étapes.
De Terrence Alsup, Lead Data Scientist chez Finastra
L’intelligence artificielle générative (GenAI) est au cœur des discussions depuis plusieurs années. Que vous soyez directement impliqué dans la technologie ou non, il est probable que vous ou vos collaborateurs ayez déjà testé ces outils, voire interagi avec eux sans même vous en rendre compte. Aujourd’hui, plus de 60% des grandes entreprises dans le monde utilisent la GenAI, et 74% d’entre elles enregistrent déjà des retours sur investissement substantiels (rapport Google). Alors que les cas d’usage continueront de se multiplier dans les prochains mois, il est crucial de comprendre quand et comment cette technologie peut réellement apporter de la valeur à votre organisation avant de se lancer. Voici quatre conseils clés pour une intégration réussie.
1 – Automatisez vos processus et boostez la productivité
De nombreux cas d’usage actuels de l’IA générative se concentrent sur l’automatisation des flux de travail et l’optimisation de l’efficacité des employés en réduisant ou supprimant les tâches fastidieuses et répétitives. La rédaction de documents ou d’e-mails est l’exemple le plus évident de cette automatisation. Toutefois, ces capacités s’étendent désormais à des tâches à plus forte valeur ajoutée, permettant ainsi des optimisations significatives pour les entreprises. Par exemple, la GenAI peut automatiser la collecte d’informations pour traiter et répondre aux demandes des clients. En agrégeant des données historiques et omnicanales, cette technologie peut générer une synthèse claire du contexte et la transmettre directement à un conseiller client, pour l’aider à traiter les requêtes plus efficacement tout en lui évitant des recherches manuelles fastidieuses. Ce même principe peut être exploité en interne pour simplifier l’accès aux informations, générer des rapports ou du contenu sans mobiliser systématiquement des experts. Les résultats sont significatifs : 45 % des entreprises utilisant la GenAI ont doublé leur productivité, et 71 % résolvent leurs problèmes plus rapidement.
Un autre cas d’usage consiste à diriger les demandes des clients vers des chatbots connectés directement à des API (interfaces de programmation d’applications) pour fournir des informations précises en temps réel. Cette approche est souvent renforcée par des systèmes de Retrieval Augmented Generation (RAG), qui permettent aux chatbots d’accéder à des informations externes – au-delà de leurs données d’entraînement – afin d’intégrer des sources supplémentaires pertinentes.
2 – Expérimentez avant de déployer à grande échelle
Le développement d’une solution basée sur la GenAI implique les mêmes défis que tout projet d’IA et d’apprentissage automatique, en particulier sur le plan de l’ingénierie et de la validation des modèles de langage.
Les outils de GenAI s’appuient sur de grands modèles de langage (LLM) qui peuvent être sujets à des hallucinations si les bons « garde-fous » ne sont pas mis en place, notamment la validation des résultats par un humain. Bien que les systèmes RAG n’empêchent pas totalement ces hallucinations, ils réduisent leur probabilité en extrayant des données pertinentes et à jour.
Un autre enjeu majeur est la consommation de ressources informatiques, car les LLM requièrent une puissance de calcul considérable, en particulier des GPU. Leur hébergement sur des plateformes cloud (Azure, AWS, etc.) peut rapidement faire grimper les coûts, notamment lorsque des utilisateurs effectuent des milliers de requêtes quotidiennes. À titre d’exemple, on estime que le fonctionnement de ChatGPT coûte environ 700 000 dollars par jour à OpenAI.
L’approche la plus efficace consiste donc à commencer par un projet de petite envergure, évaluer la qualité des résultats et maîtriser les coûts, avant d’étendre l’usage petit à petit. Ce recul est essentiel pour analyser et corriger les erreurs. Par exemple, si un chatbot génère des réponses erronées, il est probable que vous deviez réajuster les sources de données connectées, réentraîner le modèle et l’améliorer grâce aux systèmes RAG.
3 – Encadrez l’utilisation des chatbots pour éviter les dérives
Si les chatbots sont plébiscités par les entreprises qui intègrent la GenAI, un manque de supervision peut vite les rendre contre-productifs et nuire à l’expérience client. Une plainte commune des consommateurs est l’impossibilité de pouvoir entrer en contact avec un opérateur humain lorsqu’ils cherchent à régler un problème. Si la plupart des consommateurs acceptent d’interagir d’abord avec un chatbot, 60 % préfèrent attendre de pouvoir dialoguer avec un agent humain.
Une solution consiste à intégrer un mécanisme d’escalade automatique, où l’IA – grâce au traitement du langage naturel – analysera le ton et le vocabulaire employés pour déterminer si un conseiller doit intervenir. Dans les secteurs impliquant des scénarios sensibles et des utilisateurs vulnérables comme la finance et la santé, ces considérations sont essentielles pour répondre aux attentes des clients.
Encore une fois, l’important est de ne pas surestimer les outils de GenAI destinés aux clients et d’expérimenter en interne avant d’envisager un déploiement. Qu’ils soient utilisés au sein de l’entreprise ou en externe, la mise en place de filtres est une étape clé pour garantir une utilisation appropriée. Par exemple, en intégrant des filtres qui s’assurent que les questions posées correspondent bien au cas d’usage prévu. Des filtres qui demandent aux utilisateurs de reformuler leurs questions, voire suggèrent un langage plus adapté, sont des moyens efficaces de baliser chaque cas d’usage. Ces outils peuvent également protéger les utilisateurs de réponses biaisées ou inappropriées.
4 – Choisissez le bon modèle, au bon moment
Choisir le bon modèle de langage parmi ceux existants est une étape cruciale dans la création d’une solution basée sur la GenAI. Les licences sont un élément clé à prendre en compte, car certains modèles ne couvrent pas tous les cas d’usage. Une évaluation rigoureuse de ces aspects doit être réalisée dès l’idéation du projet afin d’écarter tout risque technique ou juridique.
Avec l’évolution rapide de la GenAI, ses applications vont se diversifier. La prochaine avancée majeure concerne les modèles multimodaux, capables de fusionner des données textuelles, audio et visuelles pour produire du contenu dans différents formats et pour des supports variés. Selon Gartner, 40 % des solutions de GenAI seront multimodales d’ici 2027, contre 1 % en 2023.
Cependant, ces avancées poseront des défis en matière d’usurpation d’identité et de propriété intellectuelle, car l’utilisation de vastes ensembles de données pour entraîner ces modèles peut induire des risques de violation des droits d’auteur. Cette question suscite de nombreux débats, notamment dans les industries créatives où les modèles texte-image sont déjà largement utilisés. Pour répondre à ces enjeux, de nouvelles capacités devront être développées d’ici les cinq prochaines années, afin de garantir une utilisation responsable et conforme de ces modèles dans les secteurs les plus exposés.
À mesure que de nouvelles applications et innovations émergent, maîtriser le cadre juridique et réglementaire sera essentiel pour garantir la pérennité des solutions de GenAI. D’où la nécessité d’adopter une approche progressive et sécurisée, en définissant les cas d’usage dès le départ et en restant attentif aux évolutions technologiques et règlementaires.
À LIRE AUSSI :
À LIRE AUSSI :
