Faire passer l’IA du prototype à la production

Du prototype IA au service opérationnel

Les entreprises ne manquent plus d’idées autour de l’intelligence artificielle. Le véritable enjeu est désormais de transformer ces idées en expérimentations, puis en services capables de créer de la valeur dans la durée. Cela implique de relier l’IA aux processus métier, aux données et aux applications de l’entreprise, tout en intégrant les exigences de sécurité, de gouvernance et d’exploitation.

Une démonstration réussie ne garantit pas qu’une solution fonctionnera au quotidien. En production, un service d’IA doit fournir des réponses pertinentes, évoluer avec les données, maîtriser ses coûts et permettre une intervention lorsqu’il se trompe ou ne répond plus. L’IA ne peut donc pas être traitée comme un outil isolé : elle invite les entreprises à repenser leurs opérations à l’échelle de l’organisation.

Chez NSI Luxembourg, notre ambition est d’accompagner ce passage de l’idée à la production en commençant par une question essentielle : où l’IA peut-elle réellement améliorer un processus, l’expérience des collaborateurs ou le service client, et à quelles conditions ?

 Pour les directions, la stratégie IA ne doit pas devenir une succession d’expérimentations indépendantes. Elle doit s’inscrire dans une trajectoire cohérente, avec des priorités claires, des résultats mesurables et une gouvernance adaptée.

AskNSI : expérimenter sur nous-mêmes pour mieux accompagner nos clients

AskNSI illustre cette démarche. Accessible dans Microsoft Teams, cet assistant aide les collaborateurs à trouver des réponses sur les procédures internes, les règles à respecter ou les démarches à effectuer. Il vise à simplifier l’accès à l’information et à rendre le support interne plus efficace, notamment dans un contexte où de nouveaux collaborateurs rejoignent régulièrement l’entreprise.

Au-delà de cet usage, AskNSI constitue un terrain d’apprentissage grandeur nature pour éprouver les mécanismes nécessaires à l’intégration d’agents IA dans un système d’information: accès aux connaissances, connexion aux outils internes, respect des droits des utilisateurs et suivi de la qualité des réponses.

Développé avec IBM watsonx Orchestrate et hébergé dans le cloud souverain de NSI, le projet nous permet de confronter nos choix technologiques aux réalités opérationnelles. Nous travaillons également à des évolutions permettant aux collaborateurs d’accéder à certaines informations personnalisées ou d’effectuer des démarches auprès des services concernés, dans le respect de leurs autorisations.

Ces enseignements dépassent largement le cadre des ressources humaines. Les mêmes principes peuvent s’appliquer au support informatique, au ticketing, à l’assistance commerciale ou à l’accès à la connaissance métier. L’enjeu est de connecter l’IA aux outils de travail pour qu’elle puisse, au-delà de fournir une réponse, contribuer à réaliser une action de manière contrôlée.

Quatre conditions pour passer en production

Notre expérience met en évidence quatre dimensions à maîtriser simultanément: la gouvernance des connaissances, la gestion du contexte, la sécurité des accès et l’exploitation dans la durée.

– Une connaissance gouvernée

AskNSI s’appuie sur plusieurs bases de connaissances, notamment les documents et procédures internes de NSI ainsi que des informations publiques. Une intégration future de notre intranet SharePoint doit également permettre d’élargir les sources disponibles.

La recherche augmentée par génération (RAG) permet de retrouver les passages pertinents et de les fournir au modèle pour préparer sa réponse. Mais retrouver un document ne suffit pas : il faut aussi s’assurer qu’il est à jour et qu’il fait autorité.

Si une politique interne change, le métier doit valider la nouvelle version et les équipes techniques doivent permettre à l’assistant de la prendre en compte. Une réponse correcte aujourd’hui peut devenir fausse demain si sa source n’est plus valable. L’IA ne remplace donc pas la gouvernance de l’information : elle la rend encore plus nécessaire.

- Un contexte maîtrisé

La pertinence d’un agent dépend aussi de sa capacité à interpréter correctement les informations qui lui sont fournies. Un même lieu peut être désigné de différentes manières, sans que l’IA comprenne automatiquement qu’il s’agit de la même entité.

Un vocabulaire commun, validé par les équipes métier, et des documents enrichis de métadonnées permettent de limiter ces ambiguïtés. Les erreurs observées pendant les tests deviennent ainsi une source d’amélioration continue.

– Des accès sécurisés

Avec la délégation d’identité (On-Behalf-Of ou OBO), IBM watsonx Orchestrate permet à un agent d’appeler un outil au nom de l’utilisateur authentifié, dans la limite de ses autorisations. Ce mécanisme est implémenté et fonctionnel dans notre installation d’AskNSI.

Un collaborateur qui n’a pas accès à un document SharePoint ne doit pas pouvoir le consulter via l’assistant. L’application appelée doit pouvoir vérifier son identité et appliquer ses droits. La traçabilité des interactions, la protection des données et le contrôle des actions doivent donc être intégrés dès la conception.

– Une exploitation industrialisée

Les utilisateurs peuvent évaluer les réponses d’AskNSI et signaler les problèmes directement dans Teams. Mais recueillir un retour ne suffit pas : il faut pouvoir l’analyser et intervenir. Une source obsolète nécessite une correction métier ; une erreur de recherche ou un échec technique demande une analyse spécifique.

Les erreurs confirmées doivent alimenter un jeu de tests permettant de vérifier les corrections et d’éviter que les mêmes problèmes réapparaissent après une mise à jour. Il faut également suivre les temps de réponse, les erreurs et les coûts, organiser la maintenance et prévoir les procédures d’intervention.

C’est ce travail continu qui transforme un prototype en service fiable, sur lequel les collaborateurs peuvent compter au quotidien.

Olivier Baltus, Technical Leader IBM, NSI Luxembourg

Souveraineté: garder la maîtrise des données et des opérations

Le cloud souverain de NSI permet d’héberger des environnements au Luxembourg, avec un support technique local disponible 24/7. Pour AskNSI, nous nous appuyons notamment sur Red Hat OpenShift et l’écosystème IBM watsonx.

Notre ambition est de développer des services d’IA à la demande permettant aux entreprises de bénéficier de modèles, de capacités d’inférence, de solutions RAG et d’agents dans un environnement maîtrisé.

La souveraineté ne se limite pas à la localisation des données. Elle implique également de garder la maîtrise de l’architecture, des modèles, des flux de données et des conditions d’exploitation. Les connexions à des outils comme Teams ou SharePoint doivent être définies explicitement, en tenant compte des données transmises et des autorisations accordées.

Un accompagnement de bout en bout

La réussite d’un projet d’IA repose autant sur la qualité des modèles que sur leur intégration cohérente, sécurisée et durable dans l’entreprise. De la définition de la stratégie à l’identification des cas d’usage, en passant par les données, les applications, la cybersécurité et l’exploitation, chaque étape compte.

NSI mobilise ses expertises pluridisciplinaires pour accompagner ses clients dans cette démarche, en tenant compte de leurs enjeux métier, de leurs contraintes réglementaires et de leurs objectifs de performance.

AskNSI illustre concrètement cette approche : faire de l’IA non pas une simple démonstration technologique, mais un service gouvernable, sécurisé et utile au quotidien. L’objectif est de transformer le potentiel de l’intelligence artificielle en résultats mesurables et durables.