Les modèles de langage sont le carburant qui alimente les technologies basées sur l'intelligence artificielle (IA), comme les logiciels de traduction, les chatbots et la reconnaissance de texte. Beaucoup de temps et d'investissements sont nécessaires pour créer un modèle de langage fonctionnel. Une pratique courante consiste donc à utiliser un modèle préentraîné que les chercheurs mettent à disposition du public pour construire des systèmes d'IA tels que des chatbots. S'agissant des langues de niche, les ressources exploitables ne sont généralement pas suffisantes, ce qui explique pourquoi il n'y avait jusque-là aucun modèle disponible pour le luxembourgeois.

Grâce à la collaboration entre BGL BNP Paribas et le SnT, et avec le soutien de la Fondation Alphonse Weicker, une approche innovante a été mise au point pour relever les défis liés à l'entraînement de modèles pour les langues à faibles ressources. Placé sous la direction du professeur Jacques Klein de l'Université du Luxembourg, le projet a permis de développer le premier modèle du genre. LuxemBERT alimentera les systèmes d'IA linguistique dans tout le pays, ce qui renforcera sensiblement son leadership en matière d'intelligence artificielle et soutiendra l'écosystème d'innovation.

Il s'agit d'une étape clé dans le développement des assistants virtuels multilingues, qui améliorent l'expérience client en apportant une réponse rapide à toute demande et à tout moment. La puissance de l'intelligence artificielle permet à l'assistant virtuel de comprendre la question du client et de lui fournir la réponse la plus pertinente.

« La création de solutions basées sur les technologies les plus innovantes est essentielle pour notre activité, et nous sommes fiers d'avoir contribué au développement d'un modèle de langage luxembourgeois. Nul doute que cette évolution influencera positivement l'écosystème d'innovation du pays en matière d'intelligence artificielle », explique Béatrice Belorgey, Présidente du Comité exécutif de BGL BNP Paribas et Responsable Pays du Groupe BNP Paribas au Luxembourg.

« Avec le développement des innovations FinTech, la plupart des interactions entre une banque et ses clients particuliers se font désormais en ligne, ce qui fait des chatbots une ressource essentielle pour faciliter les transactions. BGL BNP Paribas a mis le doigt sur la nécessité d'un modèle de langage luxembourgeois et nous a confié ce défi en raison de notre vaste expérience en matière de traitement du langage naturel », précise le professeur Björn Ottersten, directeur du SnT. « Maintenant que LuxemBERT est ouvert au public, d'autres acteurs du domaine de l'IA vont pouvoir l'utiliser pour construire leurs propres systèmes, et nous nous réjouissons d'être les gardiens académiques de ce modèle au fil de son adoption. »