Communication Dans Un Congrès Année : 2024

Building confidence of LLM based ChatBots

Construire la confiance des ChatBots à base de LLM

Nicolas Rémy
  • Fonction : Auteur
  • PersonId : 1110540
Frédéric Deschamps
  • Fonction : Auteur
  • PersonId : 941379
  • IdRef : 189523905
Stéphane Kreckelbergh
  • Fonction : Auteur
  • PersonId : 1221834

Résumé

LLMs have revolutionized innovation in Artificial Intelligence, by providing generic natural language processing components that can be easily integrated in a wide range of applications. One of the target applications is the use of an LLM to interrogate a document database, thus dialoguing in natural and open language, revolutionizing previous ChatBot solutions. However, these new components have a number of technological limitations having a direct impact on the confidence and robustness of these systems. This article provides an overview of the architectures of these new ChatBots, the limitations and difficulties encountered, and some applicable best practices needed to manage the deployment of these projects, highlighting two issues for these systems: the structuring of the document database and the so-called RAG functionality, which are essential to the trust and robustness of these systems in order to overcome the current shortcomings of LLMs.

Les LLM révolutionnent l'innovation en Intelligence Artificielle, en mettant à disposition des composants génériques de traitement du langage naturel utilisables facilement dans de multiples applications. Une des applications cible est l'utilisation d'un LLM pour interroger une base documentaire en dialoguant en langage naturel et ouvert, révolutionnant ainsi les solutions de ChatBots précédentes. Néanmoins, ces nouveaux composants comportent un certain nombre de limitations technologiques qui impactent directement la confiance et la robustesse de ces systèmes.

Cet article fait ainsi un tour d'horizon des architectures de ces nouveaux ChatBots, des limitations et difficultés rencontrées, et de quelques recommandations applicables, nécessaires pour maitriser le déploiement de ces projets, en mettant en exergue deux problématiques de ces systèmes : La structuration du corpus documentaire et la fonctionnalité dite de RAG, essentielles à la confiance et à la robustesse de ces systèmes pour pallier les insuffisances actuelles des LLM.

Fichier principal
Vignette du fichier
N. REMY (LGM)_LM24_Confiance_LLM.pdf (1.39 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

hal-04893287 , version 1 (17-01-2025)

Licence

Identifiants

  • HAL Id : hal-04893287 , version 1

Citer

Nicolas Rémy, Frédéric Deschamps, Stéphane Kreckelbergh. Construire la confiance des ChatBots à base de LLM. Congrès Lambda Mu 24 « Les métiers du risque : clés de la réindustrialisation et de la transition écologique », Institut pour la Maîtrise des Risques (IMdR), Oct 2024, Bourges, France. ⟨hal-04893287⟩

Collections

241 Consultations
536 Téléchargements

Partager

  • More