Building confidence of LLM based ChatBots
Construire la confiance des ChatBots à base de LLM
Résumé
LLMs have revolutionized innovation in Artificial Intelligence, by providing generic natural language processing components that can be easily integrated in a wide range of applications. One of the target applications is the use of an LLM to interrogate a document database, thus dialoguing in natural and open language, revolutionizing previous ChatBot solutions. However, these new components have a number of technological limitations having a direct impact on the confidence and robustness of these systems. This article provides an overview of the architectures of these new ChatBots, the limitations and difficulties encountered, and some applicable best practices needed to manage the deployment of these projects, highlighting two issues for these systems: the structuring of the document database and the so-called RAG functionality, which are essential to the trust and robustness of these systems in order to overcome the current shortcomings of LLMs.
Les LLM révolutionnent l'innovation en Intelligence Artificielle, en mettant à disposition des composants génériques de traitement du langage naturel utilisables facilement dans de multiples applications. Une des applications cible est l'utilisation d'un LLM pour interroger une base documentaire en dialoguant en langage naturel et ouvert, révolutionnant ainsi les solutions de ChatBots précédentes. Néanmoins, ces nouveaux composants comportent un certain nombre de limitations technologiques qui impactent directement la confiance et la robustesse de ces systèmes.
Cet article fait ainsi un tour d'horizon des architectures de ces nouveaux ChatBots, des limitations et difficultés rencontrées, et de quelques recommandations applicables, nécessaires pour maitriser le déploiement de ces projets, en mettant en exergue deux problématiques de ces systèmes : La structuration du corpus documentaire et la fonctionnalité dite de RAG, essentielles à la confiance et à la robustesse de ces systèmes pour pallier les insuffisances actuelles des LLM.
Domaines
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |