Le défi
Un cabinet de conseil devait améliorer la communication et l’accès à l’information entre ses équipes, sans compromettre la confidentialité des données.
Les services LLM tiers étaient exclus. Le cabinet avait donc besoin d’un chatbot reposant sur son propre LLM sur mesure, qui lui laisse la maîtrise de la confidentialité des données, de l’entraînement du modèle et de ses mises à jour.
Notre solution
Nous avons développé une application web qui permet aux utilisateurs de dialoguer avec un grand modèle de langage sur mesure via une interface de chatbot. Le résultat : une solution privée et hébergée, comparable à la version commerciale de ChatGPT, avec des fonctionnalités supplémentaires.
L’interface est volontairement simple : l’utilisateur se connecte, saisit une question ou une affirmation et reçoit une réponse. Chaque réponse est accompagnée de ses sources de données, avec les références des documents à partir desquels elle a été générée. Les réponses sont ainsi transparentes et traçables.
Au lieu de dépendre de services LLM tiers, le chatbot fonctionne sur un LLM sur mesure développé en interne, ce qui laisse au cabinet la maîtrise de la confidentialité des données, des processus d’entraînement et des mises à jour.
- Application web avec connexion et interface de chatbot conversationnelle
- LLM sur mesure développé en interne plutôt qu’un service LLM tiers
- Réponses accompagnées du détail des sources de données et des références documentaires
- Chargement de fichiers personnalisés pour définir le contexte d’une conversation
Le résultat
Le chatbot a transformé la façon dont le client exploite ses connaissances internes. Une interface simple et des réponses reliées à leurs sources ont rendu la communication interne plus transparente et plus traçable.
La possibilité de charger des fichiers personnalisés pour définir le contexte a permis au cabinet de conseil de bâtir ses propres centres de connaissances sur ce système.