De uitdaging
Een adviesbureau wilde de communicatie en de toegang tot informatie tussen zijn teams verbeteren, zonder concessies te doen aan dataprivacy.
LLM-diensten van derden waren geen optie. Het bureau had daarom een chatbot nodig die draait op een eigen LLM, zodat het controle zou hebben over dataprivacy, modeltraining en updates.
Onze oplossing
Wij ontwikkelden een webapplicatie waarmee gebruikers via een chatbotinterface met een op maat gemaakt large language model communiceren. Het resultaat is een private, gehoste oplossing vergelijkbaar met het commerciële ChatGPT, met extra functies.
De interface is bewust eenvoudig: gebruikers loggen in, typen een vraag of stelling en krijgen een antwoord. Elk antwoord wordt geleverd met de databronnen, inclusief verwijzingen naar de documenten waarop het is gebaseerd. Zo zijn antwoorden transparant en herleidbaar.
In plaats van LLM-diensten van derden draait de chatbot op een intern ontwikkeld LLM, waardoor het bureau controle heeft over dataprivacy, trainingsprocessen en updates.
- Webapplicatie met login en een conversationele chatbotinterface
- Intern ontwikkeld LLM in plaats van een LLM-dienst van derden
- Antwoorden met details over databronnen en verwijzingen naar documenten
- Uploaden van eigen bestanden om de context van een gesprek te bepalen
Het resultaat
De chatbot veranderde de manier waarop de klant met interne kennis werkt. Een eenvoudige interface en antwoorden die aan hun bronnen zijn gekoppeld, maakten de interne communicatie transparanter en beter herleidbaar.
Doordat eigen bestanden kunnen worden geüpload om de context te bepalen, kon het adviesbureau op basis van het systeem eigen kenniscentra opbouwen.
