El reto
Una consultora necesitaba mejorar la comunicación y el acceso a la información entre sus equipos sin comprometer la privacidad de los datos.
Los servicios de LLM de terceros no eran una opción, por lo que la firma necesitaba un chatbot que funcionara sobre su propio LLM a medida y le diera el control sobre la privacidad de los datos, el entrenamiento del modelo y sus actualizaciones.
Nuestra solución
Desarrollamos una aplicación web que permite a los usuarios conversar con un gran modelo de lenguaje a medida a través de una interfaz de chatbot. El resultado es una solución alojada de forma privada, similar a la versión comercial de ChatGPT, con funciones adicionales.
La interfaz es deliberadamente sencilla: los usuarios inician sesión, escriben una pregunta o una afirmación y reciben una respuesta. Cada respuesta incluye sus fuentes de datos, con referencias a los documentos a partir de los cuales se generó, lo que hace que las respuestas sean transparentes y trazables.
En lugar de depender de servicios de LLM de terceros, el chatbot funciona sobre un LLM a medida desarrollado internamente, lo que da a la firma el control sobre la privacidad de los datos, los procesos de entrenamiento y las actualizaciones.
- Aplicación web con inicio de sesión e interfaz conversacional de chatbot
- LLM a medida desarrollado internamente en lugar de un servicio de LLM de terceros
- Respuestas con detalles de las fuentes de datos y referencias a documentos
- Carga de archivos propios para definir el contexto de una conversación
El resultado
El chatbot cambió la forma en que el cliente trabaja con su conocimiento interno. Una interfaz sencilla y unas respuestas vinculadas a sus fuentes hicieron que la comunicación interna fuera más transparente y trazable.
La posibilidad de cargar archivos propios para definir el contexto permitió a la consultora crear sus propios centros de conocimiento sobre el sistema.
