DIALOG MANAGEMENT FOR LARGE LANGUAGE MODEL-BASED (LLM-BASED) DIALOGS

• Main Authors: BAEUML, Martin, D'HALLUIN, Florent, BRAGAGNOLO, Jonas, STROHMAN, Trevor, BAILEY, Alexander
• Format: Patent
• Language: English; French
• Published: 19.09.2024
• Subjects: CALCULATING; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

Implementations relate to dialog management of a large language model (LLM) utilized in generating natural language (NL) output during an ongoing dialog. Processor(s) of a system can: receive NL based input as part of the ongoing dialog, generate NL based output utilizing the LLM, and cause the NL based output to be rendered. Further, the processor(s) can receive subsequent NL based input as part of the ongoing dialog. In some implementations, the processor(s) can determine whether to modify a corresponding dialog context in generating subsequent NL based output, and modify the corresponding dialog context accordingly. For example, the processor(s) can restrict the corresponding dialog context, or supplant the corresponding dialog context with a corresponding curated dialog context. In additional or alternative implementations, the processor(s) can modify a corresponding NL based output threshold utilized in generating the subsequent NL based response to ensure the resulting NL based output is desirable. Des modes de réalisation concernent la gestion de dialogue d'un grand modèle de langage (LLM) utilisé dans la génération d'une sortie en langage naturel (NL) pendant un dialogue en cours. Un ou plusieurs processeurs d'un système peuvent : recevoir une entrée basée sur NL en tant que partie du dialogue en cours, générer une sortie basée sur NL à l'aide du LLM, et amener la sortie basée sur NL à être rendue. En outre, le ou les processeurs peuvent recevoir une entrée basée sur NL ultérieure en tant que partie du dialogue en cours. Dans certains modes de réalisation, le ou les processeurs peuvent déterminer s'il faut modifier un contexte de dialogue correspondant dans la génération d'une sortie basée sur NL ultérieure, et modifier le contexte de dialogue correspondant en conséquence. Par exemple, le ou les processeurs peuvent restreindre le contexte de dialogue correspondant, ou compléter le contexte de dialogue correspondant avec un contexte de dialogue organisé correspondant. Dans des modes de réalisation supplémentaires ou alternatifs, le ou les processeurs peuvent modifier un seuil de sortie basée sur NL correspondant utilisé dans la génération de la réponse basée sur NL ultérieure pour garantir que la sortie basée sur NL résultante est souhaitable.