API 콜 호출 및 구두 응답의 언어 모델 예측

• Main Authors: GANESH SARAVANAN, BYRNE WILLIAM J, KRISHNAMOORTHI KARTHIK
• Format: Patent
• Language: Korean
• Published: 22.07.2024
• Subjects: ACOUSTICS; CALCULATING; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; MUSICAL INSTRUMENTS; PHYSICS; SPEECH ANALYSIS OR SYNTHESIS; SPEECH OR AUDIO CODING OR DECODING; SPEECH OR VOICE PROCESSING; SPEECH RECOGNITION

방법(500)은 사용자(10)로부터 디지털 어시스턴트(50)를 향한 발언(106)을 획득하는 동작을 포함한다. 이 방법은 언어 모델(210)을 사용하여 발언에 기초하여 제1 예측 문자열(214)을 생성하고, 제1 예측 문자열이 API(62)를 통해 프로그램(60)을 호출하기 위한 애플리케이션 프로그래밍 인터페이스(API) 콜(222)을 포함하는지 여부를 결정하는 동작을 포함한다. 제1 예측 문자열에 API 콜이 포함된 경우, 방법은 프로그램 결과(224)를 검색하기 위해 API를 통해 프로그램을 콜하는 동작; 프로그램 결과를 수신하는 동작; 발언을 포함하는 프로그램 결과로 대화 컨텍스트(250)를 업데이트하는 동작; 및 언어 모델을 사용하여 업데이트된 대화 컨텍스트에 기초하여 제2 예측 문자열(214)을 생성하는 동작을 포함한다. 제1 예측 문자열에 API 콜이 포함되지 않은 경우, 방법은 제1 예측 문자열에 기초하여 발언에 대한 발언 응답(226)을 제공하는 동작을 포함한다. A method includes obtaining an utterance from a user including a user query directed toward a digital assistant. The method includes generating, using a language model, a first prediction string based on the utterance and determining whether the first prediction string includes an application programming interface (API) call to invoke a program via an API. When the first prediction string includes the API call to invoke the program, the method includes calling, using the API call, the program via the API to retrieve a program result; receiving, via the API, the program result; updating a conversational context with the program result that includes the utterance; and generating, using the language model, a second prediction string based on the updated conversational context. When the first prediction string does not include the API call, the method includes providing an utterance response to the utterance based on the first prediction string.