MACHINE LEARNING INFERENCE CALLS FOR DATABASE QUERY PROCESSING

• Main Authors: GUPTA, Kamal Kant, SENGUPTA, Sudipta, SONG, Sangil, YOON, Yongsik, STEFANI, Stefano, KRISHNAMURTHY, Saileshwar, NOH, Jaeyun
• Format: Patent
• Language: English; French
• Published: 25.03.2021
• Subjects: CALCULATING; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

Techniques for making machine learning inference calls for database query processing are described. In some embodiments, a method of making machine learning inference calls for database query processing may include generating a first batch of machine learning requests based at least on a query to be performed on data stored in a database service, wherein the query identifies a machine learning service, sending the first batch of machine learning requests to an input buffer of an asynchronous request handler, the asynchronous request handler to generate a second batch of machine learning requests based on the first batch of machine learning requests, and obtaining a plurality of machine learning responses from an output buffer of the asynchronous request handler, the machine learning responses generated by the machine learning service using a machine learning model in response to receiving the second batch of machine learning requests. La présente invention concerne des techniques pour réaliser des appels d'inférence d'apprentissage automatique pour un traitement d'interrogations de base de données. Dans certains modes de réalisation, un procédé pour réaliser des appels d'inférence d'apprentissage automatique pour un traitement d'interrogations de base de données peut comprendre : la génération d'un premier lot de demandes d'apprentissage automatique sur la base d'au moins une interrogation à effectuer sur des données stockées dans un service de base de données, l'interrogation identifiant un service d'apprentissage automatique ; l'envoi du premier lot de demandes d'apprentissage automatique à une mémoire tampon d'entrée d'un gestionnaire de demande asynchrone, le gestionnaire de demande asynchrone servant à générer un second lot de demandes d'apprentissage automatique sur la base du premier lot de demandes d'apprentissage automatique ; et l'obtention d'une pluralité de réponses d'apprentissage automatique depuis une mémoire tampon de sortie du gestionnaire de demande asynchrone, les réponses d'apprentissage automatique générées par le service d'apprentissage automatique utilisant un modèle d'apprentissage automatique en réponse à la réception du second lot de demandes d'apprentissage automatique.