INTERPRETABLE MACHINE LEARNING FOR DATA AT SCALE

• Main Authors: HOLSHEIMER, Kristian, LIU, Fuchen, PARIKH, Jugal, DEMA, Mesfin Adane
• Format: Patent
• Language: English; French
• Published: 08.12.2022
• Subjects: CALCULATING; COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS; COMPUTING; COUNTING; PHYSICS

In systems for interpreting the predictions of a machine learning model with the help of a surrogate model, feature vectors of inputs to the machine learning model can be grouped based on locality sensitive hashes or other hashes that reflect similarity between the feature vectors in matching hash values. For a given prediction to be interpreted and the corresponding input feature vector, a suitable training dataset for the surrogate model can then be obtained at low computational cost by hashing the input feature vector and retrieving stored feature vectors with matching hash values, along with their respective predictions. Dans des systèmes d'interprétations des prédictions d'un modèle d'apprentissage automatique à l'aide d'un modèle de substitution, des vecteurs de caractéristiques d'entrées dans le modèle d'apprentissage automatique peuvent être groupés sur la base de hachages sensibles à la localité ou d'autres hachages qui reflètent une similarité entre les vecteurs de caractéristiques dans des valeurs de hachage correspondantes. Pour une prédiction donnée à interpréter et le vecteur de caractéristique d'entrée correspondant, un ensemble de données d'entraînement approprié pour le modèle de substitution peut ensuite être obtenu à faible coût de calcul par hachage du vecteur de caractéristique d'entrée et extraction de vecteurs de caractéristiques stockés avec des valeurs de hachage correspondantes, conjointement avec leurs prédictions respectives.