PROVIDING OUTCOME EXPLANATION FOR ALGORITHMIC DECISIONS

• Main Author: PATEL, Labhesh
• Format: Patent
• Language: English; French
• Published: 27.08.2020
• Subjects: CALCULATING; COMPUTING; COUNTING; ELECTRIC COMMUNICATION TECHNIQUE; ELECTRIC DIGITAL DATA PROCESSING; ELECTRICITY; IMAGE DATA PROCESSING OR GENERATION, IN GENERAL; PHYSICS; WIRELESS COMMUNICATIONS NETWORKS

Computer systems and methods are provided for training a machine learning system to determine an authentication decision and explanation information corresponding to the authentication decision. First authentication information for a first authentication request including a first image is received. First validation information corresponding to the first image and including a first authentication decision and first explanation information is received. Data storage of a machine learning system stores the first image and the first validation information. The machine learning system updates an authentication model based on the stored first image and first validation information. Second authentication information for a second authentication request is received. The machine learning system determines second validation information, including second explanation information, based on the updated authentication model. The second explanation information is provided for display to a user device. L'invention concerne des systèmes et des procédés d'ordinateur permettant d'entraîner un système d'apprentissage automatique à déterminer une décision d'authentification et des informations d'explication correspondant à la décision d'authentification. Des premières informations d'authentification d'une première demande d'authentification comprenant une première image sont reçues. Des premières informations de validation correspondant à la première image et comprenant une première décision d'authentification et des premières informations d'explication sont reçues. Une mémoire de données d'un système d'apprentissage automatique mémorise la première image et les premières informations de validation. Le système d'apprentissage automatique met à jour un modèle d'authentification en fonction de la première image et des premières informations de validation mémorisées. Des secondes informations d'authentification d'une seconde demande d'authentification sont reçues. Le système d'apprentissage automatique détermine des secondes informations de validation, comprenant des secondes informations d'explication, en fonction du modèle d'authentification mis à jour. Les secondes informations d'explication sont fournies afin d'être affichées à un dispositif utilisateur.