BANDIT-BASED TECHNIQUES FOR FAIRNESS-AWARE HYPERPARAMETER OPTIMIZATION

• Main Authors: BIZARRO, Pedro Gustavo Santos Rodrigues, SOARES, Carlos Manuel Milheiro de Oliveira Pinto, SALEIRO, Pedro dos Santos, CRUZ, André Miguel Ferreira Da
• Format: Patent
• Language: English; French
• Published: 13.01.2022
• Subjects: CALCULATING; COMPUTING; COUNTING; OPTICAL COMPUTING DEVICES; PHYSICS

In various embodiments, a process for fairness-aware hyperparameter optimization based on bandit-based techniques includes receiving a fairness evaluation metric for evaluating a fairness of a machine learning model to be trained and receiving a performance metric for evaluating performance of the machine learning model to be trained. The process includes automatically evaluating candidate combinations of hyperparameters of the machine learning model based at least in part on multi-objective optimization including scalarization and using the fairness evaluation metric and the performance metric to select a hyperparameter combination to utilize among the candidate combinations of hyperparameters, wherein evaluating the candidate combinations of hyperparameters of the machine learning model includes automatically and dynamically determining a relative weighting between the fairness evaluation metric and the performance metric. The process includes using the selected hyperparameter combination to train the machine learning model. Selon divers modes de réalisation de l'invention, un procédé d'optimisation d'hyperparamètres sensible à l'équité basé sur des techniques à base de bandit comprend la réception d'une métrique d'évaluation d'équité pour évaluer une équité d'un modèle d'apprentissage machine à entraîner et la réception d'une métrique de performance pour évaluer la performance du modèle d'apprentissage machine à entraîner. Le procédé comprend l'évaluation automatique de combinaisons d'hyperparamètres candidates du modèle d'apprentissage machine au moins en partie en fonction d'une optimisation multiobjectif comprenant la scalarisation et l'utilisation de la métrique d'évaluation d'équité et de la métrique de performance pour sélectionner une combinaison d'hyperparamètres à utiliser parmi les combinaisons d'hyperparamètres candidates, l'évaluation des combinaisons d'hyperparamètres candidates du modèle d'apprentissage machine comprenant la détermination automatique et dynamique d'une pondération relative entre la métrique d'évaluation d'équité et la métrique de performance. Le procédé comprend l'utilisation de la combinaison d'hyperparamètres sélectionnée pour entraîner le modèle d'apprentissage machine.