MECHANISM TO AUTOMATICALLY PRIORITIZE I/O FOR NFV WORKLOADS AT PLATFORM OVERLOAD

• Main Authors: MISRA, Amruta, BROWNE, John J, MACNAMARA, Chris
• Format: Patent
• Language: English; French
• Published: 24.03.2022
• Subjects: CALCULATING; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

Methods to automatically prioritize input/output (I/O) for Network Function Virtualization (NFV) workloads at platform overload and associated apparatus and mechanisms. During lab or runtime workload operations, platform telemetry data are collected and analyzed to determine whether a current workload is uncore-sensitive - that is, sensitive to operations involving utilization of the uncore circuitry such as I/O-related operations, memory bandwidth utilization, EEC utilization, network traffic, core-to-core traffic etc. For uncore sensitive workloads, upon detection of a platform overload condition such as a thermal load approaching a TDP limit, the uncore circuity is prioritized over the core circuitry such that the frequency of the core is reduced first. A closed-loop feedback mechanism is used to adjust the frequencies of the core and uncore under various workload conditions. The mechanism enables I/O throughput to be maintained for NFV workloads, while reducing the processor thermal load. L'invention porte sur des procédés de hiérarchisation automatique d'entrées/sorties (E/S) pour des charges de travail de virtualisation des fonctions réseau (NFV) lors d'une surcharge de plateforme, ainsi que sur des appareils et des mécanismes associés. Pendant des opérations de charge de travail en laboratoire ou à l'exécution, des données de télémesure de plateforme sont collectées et analysées pour déterminer si une charge de travail actuelle est sensible au non-cœur -- c'est-à-dire, sensible à des opérations impliquant l'utilisation de l'ensemble circuit non-cœur telles que des opérations relatives aux E/S, l'utilisation de la bande passante de mémoire, l'utilisation d'EEC, le trafic réseau, le trafic de cœur à cœur, etc. Pour des charges de travail sensibles au non-cœur, lors de la détection d'une situation de surcharge de plateforme telle qu'une charge thermique s'approchant d'une limite de TDP, la priorité est attribuée à l'ensemble circuit non-cœur par rapport à l'ensemble circuit cœur, de telle sorte que la fréquence du cœur soit réduite en premier. Un mécanisme de rétroaction en boucle fermée est utilisé pour ajuster les fréquences du cœur et du non-cœur dans diverses conditions de charge de travail. Le mécanisme permet de maintenir un débit d'E/S pour des charges de travail NFV, tout en réduisant la charge thermique du processeur.