Steuern von Arbeitsverteilung für Verarbeitung von Tasks

• Main Authors: Abdalla, Karim M, Treichler, Sean J, Shah, Lacky V, Waal, Abraham B. de
• Format: Patent
• Language: German
• Published: 13.06.2024
• Subjects: CALCULATING; COMPUTING; COUNTING; ELECTRIC DIGITAL DATA PROCESSING; PHYSICS

Verfahren zur Steuerung der Verteilung von Arbeit für Taskverarbeitung, das Verfahren aufweisend:Lesen von Arbeitsverteilungsparametern (422), die in Taskmetadaten enthalten sind, die einen ersten Verarbeitungstask definieren, wobei die Arbeitsverteilungsparameter die Verteilung der Arbeit an Rechenthreadarrays (CTAs) steuern, die zur Ausführung von einem Streaming-Mehrfachprozessor (310) konfiguriert sind, wobei ein erster Parameter der Arbeitsverteilungsparameter denjenigen Teil der Arbeit spezifiziert, der von dem Satz von CTAs verarbeitet wird;Feststellen, dass ein Teil der Arbeit in Einträge in einer ersten Warteschlange (425) gespeichert ist, basierend auf den Arbeitsverteilungsparametern (422);Starten eines Satzes von CTAs zur Ausführung von dem Streaming-Mehrfachprozessor (310), basierend auf den Arbeitsverteilungsparametern, um den Teil der Arbeit auszuführen;Aktualisieren eines Zeigers auf einen ersten Eintrag in der ersten Warteschlange, der von einem nächsten Satz von CTAs verarbeitet werden soll, basierend auf den ArbeitsverteilungsparameternFeststellen, dass eine Anzahl von Einträgen in der ersten Warteschlange einen zweiten Teil der Arbeit speichern, der kleiner ist als der Teil der Arbeit, der von dem ersten Parameter spezifiziert ist;Feststellen, dass eine Zusammenfügungswartezeit abgelaufen ist, wobei die Zusammenfügungswartezeit die Zeitdauer ist, welche abgewartet wird, bevor eine CTA mit weniger als N Warteschlangeneinträgen gescheduled wird; undStarten des nächsten Satzes von CTAs zur Ausführung von dem Streaming-Mehrfachprozessor, um den zweiten Teil der Arbeit auszuführen. A technique for controlling the distribution of compute task processing in a multi-threaded system encodes each processing task as task metadata (TMD) stored in memory. The TMD includes work distribution parameters specifying how the processing task should be distributed for processing. Scheduling circuitry selects a task for execution when entries of a work queue for the task have been written. The work distribution parameters may define a number of work queue entries needed before a cooperative thread array" ("CTA") may be launched to process the work queue entries according to the compute task. The work distribution parameters may define a number of CTAs that are launched to process the same work queue entries. Finally, the work distribution parameters may define a step size that is used to update pointers to the work queue entries.