Análisis de desempeño de capas de CNN para arquitecturas heterogéneas basadas en FPGAs usando HLS

• Published in: Ingeniería Vol. 26; no. 1; pp. 62 - 76
• Main Authors: Alzate Anzola, Cristian Camilo, Velásquez Vélez, Ricardo Andrés, Castano Londono, Luis Fernando, Guerra Londono, Mateo, Márquez Viloria, David A
• Format: Journal Article
• Language: Portuguese; Spanish
• Published: Universidad Distrital Francisco José de Caldas 01.01.2021
• Subjects: Convolución; Convolution; convolutional neural network; directivas de optimización; ENGINEERING, MULTIDISCIPLINARY; FPGA; high; level synthesis; optimization directives; red neuronal convolucional; síntesis de alto nivel; directivas de optimización; Convolution; síntesis de alto nivel; FPGA; convolutional neural network; Convolución; high-level synthesis; red neuronal convolucional; optimization directives
• ISSN: 0121-750X; 2344-8393; 2344-8393
• DOI: 10.14483/23448393.15634

Resumen Contexto: Las redes neuronales convolucionales (CNNs) son actualmente utilizadas en una amplia gama de aplicaciones de inteligencia artificial. En muchos casos, dichas aplicaciones requieren la ejecución de las redes en tiempo real en dispositivos integrados. Por esto, el interés en que estas aplicaciones puedan alcanzar un buen desempeño con bajo consumo de potencia. Las CNNs realizan operaciones entre los datos de entrada y los pesos de la red, con la particularidad de que no existe dependencia entre la mayoría de las operaciones. Por tal motivo, el paralelismo inherente de los FPGAs puede ser usado para realizar múltiples operaciones en paralelo, manteniendo el buen desempeño por vatio que caracteriza a estos dispositivos. Este artículo se enfoca en la evaluación del algoritmo de convolución para una capa convolucional de redes neuronales explorando directivas de paralelización usando VIVADO HLS, y su objetivo es evaluar el desempeño del algoritmo utilizando directivas de optimización. Método: La metodología consiste en una exploración del espacio de diseño de la implementación de una capa de una red neuronal convolucional usando VIVADO HLS. La verificación del funcionamiento del FPGA fue realizada comparando los datos de salida con el mismo algoritmo de convolución implementado en MATLAB. Una capa de la versión comercial Xilinx DNNK fue usada como referencia para las medidas de desempeño de las diferentes implementaciones obtenidas en la exploración del espacio de diseño. En este trabajo se utilizan múltiples variaciones de directivas de optimización, tales como pipeline, array partition, y unroll. Resultados: Este trabajo presenta los resultados de una implementación de referencia (sin directivas de optimización) del algoritmo de convolución con respecto a la latencia del algoritmo y los recursos de hardware utilizados por la FPGA. Los resultados se comparan con implementaciones del algoritmo, incluyendo diferentes combinaciones de dos directivas de optimización (pipeline y partition array). Conclusiones: Este trabajo explora el espacio de diseño de un algoritmo de convolución para una capa de red neuronal convolucional sobre FPGAs. La exploración incluye el efecto causado por la transferencia de los datos entre la memoria DDR y la memoria on-chip del FPGA. Además, dicho efecto es causado por las directivas de optimización en Vivado HLS sobre los diferentes ciclos del algoritmo.