SAPER-AI accelerator: a systolic array-based power-efficient reconfigurable AI accelerator
Abstract
أجهزة تسريع التعلم العميق ضرورية لتلبية الطلب المتزايد على الحوسبة في الشبكات العصبية الحديثة. تعتمد جهاز تسريع مبني على مصفوفة النبض على عناصر معالجة ذات تنظيم شبكي ثنائي الأبعاد تعمل معًا لتسريع عمليات ضرب المصفوفة. فعالية هذه الأجهزة تسريع حاسمة ، خاصة في سياق الذكاء الاصطناعي على الحواف. جهاز SAPER-AI المقترح هو عبارة عن مسرع على شكل مصفوفة النبض يستخدم تنسيق الطاقة الموحد لتحديد نوايا استهلاك الطاقة ، ولا يكاد يحتاج إلى تحسين هيكله الدقيق. يغلق هذا الجهاز عناصر المعالجة في الصفوف والأعمدة بشكل خشن ، مما يجعل هيكل مصطنع مصفوفة النبض قادرًا على التكيف مع الطلب المتغير باستمرار لحوسبة التعلم العميق الحديثة. يشير التحليل إلى أن فعالية 32 × 32 و 64 × 64 تصميم مصفوفة النبض في أفضل الظروف ترتفع بنسبة 10٪ إلى 25٪ على التوالي. بالإضافة إلى ذلك ، يتحسن مؤشر طاقة التأخير لمصفوفة النبض بمقدار 6٪ تقريبًا. علاوة على ذلك ، تشير مقارنة الأداء المستندة إلى نماذج MobileNet و ResNet50 إلى أن مصفوفة النبض عادةً ما تظهر أداءً أفضل في معالجة حمولة عمل ResNet50. يعود هذا إلى أن تحسب الفلترة الأكثر انتظامًا المقدمة بواسطة ResNet50 تحظى بمزيد من تفضيلات مصفوفة النبض ومع زيادة حجم مصفوفة النبض ، سيتم توسيع هذا الفارق في الأداء بشكل أكبر.
Keywords
Artificial intelligence (AI) accelerators;Application-specific integrated circuit (ASIC) design;Systolic arrays;Low-power designs