پردازش هوش مصنوعی توسط سخت افزار (Edge AI)

وقتی به پردازش هوش مصنوعی توسط سخت افزار (Edge AI) می‌پردازیم، در واقع چندین نوع ساختار سخت‌افزاری امبدد وجود دارد: GPU، VPU، FPGA و ASIC. در این مقاله هر یک را بررسی کرده و ویژگی‌های آنها را بیان می‌کنیم. پس اگر علاقمند به هوش مصنوعی (AI) هستید، تا آخر این مقاله همراه ما باشید.

سیستم‌های فناوری اطلاعات به سرعت در شرکت‌ها و سازمان‌ها در حال تکامل هستند و یک روند رو به رشد در حوزه انتقال قدرت محاسباتی به سخت افزار (Edge) وجود دارد. گارتنر پیش‌بینی می‌کند تا سال 2025، محاسبات حاشیه‌ای ۷۵٪ از داده‌های تولید شده توسط همه موارد استفاده‌، از جمله کارخانه‌ها، مراقبت‌های بهداشتی و حمل و نقل را پردازش می‌کند. شما می‌توانید اتصال بین پذیرش محاسبات Edge و رشد هوش مصنوعی (AI) را برقرار کنید، که کارخانه‌ها را هوشمندتر می‌کند، نتایج بهتری در درمان بیماران ارائه می‌دهد و ایمنی خودروهای خودران را افزایش می‌دهد ، همچنین حجم داده‌ها را به صورت تصاعدی به مقادیر بزرگتری افزایش می‌دهد. داده‌هایی که از تجهیزات تولید، حسگرها، سیستم‌های بینایی ماشین و سیستم‌های مدیریت انبار در یک کارخانه هوشمند به دست می‌آیند، به راحتی می‌تواند روزانه تا ۱ پتابایت برسد.

وقتی شرکت‌ها برای اولین بار سیستم‌های تعبیه شده را پیاده‌سازی کردند، معماران سیستم نمی‌توانستند حجم داده‌هایی که هوش مصنوعی، اینترنت اشیا (IOT) و سایر فناوری‌های پیشرفته تولید خواهند کرد، تصور کنند. اکنون دیدگاه ها تغییر کرده است، سیستم‌های تعبیه شده قدیمی باید برای پشتیبانی از محاسبات Edge امروزی سازگار شوند.

بسیاری از بارهای کاری هوش مصنوعی امروز در فضای ابری(cloud) پردازش می‌شوند. با این حال، با افزایش داده‌های با پهنای باند بالا که تقاضاهای رو به رشدی را بر روی این سیستم‌ها ایجاد می‌کند، پردازش داده در سخت افزار (Edge) به لحاظ تاخیر، قابلیت اطمینان، قابلیت سیار بودن، امنیت، کارایی انرژی و هزینه‌های انتقال داده، معنی پیدا می‌کند.

انواع هسته های پردازشی قابل استفاده در سیستم های Edge و نقاط قوت آنها:

الزامات سخت افزاری برای پردازش بار کاری هوش مصنوعی بسته به موارد استفاده متفاوت است. هوش مصنوعی می‌تواند طیف گسترده‌ای از ورودی‌ها، از جمله فیلم‌ها، تصاویر، صدا، سنسورها و داده‌های PLC را به کار گیرد. چالشی که معماران سیستم با آن روبرو هستند، انتخاب بهترین هسته های محاسباتی برای کاربردهای هوش مصنوعی خود هستند.

CPU

واحد پردازش مرکزی (CPU)، یک واحد پردازش همه منظوره است که معمولاً 4-16 هسته دارد. CPU ها وظایف پیچیده ای را اجرا می کنند و مدیریت سیستم را آسان می کنند. آنها به خوبی با ورودی های داده، ترکیبی کار می کنند، مانند سیستم هایی که از صدا و متن استفاده می کنند و فرآیندهای استخراج، تبدیل و بارگذاری (ETL) را انجام می دهند.

GPU

واحدهای پردازش گرافیکی (GPU) هسته های بسیار موازی (100 یا 1000 تایی) برای رندر گرافیکی با سرعت بالا هستند. آنها پردازش با کارایی بالا را ارائه می دهند و معمولاً نسبت به CPU ها ردپای بزرگتر و مصرف انرژی بالاتری دارند. به دلیل تعداد بالای هسته‌های کوچک، پردازنده‌های گرافیکی برای بارهای کاری هوش مصنوعی مناسب هستند و آموزش شبکه‌های عصبی و استنتاج هوش مصنوعی را تسهیل می‌کنند.

FPGA 

آرایه گیت قابل برنامه ریزی میدانی (FPGA)، که گیت های منطقی قابل تنظیم هستند، نسبت به CPU ها و GPU ها انرژی کمتری مصرف می کنند. آنها برنامه ریزی مجدد را برای مهندسین متخصص در زمینه برنامه نویسی را امکان پذیر می کنند. در صورتی که به انعطاف پذیری بالایی نیاز باشد، می توانند بهترین انتخاب باشند.

ASIC

مدارهای مجتمع ویژه برنامه (ASIC) منطق سفارشی هستند که با استفاده از کتابخانه مدارهای سازنده طراحی شده اند و مزایای آن ها مصرف انرژی کم، سرعت و ردپای کم است. با این حال، طراحیشان زمان‌بر و گران‌تر از گزینه‌های دیگر هست، بنابراین ASIC برای محصولاتی که در حجم‌های بسیار بالا اجرا می‌شوند، توصیه می‌شود.

انواع ASIC عبارتند از:

• واحدهای پردازش بینایی (VPU)، پردازشگرهای تصویر و بینایی و پردازنده‌های کمکی
• واحدهای پردازش تانسور (TPUs)، مانند اولین TPU که توسط گوگل برای چارچوب یادگیری ماشین خود، TensorFlow توسعه یافته است.
• واحدهای محاسبات عصبی (NCU)، از جمله واحدهای ARM

هر نوع هسته برای انواع مختلفی از محاسبات مناسب است و استفاده از آنها با هم در برنامه‌های محاسباتی ناهمگن، تمام قابلیت‌هایی را که موارد استفاده پیچیده نیاز دارند، فراهم می‌کند. با استفاده از آنها می توانند بارهای کاری را متعادل کرد، عملکرد استنباط هوش مصنوعی مختلف را تقویت کرد و مقرون به صرفه ترین و کارآمدترین پیکربندی را ساخت.

مراحل انتخاب سخت افزار مناسب برای Edge AI

انتخاب یک سیستم سخت افزاری مناسب برای پردازش هوش مصنوعی برای محاسبات سخت افزار( Edge ) نیازمند بررسی سه عامل اصلی است:

Performance (کارایی)

سیستم سخت افزاری اصلی باید بتواند سرعت مورد نیاز برنامه های کاربردی هوش مصنوعی Edge پیچیده و فشرده را ارائه دهد، در حالی که به طور مداوم و قابل اعتماد، حتی در محیط های سخت کار می کند.

(SWaP(size, weight and power

SWaP مخفف اندازه، وزن و قدرت است. علاوه بر ارائه عملکرد مورد نیاز برنامه، سخت‌افزار Edge باید مشخصات اندازه و وزن را نیز رعایت کند تا با محدودیت‌های فیزیکی برنامه مطابقت داشته باشد و از نقطه‌نظر مصرف انرژی بیشترین معنا را داشته باشد.

Cost(هزینه)

در انواع هسته ها و سازنده ها هزینه سخت افزار Edge می‌تواند متفاوت باشد.لازم است تعیین کنید که کدام یک عملکرد و مشخصات مورد نیاز پروژه شما را با بهترین قیمت ارائه می دهد.

کاربرد سخت افزار Edge

در زیر به تعدادی از متعدد موارد استفاده از نوآوری سخت افزار Edge که هوش مصنوعی را قادر می‌سازد تا ارزش امروزی را به جامعه ارائه دهد را مثال میزنیم.

پلتفرم های شتاب یادگیری عمیق

پلتفرم‌های شتاب یادگیری عمیق (DLAP) قابلیت‌هایی از جمله جمع‌آوری داده، پیش‌پردازش تصویر، تجزیه و تحلیل تصویر و شتاب هوش مصنوعی را فعال می‌کنند. آنها همچنین به ماشین ها توانایی بهبود عملکرد خود و تصمیم گیری را می دهند. با جایگزینی دستگاه‌های Edge قدیمی که داده‌ها را برای پردازش به Cloud ارسال می‌کنند با DLAP، عملیات می‌تواند پاسخ‌های سریع‌تر و همچنین با امنیت و کنترل بیشتری را ببینند.

DLAP ها می توانند از طراحی ناهمگن استفاده کنند، به عنوان مثال، از CPU ها برای مدیریت اکتساب داده ها و پیش پردازش تصویر و GPU ها برای سرعت بخشیدن به پردازش کارهای موازی و در عین حال کوچک نگه داشتن سیستم Edge و مصرف کم، استفاده می کنند.

سری DLAP ADLINK برای عملکرد در محیط‌های سخت یا صنعتی، کارکرد در دماهای شدید، رطوبت بالا، و در مواردی که ضربه‌ها و ارتعاشات رایج هستند، طراحی شده است. این SWaP بهینه شده برای هوش مصنوعی Edge نامیده میشود. واحدهای جمع و جور ADLINK حاوی یک پردازنده گرافیکی امبدد NVIDIA® Quadro® یا ابر رایانه NVIDIA® Jetson™ روی یک ماژول هستند و می توانند برای استنتاج مبتنی بر هوش مصنوعی، بینایی ماشین و برنامه های کاربردی کنترل ماشین مستقل استفاده شوند.

AI Self-Checkout: با توجه به اینکه دیگر مردم به دنبال راه های سریع برای خرید وعده های غذایی هستند. پذیرش سلف سرویس در بین مصرف کنندگان در حال رشد است و هوش مصنوعی می تواند تجربیات مشتری را مدرن کند. در تسویه‌حساب یک رستوران یا فروشگاه، بینایی ماشین می‌تواند اقلام را در یک اسکن شناسایی کند و کل سررسید را در کمتر از 1.5 ثانیه با ADLINK DLAP-211-JT2 نشان دهد. مشتریان می توانند خرید خود را سریع و راحت انجام دهند.

سی آرم X-Ray سیار: تجهیزات پزشکی باید قابل اعتماد، بادوام و برای کارایی بالا طراحی شده باشند. همچنین تجهیزات سیار باید تمام توان محاسباتی لازم را در یک طراحی فشرده با مصرف انرژی کم قرار دهند. ترکیبی از CPU و ماژول GPU تعبیه شده MXM، کوچکترین سیستم صنعتی مجهز به GPU در جهان، این مشخصات را برآورده می کند.
هوش مصنوعی روی ماژول ها
پردازنده‌های گرافیکی Mobile PCI Express Module (MXM) به شما امکان می‌دهند هوش مصنوعی را در کارت‌های گرافیکی به اندازه یک کف دست اجرا کنید. آنها مزایای عمده SWaP را ارائه می دهند، آنها عملکرد بالایی در هر وات دارند و برای شرایط فوق العاده مانند تهویه محدود یا بدون تهویه، فضاهای کوچک، دماهای بالا یا پایین و محیط های گرد و غبار یا حتی خورنده طراحی شده اند. برای مثال:

تشخیص چهره هوش مصنوعی: کنترل دسترسی برای جلوگیری از ورود غیرمجاز به کارخانه‌های تولیدی، مراکز تحقیقاتی، مراکز داده و سایر مناطق بسیار کنترل‌شده حیاتی است. گیت تشخیص چهره با هوش مصنوعی نیاز به کارت‌های شناسایی (که می‌تواند جعلی باشد) را از بین می‌برد و آن سیستم‌های قدیمی را با فناوری جایگزین می‌کند که کاربران مجاز را حتی اگر عینک یا کلاه دارند را در کسری از ثانیه شناسایی می‌کند. حتی می تواند چهره واقعی انسان و عکس را تشخیص دهد.

ایمنی فرودگاه: سیستم‌های نظارت پانورامیک فرودگاه یک نمای 360 درجه از باند فرودگاه، ترافیک هوایی و زمینی و درجه بالاتری از آگاهی موقعیتی را نسبت به سیستم‌های نظارت قدیمی ارائه می‌دهند. این فناوری‌های هوش مصنوعی توسط یک دستگاه Edge مقاوم و بدون فن که برای استفاده در فضای باز طراحی شده است، پشتیبانی می‌شود، که با یک GPU با کارایی بالا یکپارچه شده است که از نظارت بهبودیافته در روز و شب پشتیبانی می‌کند.

رباتیک Edge
نوآوری در سخت افزار رباتیک را در Edge ممکن می سازد. آیا شنیده‌اید که Eclipse Cyclone DDS به‌عنوان میان‌افزار پیش‌فرض ROS 2 انتخاب شده است؟ این هیجان انگیز است زیرا همان فناوری سرویس توزیع داده (DDS) در کنترلرهای روباتیک جاسازی شده ROScube ما است که به ربات ها کمک می کند با خود و دنیای اطرافشان ارتباط برقرار کنند.
روبات‌های متحرک خودمختار در تولید: AMR‌های مجهز به هوش مصنوعی Edge می‌توانند با محیط‌های خود مذاکره کنند و با استفاده از فناوری‌های بینایی ماشین، 5G و DDS، زمینه را درک کنند. Fair Friend Group، یکی از بزرگترین تولیدکنندگان در تایوان، از 5G بر روی زیرساخت DDS استفاده می‌کند تا امکان تعمیر و نگهداری از راه دور با واقعیت افزوده، بینایی ماشین برای بازرسی خودکار، و ازدحام AMR برای جابجایی مواد در کارخانه خود را فراهم کند.

AI Machine Vision
سیستم‌های Machine Vision مبتنی بر هوش مصنوعی از دوربین‌های صنعتی یکپارچه و سیستم‌های محاسباتی Edge با GPU، VPU و CPU امبدد با کارایی بالا برای انجام وظایف استفاده می‌کنند. از آنجا که تمام قدرت محاسباتی در Edge است، نگرانی‌های مربوط به تاخیر و پهنای باند حذف می‌شوند. همچنین، با سخت افزار Edge مناسب، دوربین های هوشمند، می توانند ردپای کوچک، وزن، قدرت، عملکرد و هزینه مورد نیاز برای بینایی ماشین هوش مصنوعی را حفظ کنند.