Alasdair Allan邊緣計算AI開發板效能比較文摘要

最近AI開發板掀起一陣大混戰，每個人都說自家的廠商算力有多高，CP值沒得比，但到底實情如何，只能各說各話。有位網友Alasdair Allan發表了一篇比較文，把目前最火的三個方案樹莓派加Intel神經計算棒、NVIDIA Jetson Nano及Google Coral做了完整實驗數據比較，結果各打五十大板，沒有一家能到達號稱的最高效率，真不知是廠商在特定(優化)條件下執行還是作者的測試方法不公平(??)，還是這些廠商有什麼隱藏祕技未公開？

這篇文章非常長，測試方法非常完整，在這裡簡單幫大家摘要一下，有興趣的朋友請直接參考原文

Benchmarking Edge Computing

Comparing Google, Intel, and NVIDIA accelerator hardware

https://medium.com/@aallan/benchmarking-edge-computing-ce3f13942245?fbclid=IwAR30AHHQoUF8HOPNQyYqNv0LDpdJOhkOqEbb9MmpsAr8qhYkk-k9X4O4GK8

以下內容、圖片都出自上述連結。而這篇文章最可愛的地方就是文後最後一句話"This post is sponsored by Coral from Google."，作者拿了Google的贊助雖然結論是Google Coral比較優，但文中仍保留很多意見，沒有一面倒幫Google多講一些好話，淨說老實話，看來Google還是滿大方的。

七種測試平台：
1. 樹莓派3B加Movidius(Intel)神經計算棒一代
2. 樹莓派3B+加英特爾神經計算棒二代
3. NVIDIA Jetson Nano
4. 樹莓派3B+
5. Google Coral USB加速器
6. Google Coral 開發板
7. 蘋果MacBookPro (Intel Core i7)

(點擊圖片放大)

二種模型：
1. MobileNet V1 SSD
2. MobileNet V2 SSD

測試條件：
在微軟COCO資料集，將圖縮到300x300後進行推論1000次後再取執行時間平均值。

黃色：MobileNet V1 SSD, 紅色：MobileNet V2 SSD (點擊圖片放大)

使用框架：
樹莓派: TensorFlow
Google Coral: TensorFlow, TensorFlow Lite
Intel(Movidius) NCS: TensorFlow, OpenVino
NVIDIA Jetson Nano: TensorFlow, TensorRT

USB介面速度會明顯影響執行效率
樹莓派加神經棒、Google Coral USB2.0
NVIDIA Jetsno Nano USB3.0

USB型加速器 (點擊圖片放大)

能量消耗：
在無鍵盤、滑鼠、顯示下測量空載及滿載峰值電流

 (點擊圖片放大)

 (點擊圖片放大)

執行五千次推論後溫度變化

 (點擊圖片放大)

測試範例：
更多完整測試步驟及方式請參考原文自行下載測試。