2028年12月31日 星期日

2021年4月15日 星期四

【Intel OpenVINO™教學】小孩才作選擇,AI推論速度及準確度我全都要─OpenVINO Post-Training Optimization Tool簡介


身為一個人工智慧(AI)從業人員,好不容易費盡千辛萬苦訓練好一個模型並且得到不錯的推論準確度後,總會遇到客戶抱怨「這個模型太大塞不進我的硬體,這個推論的速度不能再快一些嗎?」。當換了一個較小、速度快一點的模型後,又被抱怨「這個推論的準確度不能再高一點嗎?」。此時腦中總會想起星爺的電影「九品芝蔴官」豹子頭的那句經典台詞「我全都要」,難道就沒有折衷一點的辦法,讓我在AI推論速度、準確度和模型大小都能滿足嗎?

INTEL OpenVINO聽到大家的心聲了,於是推出了「Post-Training Optimization Tool (以下簡稱POT)」來幫助大家,在不用重新訓練模型的情況下,只需執行幾個簡單的命令,模型瞬間縮小,且在僅僅損失一點點推論準確度情況下就能得到1.1到3.3倍左右推論速度的提升。而POT究竟用了何種方式才能達成這個結果,接下來就從「何謂量化(Quantization)」、「量化算法(Quantization Algorithms)」、「使用DL Workbench快速優化」、「安裝POT相依套件」幫大家作一些簡單說明,最後再用一個「影像分類MobileNet模型優化」實際案例說明其執行方式及優化結果,希望能讓大家有更愉快的AI落地開發體驗。

2021年4月9日 星期五

【課程簡報】20210409_東南資科_創新應用實務03_OpenCV彩色影像處理

很高興今天受東南科技大學資訊科技系謝昌勳老師邀約擔任業師,和同學們分享「看見新世界─OpenCV彩色影像處理」,此次主要分享重點如下。

  • 色彩空間簡介
  • 彩色影像分離
  • 色彩提取
  • 影像平滑與銳化
  • 卷積與邊緣提取
  • 影像直方圖強化
  • 基本繪圖函數

完整課程範例:https://github.com/OmniXRI/tnu_opencv

(點擊圖片放大)

 

2021年3月26日 星期五

【課程簡報】Edge AI研究會#01_Edge AI影像辨識技術發展觀察

很高興今天(2021/03/26)和大家一起分享關於「Edge AI影像辨識技術發展觀察」這個主題,並且和大家有深度交流,面對面討論了許多問題。

此次重點放在Edge AI的技術發展及影像辨識相關問題,大綱如下。

  • Edge AI 技術發展
    • 算法優化
    • 算力提升
    • 資料標註
    • 領域知識
  • Edge AI影像辨識
    • 離網推論
    • 巨量連網
    • 即時反應
    • 開發部署

 (點擊圖放大)

【課程簡報】20210326_東南資科_創新應用實務02_OpenCV初體驗

很高興今天受東南科技大學資訊科技系謝昌勳老師邀約擔任業師,和同學們分享「走進電腦視覺─OpenCV初體驗」,此次主要分享重點如下。

  • 線上Python開發環境
    • Google Colab
    • Jupyter Notebook
  • 開源電腦視覺OpenCV
    • OpenCV簡介
    • 基本功能操作
    • 數位影像原理
    • 灰階影像處理
    • 範例程式練習 

完整課程範例:https://github.com/OmniXRI/tnu_opencv

(點擊圖片放大)

2021年3月19日 星期五

【課程簡報】20210319_東南資科_創新應用實務01_Github建站

很高興今天受東南科技大學資訊科技系謝昌勳老師邀約擔任業師,和同學們分享創新應用實務相關實務經驗,此次主要分享重點如下。

資訊創新應用開發
  創意與發想
  實作與驗證
GitHub
  何謂 GitHub
  如何建立靜態網站
Markdown
  基本語法
  進階語法

(點擊圖片放大)

2021年3月12日 星期五

【Intel OpenVINO™教學】不用寫程式也能輕鬆上手AI模型分析、優化、佈署─DL Workbench圖形化介面工具簡介


有看過或玩過「神奇寶貝(寶可夢)」的朋友都知道,訓練家們要依怪獸的屬性(火系、草系、電系等)給予適當的培訓,再挑選合適的對象及不斷的對戰磨煉才能有好的戰鬥表現。同樣地,AI模型訓練師也是如此,依據不同的應用場景(影像分類、物件偵測、影像分割等),挑選適合在指定的硬體(CPU, GPU, VPU, FPGA等)上推論的模型,並反覆調整合適的超參數,如此才能有好的成果。

由於這樣的調參工作需要耗費大量的時間及精力才能完成,傳統上只靠一堆數字報表來分析調整方向,所以非常仰賴專業工程師的能力才能完成。因此Intel OpenVINO Toolkit(以下簡稱OpenVINO)在2019 R3版之後提供了一項非常方便的網頁式圖形化介面工具「DL Workbench」(Deep Learning Works Benchmark),讓不會寫程式、非專業的工程師也能輕易上手進行模型選用、下載、校正、參數調整、效能比較、瓶頸分析、優化及打包佈署到目標硬體平台上。

接下來就從「如何安裝DL Workbench」、「DL Workbench工作流程」作簡單說明,最後再以「實際案例操作:SSD物件偵測」完整說明AI模型的分析、優化及佈署的步驟。

2021年2月25日 星期四

【課程簡報】Edge AI社聚#1 身份辨識防疫技術交流 ─ Edge AI人臉辨識技術剖析

很高興今日(2021/2/25)受邀在「Edge AI 社聚」和大家分享關於邊緣智能上人臉辨識相關技術。此次從傳統算法介紹到目前人工智慧算法,並分別解釋相關辨識基準,主要包括下列項目,希望能幫助大家能快速進入「人臉辨識」這個領域

  • 人臉辨識應用
  • 人臉辨識技術
  • 人臉辨識發展
  • 人臉資料集
  • 人臉辨識基準
  • 開源辨識工具
另外文末附上14個常見人臉特徵點(Facial Landmarks)資料集載點,可自行參考。

 (以下圖點擊後放大)

2021年2月20日 星期六

【Intel OpenVINO™教學】GStreamer串流影片智能分析不再慢吞吞─看Intel OpenVINO DL Stream如何加速影片推論

 

隨著人工智慧興起,利用「深度學習」技術來進行電腦視覺工作已是很普遍的應用,如影像分類、物件偵測等。通常只需將單張影像送入訓練好的模型中進行推論即可得到輸出結果,但當遇到視訊檔案或串流影片時,逐格(by Frame)影像分析就變得很沒效率,因為影格間時間差距過短(通常為1/30 ~ 1/60秒),場景中的物件位移量(變形量)可能過小,導致影格間得到幾乎相同的計算結果(物件位置、尺寸及分類),浪費計算資源,也讓系統看起來反應過慢。

為了使視訊檔案及串流影片在分析上能加快反應,Intel OpenVINO Toolkit(以下簡稱OpenVINO)整合了GStreamer、OpenCV並提供DL Streamer - GStreamer Video Analytics (GVA) Plugin,讓使用者可以更彈性的設定,使其在影片(連續影像)分析上更具效率。接下來就幫大家介紹「什麼是串流影片?什麼是GStreamer?」、「如何安裝OpenVINO DL Streamer環境」、「串流影片分析及優化流程」,最後再以一個即時追蹤車輛、行人的範例來介紹如何使用命令列操作,希望能幫大家對DL Streamer有更多認識。

2021年2月11日 星期四

【Raspberry Pi Pico 開箱實作教學 #02】 OLED SSD1327 I2C MicroPython驅動程式開發與測試


在上一篇[1]已初步介紹如何安裝Raspberry Pi Pico (以下簡稱Pi Pico) MicroPython開發環境及基本數位輸出入(GPIO)、類比輸出入(ADC, PWM)用法。這一次就介紹如何自己寫一個OLED的驅動程式做為後續文字及圖形內容(GUI)顯示的介面。實驗用電路如Fig. 1所示。

 

Fig. 1 Pi Pico測試用電路板接線圖。(OmniXRI Feb. 2021設計/繪圖)(點擊圖放大)


大家會好奇為什麼要自己寫OLED驅動程式呢?因為目前Pi Pico不像Arduino,IDE就自帶各種I2C, SPI, UART, 8080介面的溫控、光電、運動、顯示等各種模組驅動程式及範例。而這些模組的供應商目前雖然有提供MicroPython驅動程式,但可能只有支援到Pyboard, ESP8266, ESP32, WiPy等這些常用的開發板,並不保證所有的驅動程式都能被Pi Pico直接使用。相信不久的將來這些模組供應商會很快提供相對應的驅動程式,所以想要用這些模組的朋友只能自己動手解決了。

2021年2月8日 星期一

【Raspberry Pi Pico 開箱實作教學 #01】 MicroPython開發環境安裝與GPIO數位/類比測試


在星爺電影食神中,唐牛說:「瀨尿牛丸彈性十足,還可用來打乓乒球,好玩又有噱頭!我都忍不住買了一碗!」,我想這正是我手上拿著Raspberry Pi Pico(以下簡稱Pi Pico)的心情,怎麼能不跟一波風潮呢。(ps.天竺鼠車車表示不服)

Pi Pico是一款有Arm Cortex-M0雙核心(133MHz)、264KB SRAM及2MB Flash的一款單晶片(MCU),關於規格介紹的文章已充斥網上了,這裡就不多說明了,可以參考一下官網說明[1]或者陸向陽大大的文章[2]。

為了能快點試試這小傢伙究竟有多好玩,趁著周末無聊,就順手焊了一塊板子方便測試,其中包括了兩個輸出的LED(可數位或類比輸出)、兩個按鍵輸入,一個半可變電阻可調的類比輸入,最後再搭上一塊I2C介面的OLED顯示器,電路接線圖如Fig. 1所示,實體照片如Fig. 2所示。(ps. 不要問我為什麼不用麵包板,因為我喜歡享受焊板子的手感)

 

Fig. 1 Pi Pico測試用電路板接線圖。(OmniXRI Feb. 2021設計/繪圖)(點擊圖放大)


Fig. 2 Pi Pico測試用電路板實體照片。(OmniXRI Feb. 2021設計/製作)(點擊圖放大)

【頂置】簡報、源碼、系列文快速連結區

常有人反應用手機瀏覽本部落格時常要捲很多頁才能找到系列發文、開源專案、課程及活動簡報,為了方便大家快速查詢,特整理連結如下,敬請參考! Edge AI Taiwan 邊緣智能交流區 全像顯示與互動交流區 【課程及活動簡報】>> 【開源碼專區】...