網頁

2023年6月26日 星期一

【vMaker Edge AI專欄 #06】 Intel OpenVINO 2023.0初體驗─如何快速在Google Colab運行人臉偵測

作者:Jack OmniXRI, 2023/06/12

話說二十多年前第一次到教練場學開車,當時是手排車,常常因換檔時離合器、排擋、油門控制不當就導致車子瞬間熄火,不然就是猛烈振動甚至暴衝,好在教練細心指導,才能讓車子平順前進。後來改開自排車後,突然覺得以前那些換擋技巧根本用不到,車子自己就會處理好這些換檔工作,我們只要會轉方向盤,會踩油門、剎車加上專心路況就能順利把車開上路到達目的地。如今在學習AI這台大車時也遇到類似問題,需要一個好的教練指導開發AI的每個步驟和細節,不然就得換一套方便的工具,讓我們能專心在開發應用程式而不需要了解太多AI的數學和原理,而其中 Intel OpenVINO Toolkit (以下簡稱OpenVINO) [1] 就是一套不錯的AI推論(Infernece)優化工具。

一般常見的AI應用有「電腦視覺」、「自然語言處理」、「資料分析」等,通常多半需要收集大量的資料,經過訓練特定的模型(或機器學習算法、神經網路等)才能應付各式AI應用的需求。訓練過程非常繁瑣且須依靠極高算力才能完成模型巨量權重(參數)的訓練。不過好在當完成模型訓練後,只需運行一次推論就能得到結果。如果還覺得模型太大或推論速度不夠快,此時可透過一些複雜程序來進行參數量化(如FP32變成INT8)或模型優化(如減枝、壓縮、蒸餾等),以達到又快又準的結果。而以上介紹的 OpenVINO 正是這樣的工具,它已幫大家把常用AI應用的模型都預訓練好了,如影像分類、物件偵測、人臉辨識、影像分割、姿態估測等,甚至現在流行的大型語言模型(LLM)及AI生成影像模型(AIGC),這樣大家就可輕鬆上手AI應用。

以下就以最常見的 「人臉辨識」 (只作人臉位置偵測,不作身份辨識)作為起手式,使用網頁版 Python 開發環境 Google Colab (Jupyter Notebook環境)直接安裝最新2023.0版的 OpenVINO 運行其 Notebooks 範例,來讓大家快速體驗一下AI應用帶來的好處。

2023年6月12日 星期一

【課程簡報】20230612_智慧醫療_看大型語言模型與生成式AI如何引領新世代智慧醫療前行

很榮幸這學期受到開南大學健康產業管理學系范靜媛主任及李盛安老師邀約擔任「智慧健康系列課程」計畫協同主持人,並擔任部份課程講師。本學期(111年度第二學期)協助的課程為「智慧醫療」,此次為第18週,課程內容為「智慧醫療_看大型語言模型與生成式AI如何引領新世代智慧醫療前行」。課程大綱如下:

  1. 大型語言模型與生成式AI進展
  2. 智慧醫療及健康照護相關應用實例
  3. 未來可能應用及發展趨勢

 (點擊頁面放大)

2023年6月5日 星期一

【課程簡報】2023605_開南健管系_智慧醫療_week17_智慧醫療工作坊2

很榮幸這學期受到開南大學健康產業管理學系范靜媛主任及李盛安老師邀約擔任「智慧健康系列課程」計畫協同主持人,並擔任部份課程講師。本學期(111年度第二學期)協助的課程為「智慧醫療」,此次為第17週,課程內容為「智慧醫療工作坊2」,預計帶著大家操作如何完成一個創意專題。課程大綱如下:

17.1 Intel DevCup 2022案例分享
17.1.1 糖尿病風險預測
17.1.2 電動輪椅路況辨識
17.1.3 羽球虛擬教練
17.1.4 顏面神經失調復建
17.1.5 兒童發燒監測
17.1.6 長者安養運動

17.2 簡報內容及技巧
17.2.1 簡報內容重點
17.2.2 簡報技巧

17.3 分組討論及導引

以下就是此次課程簡報,提供大家參考。(點擊圖放大)