2023年4月22日 星期六

【vMaker Edge AI專欄 #04】 從Embedded World 2023看Edge AI及TinyML最新發展趨勢

 

作者:Jack OmniXRI, 2023/04/17

相信大家最近應該都沈浸在ChatGPT, DALL-E2, Midjourney, Bard, GPT4等大型AI語言模型及生成式應用中,感受著AI帶來的新奇體驗,殊不知另一場精彩的嵌入式AI應用展覽及研討會也在德國紐倫堡順利落幕了,那就是2023年嵌入式世界展會[1] (2023/03/14 - 03/16, Embedded World Exhibition & Conference 2023,以下簡稱EW23)。這項展會為全球最大的嵌入式電子與工業電腦應用展,除了常見的工業電腦(含單板微電腦)、微控制器(含MPU/MCU/DSP)、數位看板、智慧物聯網(AIoT)、自動控制、交通、物流、安防、零售、醫療、 業等領域外,當然其中也包含了許多Edge AI及TinyML的應用。

2023年4月20日 星期四

【課程簡報】20230420_AIEXPO未來舞台_從一 個超級邊緣人視角來看AI社群現況與Edge AI未來發展

很高興今天(2023/04/20)受DigiTimes邀約於AIEXPO 2023 未來舞台和大家分享最近一些社群經營心得及看到的未來驅勢,主要包括

  • AI社群的演變與經營模式
  • Edge AI技術發展趨勢(CES2023 / EW2023) 
  • AI社群的未來發展契機

以下就是此次的簡報。(點擊圖放大)

2023年4月15日 星期六

【課程簡報】20230415_vMaker創客小聚_Maker如何玩AI

很高興今天(2023/04/15)受邀擔任vMaker創客小聚「Maker玩轉AI創意無極限」活動的講者,此次和大家分享新手如何進入AI領域,有那些關鍵名詞、開發工具要認識及如何發想及實作相關案例。以下就是今天簡報及大綱。

  • 邊緣智慧 vs. 生成智慧(LLM, AIGC, Edge AI, AIoT, TinyML)
  • AI起手式(ADC, 數字系統、開發流程)
  • AI開發工具選用(硬體裝置、傳統式及雲端式開發工具)
  • AI實例分享(Intel DevCup, Edge Impulse Projects)

(點擊圖片放大)

 

2023年4月8日 星期六

FB 中文 AI 社團及粉專大盤點

人工智慧(AI)自1950年代發展至今,幾經波折,從早期的專家系統、機器學習、資料探勘、深度學習到近期的大型語言模型及生成式AI,一路走來除了學界發表相關論文外,社群的推動亦功不可沒,讓這項技術能更深入生活之中。

2023年3月31日 星期五

【課程簡報】20230331—宜蘭資工─Edge AI瘦身大作戰─如何完成深度學習模型優化及加速推論

很高興今天(2023/03/31)受到宜蘭大學資工系黃朝曦老師邀約,和同學們分享「Edge AI瘦身大作戰─如何完成深度學習模型優化及加速推論」這個主題,此次內容包括下列重點。

1. 深度學習模型的演進
2. 主要計算量分析
3. 模型加速計算方式
4. 模型減量及壓縮技術
5. 常見模型優化工具簡介
6. TinyML微型AI應用開發

(點擊圖片放大)

2023年3月28日 星期二

如何在Intel DevCloud中執行OpenVINO Notebooks範例

Intel OpenVINO在2021.4版後開始提供很多現成完整Jupyter Notebook格式(*.ipynb)的範例程式,在官方說明文件稱之為「Tutorials」[1],同時在Github上開源[2],可於多種平台上運行,包括Windows, Ubuntu, macOS ...,對於初學者學習OpenVINO有很大的幫助。

不過目前這些範例並不方便在Google Colab環境下運行,若想在雲端體驗則要靠Intel DevCloud (類似Google Colab環境) 來運行,這個環境已預安裝好OpenVINO(版本可自由切換)很方便進行Python程式開發及執行。不過預設啟動後,只會看到內建的一些範例[3],並不會看到OpenVINO Notebooks的範例。接下來就簡單說明要如何在DevCloud下運行OpenVINO Notebooks。

如Fig. 1所示,進入DevCloud後,先切換到終端機環境。執行下列指令,下載Notebooks範例到DevCloud提供的雲端硬碟區,這裡和Google Colab提供的服務方式不同,登出後仍會保留,下次進來就可直接使用不需再重新下載。

git clone --depth=1 https://github.com/openvinotoolkit/openvino_notebooks.git

完成下載後,會在左邊檔案清單中看到新增了一個「openvino_notebooks」的路徑,點進去後會看到「notebooks」的路徑,再進去後就可看到數十個檔案夾,就是Tutorials的範例。隨便點一個進去,如「001-hello-world」,再雙擊「001-hello-world.ipynb」就會載入範例原始碼。按下選單上快捷鍵「雙鍵頭」就能全部運行了。

這裡通常會建議選用OpenVINO 2022.3版執行,但若要測試較舊的版本,官方是建議不要低於2021.4 LTS,以免範例無法順利運行。

Fig. 1 Intel DevCloud下載及執行OpenVINO Notebooks範例流程圖。(OmniXRI整理製作, 2023/03/28) 

更多範例的操作說明可參閱官方說明文件[1]。


 參考文獻

[1] Intel OpenVINO Document - Tutorials https://docs.openvino.ai/latest/tutorials.html

[2] Intel OpenVINO Toolkit Github - openvino_notebooks https://github.com/openvinotoolkit/openvino_notebooks

[3] Intel DevCloud - Sample Applications https://www.intel.com/content/www/us/en/developer/tools/devcloud/edge/build/sample-apps.html 

2023年3月27日 星期一

【課程簡報】20220327_Raspberry Pi社聚#36_如何使用TinyML來玩電腦視覺

很高興今天(2023/3/27)受邀擔任「Raspberry Pi 社群聚會#36 - 當Raspberry Pi Pico遇上tinyML」的講者,分享「如何使用TinyML來玩電腦視覺」這個主題。這個主題不久前(2023/3/10)剛在「Digitimes D Forum 嵌入式系統開發應用論壇」上發表過, 所以今天就以上次簡報做為基底,以不同簡報方式和大家分享,希望大家能有所收獲。以下就是本次簡報內容。

 

2023年3月25日 星期六

【vMaker Edge AI專欄 #03 】 AI晶片發展歷史及最新趨勢

想要玩邊緣智慧(Edge Artificial Intelligence, Edge AI)前我們首先要先認識什麼是類神經網路(Neural Network, NN)、深度學習(Deep Learning, DL)及為什麼需要使用AI晶片,而AI晶片又有那些常見分類及未來可能發展方向。接下來就逐一為大家介紹不同類型的AI晶片用途及優缺點。

2023年3月10日 星期五

【課程簡報】20230310—DForum_嵌入式系統開發應用論壇_MCU如何結合NPU實現TinyML微型化電腦視覺


很高興今天(2023/03/10)受DIGITIMES D Forum 「嵌入式系統開發應用」邀約擔任講者,分享「MCU如何結合NPU實現TinyML微型化電腦視覺」這個主題。相關簡報內容如下所示。

2023年2月21日 星期二

【vMaker EDGE AI專欄 #02】 要玩AI前,先來認識數字系統

 

作者:Jack OmniXRI, 2023/02/13

對於剛入門如Arduino這類單晶片或樹莓派這類單板微電腦的朋友,最常遇到的問題就是如何接入各種感測器信號及推動可變速度的馬達或可變亮度的燈具,而這正是開發各種智能感測器(Smart Sensors)及邊緣智能裝置(Edge AI Devices)的基礎。

為了讓大家後續能更順利開發智慧物聯網(AI + Internet of Things, AIoT)及微型機器學習(Tiny Machine Learning, TinyML)相關裝置,接下來會先從類比、數位系統的關係開始介紹,再來會說明數位系統是如何表示整數及小數,最後會詳解AI模型訓練和推論常用的數字系統及最新AI專用的數字系統,以便幫大家建立好玩AI前的基本功。

2023年1月26日 星期四

【vMaker Edge AI專欄 #01】 從CES 2023 看Edge AI及TinyML最新發展趨勢

作者:Jack OmniXRI, 2023/01/16

CES(Consumer Electronics Show 消費電子展)為全球最重要的電子展會之一,每年約在一月初舉辦,吸引數千家廠商及十多萬人與會參觀。身為全球最重要的電子產品設計、製造重地的台灣自然不會錯過,大家都會拿出最新、最有競爭力的產品(或樣品機)來吸引全球買家的目光。前兩(2021)年受全球疫情影響改成線上舉辦,嚴重影響台灣廠商曝光程度及商機。去(2022)年疫情雖有改善,改採線上線下聯合舉辦,但參與人數仍不如往年熱鬧。今(2023)年在全球逐步對防疫解封,參與實體展出及參觀人數有大幅成長。此次台灣方面除各大廠自行參展外,另外在國發會、數位部及國科會帶領下CES也設有專區,有近百家公司共同參與。

CES 2023(2023/1/5-1/8)最近剛於美國拉斯維加斯落幕,此次許多創新產品令人眼睛一亮,在邊緣智能(Edge AI)及微型機器學習(TinyML)相關產品亦有非常精彩的表現,以下就簡單幫大家盤點一下。

【頂置】簡報、源碼、系列文快速連結區

常有人反應用手機瀏覽本部落格時常要捲很多頁才能找到系列發文、開源專案、課程及活動簡報,為了方便大家快速查詢,特整理連結如下,敬請參考! Edge AI Taiwan 邊緣智能交流區 全像顯示與互動交流區 台科大(NTUST)邊緣人工智慧實務(2026) 南開科大...