2024年9月27日 星期五

【課程簡報】20240927_生成式AI的發展趨勢以及應用

很高興今天(2024/09/26)受文曄科技與英特爾邀請擔任此次活動講師之一,此次分享時間較長有一個小時,主題為「生成式AI的發展趨勢以及應用」,分為四小段,大綱如下所示。

1. Intel AI PC & NPU 技術演進

  • 何謂AI PC ? 為何需要 NPU?
  • 從 Computex 2024 看 Intel 技術藍圖
  • 常見 AI PC 主要晶片比較
  • Lunar Lake (Core Ultra V200系列) 功耗比較
  • Intel NPU 演進
  • Lunar Lake (Core Ultra 200V系列) AI 效能
  • Geekbench AI 效能評測
  • 神經網路技術發展
  • 常見影像分類/物件偵測模型參數量
  • 常見大型語言模型參數量
  • 影像生成 效能/功耗 孰重?


2. OpenVINO 2024 最新亮點

  • Intel OpenVINO 簡介
  • OpenVINO 2024 亮點 ─ NNCF 模型壓縮
  • NNCF 訓練後量化及訓練時優化流程
  • OpenVINO 2024 亮點 ─ 異質加速
  • OpenVINO 2024 亮點 ─直接支援AI框架
  • OpenVINO 2024.2 亮點 – Gen AI API
  • OpenVINO 2024.3 亮點 – Hugging Face
  • OpenVINO 2024.3 亮點 – dGPU效能提升


3. 如何從決策式 AI 邁向生成式 AI

  • 決策式 AI 常見應用
  • OpenVINO Open Model Zoo (OMZ)
  • OpenVINO Notebooks Colab範例 (1/2)
  • OpenVINO Notebooks Colab範例 (2/2)
  • 決策式 AI 應用實例 ─ 台達電
  • 決策式 AI 應用實例 ─ 垃圾自動分類


4. 生成式AI 開發及應用例

  • 生式 AI 常見應用
  • OpenVINO 可支援生成式 AI 案例與模型
  • 生成式 AI 應用實例 ─ PCBA 3D瑕疵生成
  • 生成式 AI 應用實例 ─ 虛擬助理 (數字人)
  • 生成式 AI 應用實例 ─ 聲控機器人Tonypi
  • OpenVINO Notebooks 範例庫
  • OpenVINO Notebooks Pages
  • OpenVINO Notebooks AI 範例類型
  • Notebooks 範例 ─ 對話生成 LLM Chatbot
  • Notebooks 範例 ─ 語音生成 TTS Bark
  • Notebooks 範例 ─ 影像生成 TinySD
  • Notebooks 範例 ─ 影像生成 ControlNet
  • 更多OpenVINO Notebooks AIGC範例(1/2)
  • 更多OpenVINO Notebooks AIGC範例(2/2)
  • HuggingFace + Intel 預訓練模型庫
  • Intel AI Playground 生成式 AI 工具


(可點擊圖片放大觀看)




























(資料來源:Youtube, 如遭刪除敬請見諒) 
 


 (資料來源:Youtube-1Youtube-2,如遭刪除敬請見諒)



(資料來源:Youtube 06:16處,如遭刪除敬請見諒) 
 



(影片來源:Bilibili,如遭刪除敬請見諒) 
(參考源碼:Github












參考文獻

Intel, 全新Intel Core Ultra處理器為AI PC時代帶來突破性效能和效率
https://www.intel.com.tw/content/www/tw/zh/newsroom/news/core-ultra-200v-series-mobile.html

Intel, Github – openvinotoolkit - Notebooks
https://github.com/openvinotoolkit/openvino_notebooks

許哲豪,【課程簡報】20240628_OpenVINO x AIPC : 技術新亮點剖析
https://omnixri.blogspot.com/2024/06/20240628openvino-x-aipc.html

許哲豪,【課程簡報】20240709_南投縣中小企業榮譽指導員協進會_南開科大_看智慧製造如何從決策式AI邁向生成式AI
https://omnixri.blogspot.com/2024/07/20240709aiai.html

許哲豪,【課程簡報】20240913_園區廠商人才培訓課程#2_從2024自動化展看智慧機器人發展趨勢
https://omnixri.blogspot.com/2024/09/2024091322024.html





沒有留言:

張貼留言

【頂置】簡報、源碼、系列文快速連結區

常有人反應用手機瀏覽本部落格時常要捲很多頁才能找到系列發文、開源專案、課程及活動簡報,為了方便大家快速查詢,特整理連結如下,敬請參考! Edge AI Taiwan 邊緣智能交流區 全像顯示與互動交流區 台科大(NTUST) 人工智慧與邊緣運算實務 開南大學...