【課程簡報】20240927_生成式AI的發展趨勢以及應用

很高興今天（2024/09/26）受文曄科技與英特爾邀請擔任此次活動講師之一，此次分享時間較長有一個小時，主題為「生成式AI的發展趨勢以及應用」，分為四小段，大綱如下所示。

1. Intel AI PC & NPU 技術演進

• 何謂AI PC ？ 為何需要 NPU？
• 從 Computex 2024 看 Intel 技術藍圖
• 常見 AI PC 主要晶片比較
• Lunar Lake (Core Ultra V200系列) 功耗比較
• Intel NPU 演進
• Lunar Lake (Core Ultra 200V系列) AI 效能
• Geekbench AI 效能評測
• 神經網路技術發展
• 常見影像分類/物件偵測模型參數量
• 常見大型語言模型參數量
• 影像生成 效能/功耗 孰重？

2. OpenVINO 2024 最新亮點

• Intel OpenVINO 簡介
• OpenVINO 2024 亮點 ─ NNCF 模型壓縮
• NNCF 訓練後量化及訓練時優化流程
• OpenVINO 2024 亮點 ─ 異質加速
• OpenVINO 2024 亮點 ─直接支援AI框架
• OpenVINO 2024.2 亮點 – Gen AI API
• OpenVINO 2024.3 亮點 – Hugging Face
• OpenVINO 2024.3 亮點 – dGPU效能提升

3. 如何從決策式 AI 邁向生成式 AI

• 決策式 AI 常見應用
• OpenVINO Open Model Zoo (OMZ)
• OpenVINO Notebooks Colab範例 (1/2)
• OpenVINO Notebooks Colab範例 (2/2)
• 決策式 AI 應用實例 ─ 台達電
• 決策式 AI 應用實例 ─ 垃圾自動分類

4. 生成式AI 開發及應用例

• 生式 AI 常見應用
• OpenVINO 可支援生成式 AI 案例與模型
• 生成式 AI 應用實例 ─ PCBA 3D瑕疵生成
• 生成式 AI 應用實例 ─ 虛擬助理 （數字人）
• 生成式 AI 應用實例 ─ 聲控機器人Tonypi
• OpenVINO Notebooks 範例庫
• OpenVINO Notebooks Pages
• OpenVINO Notebooks AI 範例類型
• Notebooks 範例 ─ 對話生成 LLM Chatbot
• Notebooks 範例 ─ 語音生成 TTS Bark
• Notebooks 範例 ─ 影像生成 TinySD
• Notebooks 範例 ─ 影像生成 ControlNet
• 更多OpenVINO Notebooks AIGC範例(1/2)
• 更多OpenVINO Notebooks AIGC範例(2/2)
• HuggingFace + Intel 預訓練模型庫
• Intel AI Playground 生成式 AI 工具

（可點擊圖片放大觀看）

 

https://docs.openvino.ai/2024/index.html

 

https://github.com/openvinotoolkit/nncf

 

https://huggingface.co/models?library=openvino&sort=trending

 

https://docs.openvino.ai/2024/documentation/legacy-features/model-zoo.html

 

https://github.com/openvinotoolkit/openvino_notebooks

 

https://github.com/openvinotoolkit/openvino_notebooks

 

(資料來源：Youtube, 如遭刪除敬請見諒） 

 

 

 （資料來源：Youtube-1，Youtube-2，如遭刪除敬請見諒）

 

（資料來源：Youtube 06:16處，如遭刪除敬請見諒） 

 

 

（影片來源：Bilibili，如遭刪除敬請見諒） 

（參考源碼：Github）

 

https://github.com/openvinotoolkit/openvino_notebooks

 

 https://openvinotoolkit.github.io/openvino_notebooks/

 

範例程式： https://github.com/openvinotoolkit/openvino_notebooks/blob/latest/notebooks/llm-chatbot/llm-chatbot.ipynb

 

範例程式： https://github.com/openvinotoolkit/openvino_notebooks/blob/latest/notebooks/bark-text-to-audio/bark-text-to-audio.ipynb

 

範例程式：https://colab.research.google.com/github/openvinotoolkit/openvino_notebooks/blob/latest/notebooks/tiny-sd-image-generation/tiny-sd-image-generation.ipynb

 

範例程式：https://github.com/openvinotoolkit/openvino_notebooks/blob/latest/notebooks/controlnet-stable-diffusion/controlnet-stable-diffusion.ipynb

 

https://huggingface.co/Intel

 

https://game.intel.com/tw/stories/introducing-ai-playground/

參考文獻

Intel, 全新Intel Core Ultra處理器為AI PC時代帶來突破性效能和效率
https://www.intel.com.tw/content/www/tw/zh/newsroom/news/core-ultra-200v-series-mobile.html

Intel, Github – openvinotoolkit - Notebooks
https://github.com/openvinotoolkit/openvino_notebooks

許哲豪，【課程簡報】20240628_OpenVINO x AIPC : 技術新亮點剖析
https://omnixri.blogspot.com/2024/06/20240628openvino-x-aipc.html

許哲豪，【課程簡報】20240709_南投縣中小企業榮譽指導員協進會_南開科大_看智慧製造如何從決策式AI邁向生成式AI
https://omnixri.blogspot.com/2024/07/20240709aiai.html

許哲豪，【課程簡報】20240913_園區廠商人才培訓課程#2_從2024自動化展看智慧機器人發展趨勢
https://omnixri.blogspot.com/2024/09/2024091322024.html