2025年9月3日 星期三

有了 Intel AI Playground 不寫程式也能輕鬆玩生成式AI

20250901_Playground_Fig00

作者: Jack OmniXRI, 2025/09/01

2023 年底 Intel 推出了新一代內建神經網路加速器(NPU)的中央處理器(CPU) - Meteor Lake (Core Ultra)從此開啟 AI PC 的新世代。由於第一代 AI PC 算力略低,加上當時的生成式AI相關模型都很巨大(數百億到數千億參數)因此未能獲得市場青睞。2024 年底 Intel 再次推出二代 AI PC,使用 Lunar Lake (Core Ultra 200V) 系列 CPU,其中內建的 NPU 及 GPU 算力大幅提升至 47 及 67 TOPS(@INT8),同時配合較小模型(數億到數十億參數)就能完成自然對話及影像生成,使得生成式 AI 應用得以普及,實現不用上網就能在本地(筆電/桌機)端執行。

一般在雲端環境執行大語言模型(LLM)或文字生成影像(Image Diffusion)功能時,多半會搭配很簡潔的人機介面,使用者幾乎不用考慮環境如何架設、程式如何撰寫,只要幾個文字框、圖框、按鍵作為輸出入介面,再加上幾個設定值就可馬上得到生成後的結果。但若要在本地端得到類似結果,則通常有很多安裝及設定工作要完成,對於非程式開發者的使用族群就變得不太友善。因此 Intel 為滿足這個需求,整合自家 NPU / GPU 硬體強大算力及 OpenVINO 開源推論工具包開發出一套「AI Playground」[1],讓聊天對話、文字生成影像及影像強化輕輕鬆鬆就能完成。

通常使用雲端生成式服務需要付費,用越多則需要付越多錢,少數免費的服務則有使用數量上的限制,而使用 AI Playground 則不需額外花費半毛錢,可盡情的產生對話及生成圖片。2024年7月已有釋出免費測試版執行檔,2025年4月更開源相關程式碼,方便使用者發揮 AI PC 更多效益及開發出更多個人化版本。

以下就分別就「測試環境」、「安裝步驟」、「可支援模型」、「【創作】影像生成」、「【增強】影像強化」、「【對話】聊天機器人」等內容作進一步說明。

【頂置】簡報、源碼、系列文快速連結區

常有人反應用手機瀏覽本部落格時常要捲很多頁才能找到系列發文、開源專案、課程及活動簡報,為了方便大家快速查詢,特整理連結如下,敬請參考! Edge AI Taiwan 邊緣智能交流區 全像顯示與互動交流區 台科大(NTUST) 人工智慧與邊緣運算實務(2021-2...