【AI HUB專欄】如何利用可視化工具揭開神經網路背後的祕密(上)

圖/文 歐尼克斯實境互動工作室 許哲豪 2020/8/27

2012年Alex Krizhevsky和其指導教授知名圖靈獎得主Geoffrey Everest Hinton以「AlexNet」卷積神經網路(Convolution Neural Network, CNN)贏得大規模視覺辨識挑戰賽(ImagNet Large Scale Visual Recognition Competition, ILSVR)，並以低於第二名10%以上的錯誤率受到極大矚目，從此打開人工智慧及「深度學習」的新紀元。雖然CNN利用多層卷積(Convolution)、池化(Pooling)層及扁平化(Flatten)、全連結(Full Connected)構成的模型（神經網路）有著極佳地分類能力，但沒有人可以理解其背後意義，不像傳統機器學習技術中的決策樹(Decision Tree, DT)或支援向量機(Support Vector Machine, SVM)有著清楚的特徵及物理意義。

黑箱AI真的能被解釋？

最近看到台大教授徐宏民老師發表的可解釋性人工智慧（Explainable AI ，XAI）模組 xCos，可以成功解釋為何兩張人臉會辨識為同一人（或另一人）的原因。這篇論文[1]相當不錯，還有開源[2]給大家玩玩，有興趣的朋友可以試試。