AI（人工智慧）近年來成為IT產業的重要趨勢，尤其是與經過大約10年發展、開始落地應用的物聯網結合，形成AIoT架構後，整體發展越來越快，由於AIoT主要應用於各種垂直的特定領域，像是製造、醫療、交通…等，這些領域又是工業電腦廠商耕耘已久的場域，再加上AI原就屬於電腦運算技術，在應用與技術都相符的態勢下，工業電腦自然成為最積極投入AI發展的產業。

第3波AI趨勢 前景看好

這波AI議題的啟動，從2016年底Google的AlphaGo陸續打敗世界職業圍棋棋士開始，但就整體發展來看，這次的熱潮已是AI概念發表以來的第三波大型發展，過去兩次都因資料庫不完整、運算能力不佳兩大原因，導致成效不如預期而讓熱潮消退。

這次AI之所以前景看好，主要原因也是解決了資料庫與運算能力大量的問題，距離上次1980年代發展至今，已超過30年，這30年間，IT產業經過了兩大典範轉移，首先是PC的崛起，讓運算能力不斷提升，摩爾定律讓IC效能、體積與功耗表現持續強化。2000年起，網際網路開始普及，再加上後來行動通訊的加持，開啟了資訊爆炸的年代。

PC強化了運算能力，網際網路則讓資料庫的建立不再困難，再加上大約10年前開始啟動的物聯網，這些技術與概念的落實，都為這次的AI發展鋪好路，也因此，相較於過去兩次發展，最終熱潮消退，回歸學術界再行研究的結果，這次業界對AI的落地可能性非常看好。

圖1 : 凌華科技平臺產品中心嵌入式平臺及模組事業處總監蔡雨利表示，凌華具備完整的處理器產品技術與應用領域專業，其異質性平臺將可讓系統效能最佳化。（攝影／王明德）

過去AI的運算架構為集中式運算，也就是將所有資料彙集到中央大型主機運算，不過在物聯網架構中，此一方式對雲端主機與網路頻寬的負荷量極大，同時數據資料的來回傳輸，也會因傳輸延遲導致系統的即時性不佳，因此近年來邊緣運算概念興起。

邊緣運算已成AIoT趨勢

要談邊緣運算，必須先談AI演算法的運作。現在AI主流的演算法包括深度學習（Deep Learning）與機器學習（Machine Learning），都會分成訓練（Training）與推理（Inference）兩部分，前者是透過現代機器學習技術，利用大量樣本數據對演算法進行訓練，後者則是讓裝置在內部根據已有的模型運算。

現在AIoT就是以這兩種方式運作，先前端設備擷取的數據形成資料庫，後端主機再以機器學習運算此資料庫中的數據，這些數據經過一段時間的運算後形成模型（Pattern），再將模型建在前端設備中，前端設備除依照模型設計處理狀況外，也將所接受到的資料持續傳回後端資料庫，後端主機則是以深度學習演算法，在不斷增加的資料庫中持續運算並校正結果，讓結果越來越精準。

這種邊緣運算的架構AIoT系統，需要強大雲端主機與一定運算能力的終端設備，工業電腦廠商的產品主力多在終端設備，因此在AIoT領域中，也是側重此部分。不過近年來此產業開始強化、延伸本身價值，其營運策略已從單一產品銷售轉換為提供整體服務，因此除了終端產品外，現在多會與Google、Amazon、IBM、微軟等有提供雲端架構的大廠合作，以整體解決方案的模式，讓客戶可以完整建置AI系統，而在這幾家廠商中，微軟與臺灣工業電腦廠商的合作向來密切，因此旗下的Azure，也是最主要的雲端平臺。

至於在硬體方面，以前IT系統的處理器均以CPU為主，不過進入AI時代後，GPU、VPU、FPGA，甚至Google與AMD都推出了各自的AI處理器，因此選擇相當多，在目前的市場多認為平行運算模式的GPU是最佳選擇。

異質化才能最佳化

不過，凌華科技 平臺產品中心嵌入式平臺及模組事業處 總監 蔡雨利 表示，AIoT的應用多元，所用的演算法、神經網路也不相同，而且廠商上每一類型處理器各有其特長與侷限，必須互相搭配使用，這也是凌華推出異質化平臺的原因。

要讓異質化平臺的效能浮現，在軟硬兩端都必須有足夠技術，在硬體方面，蔡雨利指出，神經網路大約有5～6種分類，這些分類又有不同變形，這些分類已可覆蓋目前絕大多數應用，而神經網路每一種拓墣類型不同，各有適合的加速器，選擇到正確的加速器，就可組合出最佳化架構。軟體方面則是演算法，AI最重要的是數據的運算處理分配與效能，透過精密的運算，可解決系統的運算瓶頸，讓效能順利浮現。

圖2 : 具備AI功能的機器視覺，可自我學習產品的良品與不良品特徵，快速分辨良品與不良品。（攝影／王明德）

要讓異質性平臺符合使用者所需，必須對處理器技術與應用領域兩端都有足夠的專業掌握，以凌華來說，由於有完整的處理器產品技術，因此在平臺初期，即可了解各處理器在導入運作時會產生的狀況，透過此經驗就可找出最適合的處理器類型。至於軟體方面，學術單位目前仍是演算法的主要機構，因此凌華已與臺大合作，解決軟體方面的問題。

至於在應用面，雖然近期AI加快擴展使用面向，不過目前AI的絕大多數仍來自於影像處理，由於攝影機是主要的影像資料來源，因此AI也多應用於此。在非消費性領域中，攝影機的應用分為安全監控與工廠的機器視覺兩類，安全監控系統中的AI現在多用於交通領域，用來分析車流、人流，改善交通流量，或是辨識車牌，作為違規開罰、停車收費之用。

另一個影像應用是產線中的機器視覺，工廠中的機器視覺系統，主要是建置於產線中，用來檢測產品，提升產品品質之用。在加入AI功能後，AI軟體可運算這些影像資料，自我學習產品的良品與不良品特徵，並根據分析結果，快速分辨良品與不良品，不必像傳統AOI需耗時編寫演算法。

AI在產業的應用多元，而且必須搭配的系統相當複雜，因此過去單一廠商獨立建置整體系統的商業模式，已無法套用在AIoT中，未來必須是各方廠商協力合作打造，才能讓系統適用於所屬領域，而且在導入後，系統通常也不會一次到位的解決所有問題，必須經過不斷的調校，效能才會逐漸浮現，因此專業、經驗與合作團隊，就是企業在選擇AIoT廠商時的重要指標，透過這三大指標，方能讓導入更順利，競爭力也才會提升。

**刊頭圖（Source: Privacy & Security Law Blog）