AI（人工智慧）近年來成為IT產(chǎn)業(yè)的重要趨勢，尤其是與經(jīng)過大約10年發(fā)展、開始落地應(yīng)用的物聯(lián)網(wǎng)結(jié)合，形成AIoT架構(gòu)後，整體發(fā)展越來越快，由於AIoT主要應(yīng)用於各種垂直的特定領(lǐng)域，像是製造、醫(yī)療、交通…等，這些領(lǐng)域又是工業(yè)電腦廠商耕耘已久的場域，再加上AI原就屬於電腦運(yùn)算技術(shù)，在應(yīng)用與技術(shù)都相符的態(tài)勢下，工業(yè)電腦自然成為最積極投入AI發(fā)展的產(chǎn)業(yè)。

第3波AI趨勢 前景看好

這波AI議題的啟動，從2016年底Google的AlphaGo陸續(xù)打敗世界職業(yè)圍棋棋士開始，但就整體發(fā)展來看，這次的熱潮已是AI概念發(fā)表以來的第三波大型發(fā)展，過去兩次都因資料庫不完整、運(yùn)算能力不佳兩大原因，導(dǎo)致成效不如預(yù)期而讓熱潮消退。

這次AI之所以前景看好，主要原因也是解決了資料庫與運(yùn)算能力大量的問題，距離上次1980年代發(fā)展至今，已超過30年，這30年間，IT產(chǎn)業(yè)經(jīng)過了兩大典範(fàn)轉(zhuǎn)移，首先是PC的崛起，讓運(yùn)算能力不斷提升，摩爾定律讓IC效能、體積與功耗表現(xiàn)持續(xù)強(qiáng)化。2000年起，網(wǎng)際網(wǎng)路開始普及，再加上後來行動通訊的加持，開啟了資訊爆炸的年代。

PC強(qiáng)化了運(yùn)算能力，網(wǎng)際網(wǎng)路則讓資料庫的建立不再困難，再加上大約10年前開始啟動的物聯(lián)網(wǎng)，這些技術(shù)與概念的落實(shí)，都為這次的AI發(fā)展鋪好路，也因此，相較於過去兩次發(fā)展，最終熱潮消退，回歸學(xué)術(shù)界再行研究的結(jié)果，這次業(yè)界對AI的落地可能性非常看好。

圖1 : 凌華科技平臺產(chǎn)品中心嵌入式平臺及模組事業(yè)處總監(jiān)蔡雨利表示，凌華具備完整的處理器產(chǎn)品技術(shù)與應(yīng)用領(lǐng)域?qū)I(yè)，其異質(zhì)性平臺將可讓系統(tǒng)效能最佳化。（攝影／王明德）

過去AI的運(yùn)算架構(gòu)為集中式運(yùn)算，也就是將所有資料彙集到中央大型主機(jī)運(yùn)算，不過在物聯(lián)網(wǎng)架構(gòu)中，此一方式對雲(yún)端主機(jī)與網(wǎng)路頻寬的負(fù)荷量極大，同時(shí)數(shù)據(jù)資料的來回傳輸，也會因傳輸延遲導(dǎo)致系統(tǒng)的即時(shí)性不佳，因此近年來邊緣運(yùn)算概念興起。

邊緣運(yùn)算已成AIoT趨勢

要談邊緣運(yùn)算，必須先談AI演算法的運(yùn)作。現(xiàn)在AI主流的演算法包括深度學(xué)習(xí)（Deep Learning）與機(jī)器學(xué)習(xí)（Machine Learning），都會分成訓(xùn)練（Training）與推理（Inference）兩部分，前者是透過現(xiàn)代機(jī)器學(xué)習(xí)技術(shù)，利用大量樣本數(shù)據(jù)對演算法進(jìn)行訓(xùn)練，後者則是讓裝置在內(nèi)部根據(jù)已有的模型運(yùn)算。

現(xiàn)在AIoT就是以這兩種方式運(yùn)作，先前端設(shè)備擷取的數(shù)據(jù)形成資料庫，後端主機(jī)再以機(jī)器學(xué)習(xí)運(yùn)算此資料庫中的數(shù)據(jù)，這些數(shù)據(jù)經(jīng)過一段時(shí)間的運(yùn)算後形成模型（Pattern），再將模型建在前端設(shè)備中，前端設(shè)備除依照模型設(shè)計(jì)處理狀況外，也將所接受到的資料持續(xù)傳回後端資料庫，後端主機(jī)則是以深度學(xué)習(xí)演算法，在不斷增加的資料庫中持續(xù)運(yùn)算並校正結(jié)果，讓結(jié)果越來越精準(zhǔn)。

這種邊緣運(yùn)算的架構(gòu)AIoT系統(tǒng)，需要強(qiáng)大雲(yún)端主機(jī)與一定運(yùn)算能力的終端設(shè)備，工業(yè)電腦廠商的產(chǎn)品主力多在終端設(shè)備，因此在AIoT領(lǐng)域中，也是側(cè)重此部分。不過近年來此產(chǎn)業(yè)開始強(qiáng)化、延伸本身價(jià)值，其營運(yùn)策略已從單一產(chǎn)品銷售轉(zhuǎn)換為提供整體服務(wù)，因此除了終端產(chǎn)品外，現(xiàn)在多會與Google、Amazon、IBM、微軟等有提供雲(yún)端架構(gòu)的大廠合作，以整體解決方案的模式，讓客戶可以完整建置AI系統(tǒng)，而在這幾家廠商中，微軟與臺灣工業(yè)電腦廠商的合作向來密切，因此旗下的Azure，也是最主要的雲(yún)端平臺。

至於在硬體方面，以前IT系統(tǒng)的處理器均以CPU為主，不過進(jìn)入AI時(shí)代後，GPU、VPU、FPGA，甚至Google與AMD都推出了各自的AI處理器，因此選擇相當(dāng)多，在目前的市場多認(rèn)為平行運(yùn)算模式的GPU是最佳選擇。

異質(zhì)化才能最佳化

不過，凌華科技 平臺產(chǎn)品中心嵌入式平臺及模組事業(yè)處 總監(jiān) 蔡雨利 表示，AIoT的應(yīng)用多元，所用的演算法、神經(jīng)網(wǎng)路也不相同，而且廠商上每一類型處理器各有其特長與侷限，必須互相搭配使用，這也是凌華推出異質(zhì)化平臺的原因。

要讓異質(zhì)化平臺的效能浮現(xiàn)，在軟硬兩端都必須有足夠技術(shù)，在硬體方面，蔡雨利指出，神經(jīng)網(wǎng)路大約有5～6種分類，這些分類又有不同變形，這些分類已可覆蓋目前絕大多數(shù)應(yīng)用，而神經(jīng)網(wǎng)路每一種拓墣類型不同，各有適合的加速器，選擇到正確的加速器，就可組合出最佳化架構(gòu)。軟體方面則是演算法，AI最重要的是數(shù)據(jù)的運(yùn)算處理分配與效能，透過精密的運(yùn)算，可解決系統(tǒng)的運(yùn)算瓶頸，讓效能順利浮現(xiàn)。

圖2 : 具備AI功能的機(jī)器視覺，可自我學(xué)習(xí)產(chǎn)品的良品與不良品特徵，快速分辨良品與不良品。（攝影／王明德）

要讓異質(zhì)性平臺符合使用者所需，必須對處理器技術(shù)與應(yīng)用領(lǐng)域兩端都有足夠的專業(yè)掌握，以凌華來說，由於有完整的處理器產(chǎn)品技術(shù)，因此在平臺初期，即可了解各處理器在導(dǎo)入運(yùn)作時(shí)會產(chǎn)生的狀況，透過此經(jīng)驗(yàn)就可找出最適合的處理器類型。至於軟體方面，學(xué)術(shù)單位目前仍是演算法的主要機(jī)構(gòu)，因此凌華已與臺大合作，解決軟體方面的問題。

至於在應(yīng)用面，雖然近期AI加快擴(kuò)展使用面向，不過目前AI的絕大多數(shù)仍來自於影像處理，由於攝影機(jī)是主要的影像資料來源，因此AI也多應(yīng)用於此。在非消費(fèi)性領(lǐng)域中，攝影機(jī)的應(yīng)用分為安全監(jiān)控與工廠的機(jī)器視覺兩類，安全監(jiān)控系統(tǒng)中的AI現(xiàn)在多用於交通領(lǐng)域，用來分析車流、人流，改善交通流量，或是辨識車牌，作為違規(guī)開罰、停車收費(fèi)之用。

另一個影像應(yīng)用是產(chǎn)線中的機(jī)器視覺，工廠中的機(jī)器視覺系統(tǒng)，主要是建置於產(chǎn)線中，用來檢測產(chǎn)品，提升產(chǎn)品品質(zhì)之用。在加入AI功能後，AI軟體可運(yùn)算這些影像資料，自我學(xué)習(xí)產(chǎn)品的良品與不良品特徵，並根據(jù)分析結(jié)果，快速分辨良品與不良品，不必像傳統(tǒng)AOI需耗時(shí)編寫演算法。

AI在產(chǎn)業(yè)的應(yīng)用多元，而且必須搭配的系統(tǒng)相當(dāng)複雜，因此過去單一廠商獨(dú)立建置整體系統(tǒng)的商業(yè)模式，已無法套用在AIoT中，未來必須是各方廠商協(xié)力合作打造，才能讓系統(tǒng)適用於所屬領(lǐng)域，而且在導(dǎo)入後，系統(tǒng)通常也不會一次到位的解決所有問題，必須經(jīng)過不斷的調(diào)校，效能才會逐漸浮現(xiàn)，因此專業(yè)、經(jīng)驗(yàn)與合作團(tuán)隊(duì)，就是企業(yè)在選擇AIoT廠商時(shí)的重要指標(biāo)，透過這三大指標(biāo)，方能讓導(dǎo)入更順利，競爭力也才會提升。

**刊頭圖（Source: Privacy & Security Law Blog）