研究機(jī)構(gòu)IDC預(yù)估，全球企業(yè)的邊緣運(yùn)算支出將從2022年的1,760億美元成長至2025年的2,740億美元，屆時(shí)，成長率最高的邊緣應(yīng)用包含大眾基礎(chǔ)設(shè)施維護(hù)、網(wǎng)路維護(hù)、醫(yī)療診斷與AR輔助手術(shù)。當(dāng)科技越來越智慧，智慧型載具與聯(lián)網(wǎng)裝置網(wǎng)網(wǎng)相連，「雲(yún)端資料中心」需要邊緣運(yùn)算(Edge Computing)的因地制宜，才能更有效地降低運(yùn)算負(fù)載量，快速、低延遲地傳輸資訊。

如果將雲(yún)端資料中心/雲(yún)端運(yùn)算與邊緣運(yùn)算比喻為大腦與神經(jīng)系統(tǒng)，邊緣運(yùn)算的神經(jīng)弧涵蓋範(fàn)圍更廣，小至各類智慧型載具與終端設(shè)備的應(yīng)用，大至物聯(lián)網(wǎng)(IoT)、工業(yè)物聯(lián)網(wǎng)(IIoT)與車聯(lián)網(wǎng)(V2X)的運(yùn)作整合，都少不了邊緣運(yùn)算穿針引線。在IoE（萬物互聯(lián)）時(shí)代，更需要最小延遲性、高可用性網(wǎng)路即時(shí)處理大量數(shù)據(jù)，邊緣運(yùn)算的重要性不言可喻。

圖1 : 雲(yún)端面臨5大挑戰(zhàn)。

雲(yún)端面臨5大挑戰(zhàn)：

挑戰(zhàn)1.延遲問題

越來越多產(chǎn)業(yè)需要應(yīng)用程式具備快速分析與回應(yīng)的能力，雲(yún)端運(yùn)算過程中資料來源之間的網(wǎng)路距離容易導(dǎo)致低效率、延遲及客戶體驗(yàn)不佳。

挑戰(zhàn)2.頻寬問題

網(wǎng)路的邊緣裝置數(shù)量越多，資料傳送至雲(yún)端的成本可能越來越高，邊緣處理、儲存與分析資料有助降低成本。

挑戰(zhàn)3.隱私及安全問題

減少網(wǎng)路傳輸?shù)馁Y料量有助降低資安風(fēng)險(xiǎn)，尤其是醫(yī)療、智財(cái)(IP)等資安要求高的資訊處理，雲(yún)端傳送不若邊緣運(yùn)算安全。

挑戰(zhàn)4.連線問題

持續(xù)性的網(wǎng)路連線能力是雲(yún)端運(yùn)算的痛點(diǎn)，加上未來5G可能帶來的高頻寬、低延遲助益，更能強(qiáng)化邊緣運(yùn)算的快速傳輸能量，這部分雲(yún)端相對弱勢。

挑戰(zhàn)5.AI串聯(lián)問題

AI可以加速資料處理速度、提高智能運(yùn)用，隨著AI與邊緣運(yùn)算的發(fā)展，雲(yún)端的功能性相對弱勢。

邊緣運(yùn)算四大核心：運(yùn)算、儲存、建構(gòu)網(wǎng)路與加速AI

傳統(tǒng)的雲(yún)端運(yùn)算要求將資料傳輸回中央的資料中心進(jìn)行處理，再傳輸回使用者端的終端設(shè)備，但資料中心無法保證傳輸速率和回應(yīng)時(shí)間，另一方面，動(dòng)輒

數(shù)十億物聯(lián)網(wǎng)及行動(dòng)裝置所蒐集到的資料相當(dāng)可觀，將資料傳送至分散式模型，就近在資料位置處理運(yùn)算事宜更有效率。

邊緣運(yùn)算(Edge Computing)為網(wǎng)路運(yùn)算架構(gòu)，在運(yùn)算過程中因?yàn)榭拷Y料來源，可以減少延遲和頻寬的使用，極大限度地減少異地用戶端和伺服器之間的通信量。

雲(yún)端運(yùn)算中的資訊與數(shù)據(jù)會集中蒐集、處理及分析，而邊緣運(yùn)算則是將運(yùn)算能力廣佈於運(yùn)算環(huán)境中，二者包含在廣義的「雲(yún)解決方案」中。由於邊緣運(yùn)算中的數(shù)據(jù)與資料可以在收集源附近處理，讓特定場域中的大小元件分工執(zhí)行資料處理，不需要將數(shù)據(jù)傳輸?shù)诫?yún)或數(shù)據(jù)中心進(jìn)行分析處理，有助減輕網(wǎng)路及服務(wù)器的負(fù)擔(dān)，處理數(shù)據(jù)的能力及反應(yīng)時(shí)間更快，因此特別適合即時(shí)性高的工業(yè)物聯(lián)網(wǎng)及車聯(lián)網(wǎng)的應(yīng)用，若加入人工智能(AI)和機(jī)器學(xué)習(xí)(ML)等元素，還能產(chǎn)生更多創(chuàng)新應(yīng)用，進(jìn)一步提升元件的智慧化效能。

研調(diào)機(jī)構(gòu)Gartner報(bào)告指出，2021年邊緣運(yùn)算裝置具有深度機(jī)器學(xué)習(xí)能力的比例不到10%，2027年將提升到65%。

近裝置的邊緣運(yùn)算設(shè)備具有四大核心：運(yùn)算、儲存、建構(gòu)網(wǎng)路與加速AI，將儲存、處理與分析資料的功能從雲(yún)端移至邊緣，對於車聯(lián)網(wǎng)這類極需即時(shí)應(yīng)用的領(lǐng)域來說，可以帶來更快、可靠性更高、更優(yōu)質(zhì)的體驗(yàn)，也有助於減少傳輸與儲存大量資料所需耗費(fèi)的頻寬與成本，畢竟幾毫秒的延遲對各類即時(shí)系統(tǒng)及智慧車輛來說，可能就是生與死之間的距離，對於智慧工廠中的機(jī)器人來說，可能是成本與產(chǎn)值多一個(gè)零或少一個(gè)零的差距，尤其在網(wǎng)路連線能力不佳的地區(qū)，雲(yún)端連線中斷問題多，邊緣儲存與處理資料的優(yōu)勢更為明顯。

Edge AI助攻 邊緣運(yùn)算應(yīng)用場域更多元

ITIS報(bào)告指出，未來科技朝智慧化發(fā)展，智慧裝置的運(yùn)算和感測功能結(jié)合，透過邊緣運(yùn)算，可以強(qiáng)化裝置間的溝通能力。邊緣運(yùn)算可以廣泛應(yīng)用於大規(guī)模的資料傳輸應(yīng)用(如智慧製造、智慧城市)、即時(shí)性協(xié)作(如智慧電網(wǎng)、智慧金融、智慧農(nóng)業(yè))、體驗(yàn)優(yōu)化(如智慧零售、人臉辨識)及安全應(yīng)用(如智慧交通、智慧醫(yī)療、自駕車、無人機(jī))。

以車聯(lián)網(wǎng)來說，需要仰賴系統(tǒng)可靠性和運(yùn)算即時(shí)性， 才能滿足車輛配備的精密機(jī)械與尖端電子軟硬體等複雜系統(tǒng)，以及串聯(lián)雲(yún)端、AI、感測器與無線通訊技術(shù)，而車輛在行駛過程中蒐集到的各種數(shù)據(jù)資料除了有助車輛運(yùn)作，還能衍生多種新興商業(yè)模式。

隨著邊緣運(yùn)算、AI和物聯(lián)網(wǎng)快速發(fā)展，出現(xiàn)多種智慧網(wǎng)路連接技術(shù)，如Edge AI、Edge AIoT(人工智能聯(lián)網(wǎng))等。已經(jīng)有許多企業(yè)透過邊緣運(yùn)算與AI結(jié)合提高效率，降低成本，如邊緣AI和邊緣運(yùn)算裝置可以提高自動(dòng)化操作的精準(zhǔn)度，減少人為疏失，有助建立更安全的工作場域。

市調(diào)機(jī)構(gòu)MarketsandMarkets即指出，邊緣AI能提升監(jiān)控效率，大幅減少延遲及雲(yún)端頻寬需求，可運(yùn)用於機(jī)器深度學(xué)習(xí)的攝影機(jī)系統(tǒng)讀取原始數(shù)據(jù)，透過人臉辨識分析、識別人員及偵測可疑活動(dòng)，各種多元的資料處理能力已逐漸轉(zhuǎn)移到邊緣端。AI邊緣運(yùn)算技術(shù)逐漸應(yīng)用於交通運(yùn)輸、自動(dòng)駕駛、醫(yī)療照護(hù)、農(nóng)業(yè)、製造業(yè)、金融業(yè)、零售業(yè)等場域。

由於智慧邊緣運(yùn)算裝置內(nèi)建處理器，可提供內(nèi)建分析或AI進(jìn)階功能，內(nèi)部部署的邊緣伺服器便能處理從邊緣運(yùn)算裝置傳來的資料，再回傳接近即時(shí)應(yīng)用程式所需關(guān)鍵資訊，或者將資料傳送至雲(yún)端。多個(gè)邊緣運(yùn)算裝置的資料也能傳回雲(yún)端整合，執(zhí)行更廣泛的處理及分析。

邊緣運(yùn)算結(jié)合AI的智慧解決方案

邊緣運(yùn)算可以透過AI使終端設(shè)備更加智慧，一方面保有邊緣運(yùn)算低延遲、高隱私、快速連接、低功耗、低成本等優(yōu)勢，再方面可以強(qiáng)化系統(tǒng)的智慧功能及自動(dòng)化優(yōu)勢。邊緣AI與傳統(tǒng)邊緣運(yùn)算相較，優(yōu)勢包含數(shù)據(jù)處理、過濾和邊緣智慧分析，未來，邊緣AI與邊緣運(yùn)送持續(xù)結(jié)合，可以有更多運(yùn)用，比方邊緣AI與影像分析技術(shù)已逐漸應(yīng)用於智慧零售、醫(yī)療等領(lǐng)域。Fortune Business Insights指出，全球影像分析市場至2027年複合年均成長率達(dá)21.3%。

科技龍頭Microsoft認(rèn)為，2026年全球AI晶片約75%將為邊緣運(yùn)算所用，IoT晶片於邊緣運(yùn)算的發(fā)展可能成為未來業(yè)者的重點(diǎn)布局之一，如Google、AWS等雲(yún)端大廠致力於晶片自製；ARM鎖定邊緣AI針對攝影機(jī)的辨識應(yīng)用；Intel投資十餘家新創(chuàng)AI晶片設(shè)計(jì)廠；恩智浦(NXP Semiconductors)、芯科科技(Silicon Labs)、意法半導(dǎo)體(ST)則是在MCU或SoC上增加邊緣AI功能。投入AI晶片的業(yè)者也不少，如以色列AI晶片公司Halio、新創(chuàng)公司EdgeQ及Graphcore，以及中國的華為海思、臺灣的聯(lián)發(fā)科與耐能。

此外，隨著智慧工廠、智慧城市、智慧醫(yī)療等場景出現(xiàn)越來越多AI與IoT結(jié)合的應(yīng)用，AI晶片的價(jià)值水漲船高。在AI晶片助益下，IoT邊緣與終端裝置可透過機(jī)器學(xué)習(xí)或深度學(xué)習(xí)等技術(shù)加值，同時(shí)帶出無延遲、低成本、高隱私等優(yōu)勢，預(yù)估全球AI晶片產(chǎn)值至2025年約達(dá)720億美元。研調(diào)機(jī)構(gòu)Omdia則預(yù)測，全球邊緣AI晶片產(chǎn)值將從2019年的77億美元成長至2025年的519億美元，未來產(chǎn)值上看新臺幣1.5兆元。

工研院電光系統(tǒng)所所長張世杰認(rèn)為，AI應(yīng)用越來越廣泛，能在邊緣裝置端快速運(yùn)算、即時(shí)反應(yīng)的「AI晶片邊緣運(yùn)算（Edge Computing）」成為智慧裝置(如手機(jī)、穿戴式裝置)能否普及的關(guān)鍵，省電的AI運(yùn)算晶片變得非常重要，記憶體內(nèi)運(yùn)算技術(shù)也已成為全球AI晶片技術(shù)的兵家必爭之地，國際大廠競相尋求具有高度存取效能、低功耗的記憶體技術(shù)。以工研院研發(fā)的超省電記憶體內(nèi)運(yùn)算（Computing in Memory；CIM）AI晶片來說，具有超低耗電效能與即時(shí)辨識關(guān)鍵語音功能，可應(yīng)用於智慧生活(如智慧門鎖、藍(lán)牙耳機(jī)、白色家電等)中。

智慧工廠也會是導(dǎo)入大量邊緣AI應(yīng)用的場域之一。Edge AI強(qiáng)調(diào)不需要連線到伺服器，直接在邊緣裝置應(yīng)用AI模型即可，可應(yīng)用在工廠產(chǎn)線的瑕疵檢測 (如物件偵測、影像分割、零件瑕疵檢測)、自動(dòng)光學(xué)檢查(AOI)設(shè)備檢測瑕疵產(chǎn)品複判；Edge AI瑕疵檢測裝置與自走車結(jié)合便形成可移動(dòng)式檢測工作站；工廠或智慧倉儲導(dǎo)入AI和邊緣運(yùn)算技術(shù)，可以結(jié)合機(jī)械手臂或倉儲機(jī)器人，即時(shí)遠(yuǎn)端處理各項(xiàng)問題，分析監(jiān)視器影像或AIoT訊號，減少人力檢查成本與人為錯(cuò)誤率。若是行車紀(jì)錄器與AI結(jié)合，可以應(yīng)用於行人偵測與預(yù)警系統(tǒng)，不需將資料回傳雲(yún)端等待結(jié)果，在邊緣端即可進(jìn)行資料處理、預(yù)測，即時(shí)性更高。

各家業(yè)者看好AI邊緣運(yùn)算的發(fā)展，積極推出解決方案，如戴爾(Dell)推出一系列邊緣運(yùn)算解決方案以確保邊緣運(yùn)算設(shè)備可以支援各類應(yīng)用場域，如溫溼度/空間、可支援、連結(jié)的設(shè)備距離、設(shè)備與數(shù)據(jù)安全防護(hù)機(jī)制、遠(yuǎn)端監(jiān)控管理等。Dell PowerEdge XR4000是針對Nano-Edge推出的新產(chǎn)品，適合智慧零售、製造、5G電信、交通、醫(yī)療（車）、8K轉(zhuǎn)播車等應(yīng)用，35cm短深度適用於各種惡劣、不可預(yù)測的邊緣環(huán)境，企業(yè)可以遠(yuǎn)端監(jiān)控設(shè)備營運(yùn)狀況，或透過戴爾的邊緣運(yùn)算營運(yùn)軟體平臺Project Frontier統(tǒng)籌管理。

圖2 : Dell PowerEdge XR4000是針對Nano-Edge推出的新產(chǎn)品。(source：Dell)

恩智浦(NXP Semiconductors)為滿足新世代工業(yè)物聯(lián)網(wǎng)與邊緣運(yùn)算需求，推出

內(nèi)建客製化神經(jīng)處理單元(NPU)全新32位Arm Cortex-M33核心的MCX微處理器家族系列，將AI導(dǎo)入低功耗嵌入設(shè)備及邊緣設(shè)備中。恩智浦MCX微處理器中的旗艦款微處理器在使用NPU執(zhí)行機(jī)器學(xué)習(xí)運(yùn)算時(shí)，速度能提高30倍，有效提高運(yùn)作效能，並廣泛採用MCUXpresso軟體和SDK工具套件，有助強(qiáng)化AI從雲(yún)端導(dǎo)入消費(fèi)和工業(yè)物聯(lián)網(wǎng)設(shè)備的效能。

研揚(yáng)科技發(fā)表採用全新NVIDIA Jetson AGX Orin的AI邊緣運(yùn)算解決方案—BOXER-8641AI，採用8核Arm v8.2 64位CPU和NVIDIA Ampere架構(gòu)，擁有1792個(gè)CUDA和56個(gè)Tensor核心，最高可達(dá)200個(gè)TOPS，AI性能是前代產(chǎn)品的6倍，可以直接在邊緣端進(jìn)行資料分析，而且搭配最新M.2 E/B/M-Key進(jìn)行5G、無線Wi-Fi/藍(lán)牙、NVMe等擴(kuò)充，已通過微軟Azure認(rèn)證。研揚(yáng)科技系統(tǒng)平臺產(chǎn)品處資深協(xié)理薛紹周表示，BOXER-8641AI是針對次世代機(jī)器人應(yīng)用所設(shè)計(jì)的AI邊緣運(yùn)算產(chǎn)品，強(qiáng)化了下一代深度學(xué)習(xí)及視覺處理能力。

圖3 : 研揚(yáng)科技首次發(fā)表採用全新NVIDIA Jetson AGX Orin的AI邊緣運(yùn)算解決方案。(source：研揚(yáng)科技)

技宸則善用Intel新一代處理器Elkhart Lake CPU為運(yùn)算核心，打造QBiP與QBiX無風(fēng)扇解決方案，具備低功耗、高效能特色，在相同瓦數(shù)下提供高於競品1.5-2倍的效能，可強(qiáng)化製造系統(tǒng)邊緣設(shè)備的運(yùn)算能力及優(yōu)化系統(tǒng)運(yùn)作效率。除了製造業(yè)，也適用於不同場域的智慧化架構(gòu)，如QBiP與QBiX系列可透過高運(yùn)算效能，讓零售業(yè)者店內(nèi)的數(shù)位看板具備播放高解析度影音檔案的能力，創(chuàng)造絕佳使用體驗(yàn)，寬溫設(shè)計(jì)可讓設(shè)置於戶外嚴(yán)苛環(huán)境下依然穩(wěn)定運(yùn)作。

圖4 : 技宸QBiX無風(fēng)扇解決方案。(source：技宸)

2023年中美晶片戰(zhàn)還有續(xù)集？

至於中國，佈局AI晶片物聯(lián)網(wǎng)領(lǐng)域的廠商眾多，主要針對雲(yún)端運(yùn)算、行動(dòng)通訊、物聯(lián)網(wǎng)與自動(dòng)駕駛等領(lǐng)域。聚焦於邊緣運(yùn)算領(lǐng)域的業(yè)者以地平線、華為海思、寒武紀(jì)、比特大陸、鯤雲(yún)科技等最為活躍。TrendForce預(yù)估，中國AI晶片市場有望從2019年的13億美元增長至2023年的上看35億美元。

不過，2022年10月美國拜登總統(tǒng)祭出晶片禁令，全面打擊中國AI、超級電腦和晶圓加工領(lǐng)域，同時(shí)擴(kuò)大商業(yè)管制清單項(xiàng)目，納入先進(jìn)晶圓加工製程設(shè)備、超級電腦相關(guān)晶片和設(shè)備等選項(xiàng)。有消息指出，美國的科技封鎖戰(zhàn)有可能繼續(xù)朝AI軟體、量子運(yùn)算邁進(jìn)，相較於看得見的俄烏戰(zhàn)爭，這場沒有煙硝的科技戰(zhàn)爭對於中國及全球AI晶片產(chǎn)業(yè)帶來的衝擊如何有待觀察。