越來越多資料在生產(chǎn)現(xiàn)場產(chǎn)生，對於資料即時處理與分析的需求變高，因此越來越多產(chǎn)業(yè)看重IT應(yīng)用，如邊緣運(yùn)算（Edge Computing）以及結(jié)合AI的AIoT，隨著5G專網(wǎng)出線，COVID-19加速數(shù)位化腳步，邊緣運(yùn)算一躍成為企業(yè)戰(zhàn)略要角。

安侯建業(yè)(KPMG)和國際數(shù)據(jù)資訊(IDC)預(yù)估，疫後全球經(jīng)濟(jì)復(fù)甦的關(guān)鍵在於5G和邊緣運(yùn)算，到2023年，工業(yè)製造、連結(jié)醫(yī)療、智慧運(yùn)輸、環(huán)境偵測和電競娛樂等五類產(chǎn)業(yè)的連接、軟硬體和服務(wù)所產(chǎn)生的合併市值將逾5,000億美元，其中，工業(yè)製造領(lǐng)域中5G和邊緣運(yùn)算的相關(guān)技術(shù)約可創(chuàng)造2,600億美元的市場商機(jī)。

IT研究與顧問諮詢公司高德納(Gartner)預(yù)估，2023年逾50%的大型企業(yè)會因?yàn)槲锫?lián)網(wǎng)或沈浸式體驗(yàn)而部署至少六個邊緣運(yùn)算解決方案，到2025年，全球邊緣硬體基礎(chǔ)架構(gòu)將達(dá)170億美元水準(zhǔn)，而超過75%的企業(yè)資料會在資料中心或雲(yún)端以外的地方被創(chuàng)造及被處理。

此外，F(xiàn)rost&Sullivan研究預(yù)估，為達(dá)節(jié)省網(wǎng)路頻寬、提高安全、提升數(shù)據(jù)傳輸效率、降低成本等目的，2022年約有90%的工業(yè)企業(yè)將邊緣運(yùn)算視為基礎(chǔ)建設(shè)的一環(huán)，而多接取邊緣運(yùn)算（Multi-access Edge Computing）市場規(guī)模在2024年將達(dá)72.3億美元。

前述幾大調(diào)研機(jī)構(gòu)預(yù)測不難看出邊緣運(yùn)算商機(jī)無限。從實(shí)際應(yīng)用來看，5G和邊緣運(yùn)算技術(shù)聯(lián)手帶動工業(yè)界高度自動化，促使自駕車、機(jī)器人、物聯(lián)網(wǎng)設(shè)備、AR/VR、MES及ERP系統(tǒng)各領(lǐng)域蓬勃發(fā)展，邊緣運(yùn)算的發(fā)展進(jìn)程與技術(shù)革新也帶動邊緣AI晶片的需求量。IDC預(yù)測，未來人工智慧會走向「端、雲(yún)共生」（Edge/Cloud AI Mutualism），2025年全球?qū)⒂?0%的終端裝置擁有AI神經(jīng)網(wǎng)路運(yùn)算能力。

邊緣運(yùn)算趨勢：雲(yún)端協(xié)同概念

企業(yè)端主要將邊緣運(yùn)算應(yīng)用於雲(yún)端、工業(yè)物聯(lián)網(wǎng)及5G等領(lǐng)域。邊緣運(yùn)算以分散架構(gòu)模式處理運(yùn)算，加速AI應(yīng)用與運(yùn)算，可以依照運(yùn)算資源及分析軟體的不同，處理複雜或簡單的工作，也可以讓雲(yún)端接手。隨著AI與5G的加入，邊緣運(yùn)算技術(shù)發(fā)展至今已走向雲(yún)端協(xié)同。

終端邊緣AI解決方案新創(chuàng)廠商耐能智慧（Kneron）以「AI晶片+邊緣運(yùn)算+圖像算法」為核心，全面賦能智慧物聯(lián)、自動駕駛、智慧安防、智能家居、手機(jī)等領(lǐng)域，提供完整的端到端軟硬體解決方案，可在移動設(shè)備、個人計(jì)算機(jī)和IoT（如智慧家居、監(jiān)控、支付等），從雲(yún)的AI拓展到設(shè)備邊緣AI的推理運(yùn)算。

圖1 : 耐能智慧創(chuàng)辦人暨執(zhí)行長劉峻誠。（source：耐能智慧)

AI晶片與邊緣運(yùn)算

耐能智慧創(chuàng)辦人暨執(zhí)行長劉峻誠指出，邊緣運(yùn)算有非常邊緣的AI，也有邊緣跟邊緣的AI互相溝通，比方邊緣的sensor跟中間的大腦AI的溝通、互相溝通的AI跟AI，「我們不只賦予設(shè)備智能，還讓智能跟智能之間可以分享彼此的資訊，做不同的判斷?！?/span>

如車聯(lián)網(wǎng)AI，除了兩車內(nèi)AI的溝通，還有中間的「虛擬交警」提供判斷，所以有端的server及端的小sensor可以互相溝通與協(xié)同，不再侷限單一點(diǎn)的智能，而是點(diǎn)跟點(diǎn)的智能，形成面，兩車之外的虛擬交通警察可以觀察並預(yù)測軌跡，如果發(fā)現(xiàn)兩車靠近可能產(chǎn)生碰撞就會調(diào)整兩車狀況，避免發(fā)生意外，「這些溝通需要仰賴邊緣運(yùn)算及5G技術(shù)才可能落實(shí)。」

今年10月份，耐能智慧與廣達(dá)旗下的雲(yún)端伺服器大廠雲(yún)達(dá)強(qiáng)強(qiáng)聯(lián)手，透過耐能的邊緣AI晶片KL520和KL720解決方案，協(xié)助雲(yún)達(dá)的5G驅(qū)動智慧製造技術(shù)，以強(qiáng)化智慧製造的安全性，宣告AI、邊緣運(yùn)算及5G等技術(shù)應(yīng)用更上層樓。

雲(yún)達(dá)總經(jīng)理?xiàng)铟枇畋硎荆尤肽湍蹵I晶片後，相關(guān)設(shè)備處理速度變得更快，過去的邊緣服務(wù)器方案可支持近100個鏡頭的傳輸，將耐能的AI晶片加入通用客戶端設(shè)備(uCPEs)中，可在相同框架下支持更多鏡頭，成本降低至原來的25%左右。透過5G網(wǎng)絡(luò)，uCPE可以在本地進(jìn)行處理，減少需要發(fā)送到終端服務(wù)器的信息，進(jìn)而減少寬帶容量，降低成本。

耐能智慧逐步落實(shí)終端AI在終端設(shè)備而非雲(yún)服務(wù)器上進(jìn)行的創(chuàng)新理念，除了自駕車、汽車、智慧工廠內(nèi)的機(jī)器人，AI雲(yún)端運(yùn)算也能運(yùn)用在智慧醫(yī)療領(lǐng)域，如耐能與臺中榮總合作，藉AI醫(yī)療應(yīng)用加值智慧醫(yī)療照護(hù)，邊緣運(yùn)算搭配的不是傳統(tǒng)sensor或麥克風(fēng)，而是3D sensor，透過醫(yī)療雲(yún)端智慧平臺導(dǎo)入人工智慧醫(yī)療技術(shù)等服務(wù)。

雲(yún)端協(xié)同更順暢的四個關(guān)鍵技術(shù)

圖2 : AI邊緣運(yùn)算串聯(lián)智慧網(wǎng)絡(luò)。（source：Kneron）

不過，前述邊緣運(yùn)算趨勢要能真正落地，除了edge server技術(shù)，還有三個技術(shù)門檻需要克服。

劉峻誠指出，端的AI優(yōu)勢是執(zhí)行速度快，雲(yún)的AI優(yōu)勢是綜合訊息強(qiáng)，各有優(yōu)勢，如果要查臺北天氣，需要雲(yún)的AI到氣象局查，端的AI做不到，如果想知道臺北到新竹的路況，端的AI無法判斷車禍、塞車等細(xì)節(jié)，需要雲(yún)的AI才能做到，但雲(yún)跟端的AI要能更密集地溝通協(xié)同，包含了雲(yún)跟端的溝通、邊緣伺服器(edge server)跟雲(yún)、邊緣伺服器跟端的溝通，或者端的sensor彼此間的溝通，「邊緣伺服器介於雲(yún)跟端之間，是新的物種，但是不論是edge server AI或 roadside unit AI，都要靠5G傳輸速度快、低延遲性等特性才能順利運(yùn)作，4G很危險，所以第一個技術(shù)門檻就是5G?！?/span>

另一個技術(shù)門檻則是乙太網(wǎng)路(ethernet)的連線與傳輸速度。目前AI的運(yùn)作是將資料上傳至雲(yún)端計(jì)算結(jié)果回傳，不易滿足即時需求，分散式架構(gòu)的邊緣運(yùn)算透過嵌入或外加的運(yùn)算設(shè)備處理不同運(yùn)算，等於在靠近資料源或用戶端處就能完成運(yùn)算，快速獲得分析結(jié)果。

好比人腦與四肢或其他器官，靠神經(jīng)網(wǎng)絡(luò)快速傳達(dá)痛感等訊息，需要靠人腦下達(dá)指令才能有動作，避開危險，車內(nèi)的各個sensor一如四肢或器官，要有很強(qiáng)的傳輸能力才能傳到車的大腦，ethernet傳輸扮演重要角色，要讓AI或邊緣運(yùn)送傳輸速度快才能越來越像人體的神經(jīng)傳導(dǎo)速度。

此外，邊緣運(yùn)算的通用性(能力)要很強(qiáng)才行，比方獲IEEE CAS Darlington論文獎的耐能可重組式架構(gòu)技術(shù)具有極佳的可變性，若將晶片比喻成樂高積木，當(dāng)需要支持語音AI的模型時就能通過指令集進(jìn)行組合，需要支持圖像AI模型時再重新組合，可以很好地支持多種神經(jīng)網(wǎng)絡(luò)模型，保持架構(gòu)的精簡性，帶來高性能、低成本、低功耗、高兼容性等優(yōu)勢，「可以支持語音、影像、2D訊息、3D訊息的邊緣運(yùn)算AI晶片不能只做影像，還必須有觸覺、嗅覺、視覺等功能，兼容不同sensor的多變性與通用性?！?/span>

圖3 : 耐能邊緣AI技術(shù)聯(lián)合雲(yún)達(dá)科技共同升級智慧製造。

劉峻誠說，邊緣運(yùn)算在智慧工廠的應(yīng)用相當(dāng)普遍，可以透過小sensor協(xié)助產(chǎn)業(yè)鏈執(zhí)行速度更快，如果第一時間發(fā)現(xiàn)瑕疵，可以透過edge server告訴產(chǎn)業(yè)鏈的控制系統(tǒng)或機(jī)械手臂，挑出瑕疵品，「新趨勢是，每個設(shè)備都有智能可以快速溝通，不是單點(diǎn)智能，而是多點(diǎn)智能，還有一個主控端的edge server協(xié)助溝通判斷，而大腦AI 搭配端的edge server可以做到協(xié)同溝通及判斷，這個概念也可以套用在智慧居家、智慧醫(yī)療等領(lǐng)域?！挂惨?yàn)殡?yún)端協(xié)同變得越來越重要，隨著edge server、multi sensor的出現(xiàn)，邊緣運(yùn)算的AI要非常通用才行，另一方面，5G、ethernet等技術(shù)也必須到位。

自Alpha Go帶動第三波人工智慧革命後，邊緣運(yùn)算與AI的結(jié)合帶動新的可能性。市調(diào)公司MarketsandMartets針對人工智慧（AI）市場調(diào)查預(yù)估，AI晶片市場到2022年將達(dá)160.6億美元。

耐能智慧2015年創(chuàng)立，進(jìn)入市場時間早，加上人員多元，掌握軟硬體技術(shù)及運(yùn)算能力，因此擁有先發(fā)優(yōu)勢，挾AI晶片、邊緣運(yùn)算與圖像算法等核心技術(shù)，短短六年間耐能智慧將AI邊緣運(yùn)算技術(shù)應(yīng)用於智慧物聯(lián)、自動駕駛、智慧安防、智能家居、智慧醫(yī)療等領(lǐng)域，不僅跟世界最大的server OEM供應(yīng)鏈廣達(dá)合作，在日本車市後裝市場佔(zhàn)有27-28%的市占率，與臺中榮總合作智慧醫(yī)療，與臺灣最大、世界第二大工業(yè)電腦廠商研華合作IoT智慧門鎖，今年也成為鴻海MIH生態(tài)系戰(zhàn)略夥伴。

AI生態(tài)系打造智慧網(wǎng)絡(luò)

除了低功耗AI系統(tǒng)單晶片（SOC）主力產(chǎn)品，耐能智慧在2020年推出KNEO Marketplace平臺，企圖打造自己的AI生態(tài)系。KNEO是由耐能驅(qū)動設(shè)備組成的私有網(wǎng)格智慧網(wǎng)絡(luò)，可以提供個性化移動AI，一如智慧手機(jī)和APPs提供個性化的移動計(jì)算，KNEO為AI開發(fā)者提供開放平臺，為使用KNEO的消費(fèi)者和企業(yè)構(gòu)建AI Apps，同時具有區(qū)塊鏈的安全性和邊緣AI隱私性的各種優(yōu)勢。

劉峻誠指出，不同產(chǎn)品使用不同平臺會有溝通成本，速度也比較慢，效果不會比較好，AI傳輸速度要快才能突出，工業(yè)製造也是，所以同一個方案遍布所有設(shè)備就會在溝通與速度上產(chǎn)生一定的優(yōu)勢。KNEO平臺用同一種方案串聯(lián)，有一樣的語言(晶片)，溝通起來效率最高，可以提供雲(yún)端協(xié)同與雲(yún)端服務(wù)。

「耐能不是只做AI晶片，真正想做的事是KNEO，也就是腦袋跟腦袋間的溝通引擎?！箘⒕\說，臺灣有許多廠商面臨產(chǎn)品升級的成本考量，耐能產(chǎn)品透過USB隨插即用的優(yōu)勢，可以從插槽升級AI，節(jié)省成本，APP開發(fā)者可以上傳軟體到KNEO，使用者也可以在KNEO平臺上挑選適合自己的APP軟體，要做到如此互通有無的境界，AI晶片必須夠通用才行，「晶片夠通用才可以這樣串聯(lián)，只要平臺夠簡單，大家都可以用，就可能達(dá)到這種境界。」

目前，KNEO平臺有超過二萬個APP開發(fā)商，耐能希望賦予設(shè)備智能，讓智能設(shè)備彼此溝通，之後的服務(wù)串聯(lián)也由耐能提供，如此可以遍布智慧工廠、智慧製造、智慧醫(yī)療、智慧汽車等領(lǐng)域。從AI邊緣運(yùn)算到KNEO平臺，耐能智慧逐步打造更有影響力的AI生態(tài)系，努力落實(shí)雲(yún)端協(xié)同的全面智慧網(wǎng)絡(luò)。