越來(lái)越多資料在生產(chǎn)現(xiàn)場(chǎng)產(chǎn)生，對(duì)於資料即時(shí)處理與分析的需求變高，因此越來(lái)越多產(chǎn)業(yè)看重IT應(yīng)用，如邊緣運(yùn)算（Edge Computing）以及結(jié)合AI的AIoT，隨著5G專網(wǎng)出線，COVID-19加速數(shù)位化腳步，邊緣運(yùn)算一躍成為企業(yè)戰(zhàn)略要角。

安侯建業(yè)(KPMG)和國(guó)際數(shù)據(jù)資訊(IDC)預(yù)估，疫後全球經(jīng)濟(jì)復(fù)甦的關(guān)鍵在於5G和邊緣運(yùn)算，到2023年，工業(yè)製造、連結(jié)醫(yī)療、智慧運(yùn)輸、環(huán)境偵測(cè)和電競(jìng)娛樂(lè)等五類產(chǎn)業(yè)的連接、軟硬體和服務(wù)所產(chǎn)生的合併市值將逾5,000億美元，其中，工業(yè)製造領(lǐng)域中5G和邊緣運(yùn)算的相關(guān)技術(shù)約可創(chuàng)造2,600億美元的市場(chǎng)商機(jī)。

IT研究與顧問(wèn)諮詢公司高德納(Gartner)預(yù)估，2023年逾50%的大型企業(yè)會(huì)因?yàn)槲锫?lián)網(wǎng)或沈浸式體驗(yàn)而部署至少六個(gè)邊緣運(yùn)算解決方案，到2025年，全球邊緣硬體基礎(chǔ)架構(gòu)將達(dá)170億美元水準(zhǔn)，而超過(guò)75%的企業(yè)資料會(huì)在資料中心或雲(yún)端以外的地方被創(chuàng)造及被處理。

此外，F(xiàn)rost&Sullivan研究預(yù)估，為達(dá)節(jié)省網(wǎng)路頻寬、提高安全、提升數(shù)據(jù)傳輸效率、降低成本等目的，2022年約有90%的工業(yè)企業(yè)將邊緣運(yùn)算視為基礎(chǔ)建設(shè)的一環(huán)，而多接取邊緣運(yùn)算（Multi-access Edge Computing）市場(chǎng)規(guī)模在2024年將達(dá)72.3億美元。

前述幾大調(diào)研機(jī)構(gòu)預(yù)測(cè)不難看出邊緣運(yùn)算商機(jī)無(wú)限。從實(shí)際應(yīng)用來(lái)看，5G和邊緣運(yùn)算技術(shù)聯(lián)手帶動(dòng)工業(yè)界高度自動(dòng)化，促使自駕車、機(jī)器人、物聯(lián)網(wǎng)設(shè)備、AR/VR、MES及ERP系統(tǒng)各領(lǐng)域蓬勃發(fā)展，邊緣運(yùn)算的發(fā)展進(jìn)程與技術(shù)革新也帶動(dòng)邊緣AI晶片的需求量。IDC預(yù)測(cè)，未來(lái)人工智慧會(huì)走向「端、雲(yún)共生」（Edge/Cloud AI Mutualism），2025年全球?qū)⒂?0%的終端裝置擁有AI神經(jīng)網(wǎng)路運(yùn)算能力。

邊緣運(yùn)算趨勢(shì)：雲(yún)端協(xié)同概念

企業(yè)端主要將邊緣運(yùn)算應(yīng)用於雲(yún)端、工業(yè)物聯(lián)網(wǎng)及5G等領(lǐng)域。邊緣運(yùn)算以分散架構(gòu)模式處理運(yùn)算，加速AI應(yīng)用與運(yùn)算，可以依照運(yùn)算資源及分析軟體的不同，處理複雜或簡(jiǎn)單的工作，也可以讓雲(yún)端接手。隨著AI與5G的加入，邊緣運(yùn)算技術(shù)發(fā)展至今已走向雲(yún)端協(xié)同。

終端邊緣AI解決方案新創(chuàng)廠商耐能智慧（Kneron）以「AI晶片+邊緣運(yùn)算+圖像算法」為核心，全面賦能智慧物聯(lián)、自動(dòng)駕駛、智慧安防、智能家居、手機(jī)等領(lǐng)域，提供完整的端到端軟硬體解決方案，可在移動(dòng)設(shè)備、個(gè)人計(jì)算機(jī)和IoT（如智慧家居、監(jiān)控、支付等），從雲(yún)的AI拓展到設(shè)備邊緣AI的推理運(yùn)算。

圖1 : 耐能智慧創(chuàng)辦人暨執(zhí)行長(zhǎng)劉峻誠(chéng)。（source：耐能智慧)

AI晶片與邊緣運(yùn)算

耐能智慧創(chuàng)辦人暨執(zhí)行長(zhǎng)劉峻誠(chéng)指出，邊緣運(yùn)算有非常邊緣的AI，也有邊緣跟邊緣的AI互相溝通，比方邊緣的sensor跟中間的大腦AI的溝通、互相溝通的AI跟AI，「我們不只賦予設(shè)備智能，還讓智能跟智能之間可以分享彼此的資訊，做不同的判斷。」

如車聯(lián)網(wǎng)AI，除了兩車內(nèi)AI的溝通，還有中間的「虛擬交警」提供判斷，所以有端的server及端的小sensor可以互相溝通與協(xié)同，不再侷限單一點(diǎn)的智能，而是點(diǎn)跟點(diǎn)的智能，形成面，兩車之外的虛擬交通警察可以觀察並預(yù)測(cè)軌跡，如果發(fā)現(xiàn)兩車靠近可能產(chǎn)生碰撞就會(huì)調(diào)整兩車狀況，避免發(fā)生意外，「這些溝通需要仰賴邊緣運(yùn)算及5G技術(shù)才可能落實(shí)。」

今年10月份，耐能智慧與廣達(dá)旗下的雲(yún)端伺服器大廠雲(yún)達(dá)強(qiáng)強(qiáng)聯(lián)手，透過(guò)耐能的邊緣AI晶片KL520和KL720解決方案，協(xié)助雲(yún)達(dá)的5G驅(qū)動(dòng)智慧製造技術(shù)，以強(qiáng)化智慧製造的安全性，宣告AI、邊緣運(yùn)算及5G等技術(shù)應(yīng)用更上層樓。

雲(yún)達(dá)總經(jīng)理?xiàng)铟枇畋硎荆尤肽湍蹵I晶片後，相關(guān)設(shè)備處理速度變得更快，過(guò)去的邊緣服務(wù)器方案可支持近100個(gè)鏡頭的傳輸，將耐能的AI晶片加入通用客戶端設(shè)備(uCPEs)中，可在相同框架下支持更多鏡頭，成本降低至原來(lái)的25%左右。透過(guò)5G網(wǎng)絡(luò)，uCPE可以在本地進(jìn)行處理，減少需要發(fā)送到終端服務(wù)器的信息，進(jìn)而減少寬帶容量，降低成本。

耐能智慧逐步落實(shí)終端AI在終端設(shè)備而非雲(yún)服務(wù)器上進(jìn)行的創(chuàng)新理念，除了自駕車、汽車、智慧工廠內(nèi)的機(jī)器人，AI雲(yún)端運(yùn)算也能運(yùn)用在智慧醫(yī)療領(lǐng)域，如耐能與臺(tái)中榮總合作，藉AI醫(yī)療應(yīng)用加值智慧醫(yī)療照護(hù)，邊緣運(yùn)算搭配的不是傳統(tǒng)sensor或麥克風(fēng)，而是3D sensor，透過(guò)醫(yī)療雲(yún)端智慧平臺(tái)導(dǎo)入人工智慧醫(yī)療技術(shù)等服務(wù)。

雲(yún)端協(xié)同更順暢的四個(gè)關(guān)鍵技術(shù)

圖2 : AI邊緣運(yùn)算串聯(lián)智慧網(wǎng)絡(luò)。（source：Kneron）

不過(guò)，前述邊緣運(yùn)算趨勢(shì)要能真正落地，除了edge server技術(shù)，還有三個(gè)技術(shù)門(mén)檻需要克服。

劉峻誠(chéng)指出，端的AI優(yōu)勢(shì)是執(zhí)行速度快，雲(yún)的AI優(yōu)勢(shì)是綜合訊息強(qiáng)，各有優(yōu)勢(shì)，如果要查臺(tái)北天氣，需要雲(yún)的AI到氣象局查，端的AI做不到，如果想知道臺(tái)北到新竹的路況，端的AI無(wú)法判斷車禍、塞車等細(xì)節(jié)，需要雲(yún)的AI才能做到，但雲(yún)跟端的AI要能更密集地溝通協(xié)同，包含了雲(yún)跟端的溝通、邊緣伺服器(edge server)跟雲(yún)、邊緣伺服器跟端的溝通，或者端的sensor彼此間的溝通，「邊緣伺服器介於雲(yún)跟端之間，是新的物種，但是不論是edge server AI或 roadside unit AI，都要靠5G傳輸速度快、低延遲性等特性才能順利運(yùn)作，4G很危險(xiǎn)，所以第一個(gè)技術(shù)門(mén)檻就是5G。」

另一個(gè)技術(shù)門(mén)檻則是乙太網(wǎng)路(ethernet)的連線與傳輸速度。目前AI的運(yùn)作是將資料上傳至雲(yún)端計(jì)算結(jié)果回傳，不易滿足即時(shí)需求，分散式架構(gòu)的邊緣運(yùn)算透過(guò)嵌入或外加的運(yùn)算設(shè)備處理不同運(yùn)算，等於在靠近資料源或用戶端處就能完成運(yùn)算，快速獲得分析結(jié)果。

好比人腦與四肢或其他器官，靠神經(jīng)網(wǎng)絡(luò)快速傳達(dá)痛感等訊息，需要靠人腦下達(dá)指令才能有動(dòng)作，避開(kāi)危險(xiǎn)，車內(nèi)的各個(gè)sensor一如四肢或器官，要有很強(qiáng)的傳輸能力才能傳到車的大腦，ethernet傳輸扮演重要角色，要讓AI或邊緣運(yùn)送傳輸速度快才能越來(lái)越像人體的神經(jīng)傳導(dǎo)速度。

此外，邊緣運(yùn)算的通用性(能力)要很強(qiáng)才行，比方獲IEEE CAS Darlington論文獎(jiǎng)的耐能可重組式架構(gòu)技術(shù)具有極佳的可變性，若將晶片比喻成樂(lè)高積木，當(dāng)需要支持語(yǔ)音AI的模型時(shí)就能通過(guò)指令集進(jìn)行組合，需要支持圖像AI模型時(shí)再重新組合，可以很好地支持多種神經(jīng)網(wǎng)絡(luò)模型，保持架構(gòu)的精簡(jiǎn)性，帶來(lái)高性能、低成本、低功耗、高兼容性等優(yōu)勢(shì)，「可以支持語(yǔ)音、影像、2D訊息、3D訊息的邊緣運(yùn)算AI晶片不能只做影像，還必須有觸覺(jué)、嗅覺(jué)、視覺(jué)等功能，兼容不同sensor的多變性與通用性。」

圖3 : 耐能邊緣AI技術(shù)聯(lián)合雲(yún)達(dá)科技共同升級(jí)智慧製造。

劉峻誠(chéng)說(shuō)，邊緣運(yùn)算在智慧工廠的應(yīng)用相當(dāng)普遍，可以透過(guò)小sensor協(xié)助產(chǎn)業(yè)鏈執(zhí)行速度更快，如果第一時(shí)間發(fā)現(xiàn)瑕疵，可以透過(guò)edge server告訴產(chǎn)業(yè)鏈的控制系統(tǒng)或機(jī)械手臂，挑出瑕疵品，「新趨勢(shì)是，每個(gè)設(shè)備都有智能可以快速溝通，不是單點(diǎn)智能，而是多點(diǎn)智能，還有一個(gè)主控端的edge server協(xié)助溝通判斷，而大腦AI 搭配端的edge server可以做到協(xié)同溝通及判斷，這個(gè)概念也可以套用在智慧居家、智慧醫(yī)療等領(lǐng)域。」也因?yàn)殡?yún)端協(xié)同變得越來(lái)越重要，隨著edge server、multi sensor的出現(xiàn)，邊緣運(yùn)算的AI要非常通用才行，另一方面，5G、ethernet等技術(shù)也必須到位。

自Alpha Go帶動(dòng)第三波人工智慧革命後，邊緣運(yùn)算與AI的結(jié)合帶動(dòng)新的可能性。市調(diào)公司MarketsandMartets針對(duì)人工智慧（AI）市場(chǎng)調(diào)查預(yù)估，AI晶片市場(chǎng)到2022年將達(dá)160.6億美元。

耐能智慧2015年創(chuàng)立，進(jìn)入市場(chǎng)時(shí)間早，加上人員多元，掌握軟硬體技術(shù)及運(yùn)算能力，因此擁有先發(fā)優(yōu)勢(shì)，挾AI晶片、邊緣運(yùn)算與圖像算法等核心技術(shù)，短短六年間耐能智慧將AI邊緣運(yùn)算技術(shù)應(yīng)用於智慧物聯(lián)、自動(dòng)駕駛、智慧安防、智能家居、智慧醫(yī)療等領(lǐng)域，不僅跟世界最大的server OEM供應(yīng)鏈廣達(dá)合作，在日本車市後裝市場(chǎng)佔(zhàn)有27-28%的市占率，與臺(tái)中榮總合作智慧醫(yī)療，與臺(tái)灣最大、世界第二大工業(yè)電腦廠商研華合作IoT智慧門(mén)鎖，今年也成為鴻海MIH生態(tài)系戰(zhàn)略夥伴。

AI生態(tài)系打造智慧網(wǎng)絡(luò)

除了低功耗AI系統(tǒng)單晶片（SOC）主力產(chǎn)品，耐能智慧在2020年推出KNEO Marketplace平臺(tái)，企圖打造自己的AI生態(tài)系。KNEO是由耐能驅(qū)動(dòng)設(shè)備組成的私有網(wǎng)格智慧網(wǎng)絡(luò)，可以提供個(gè)性化移動(dòng)AI，一如智慧手機(jī)和APPs提供個(gè)性化的移動(dòng)計(jì)算，KNEO為AI開(kāi)發(fā)者提供開(kāi)放平臺(tái)，為使用KNEO的消費(fèi)者和企業(yè)構(gòu)建AI Apps，同時(shí)具有區(qū)塊鏈的安全性和邊緣AI隱私性的各種優(yōu)勢(shì)。

劉峻誠(chéng)指出，不同產(chǎn)品使用不同平臺(tái)會(huì)有溝通成本，速度也比較慢，效果不會(huì)比較好，AI傳輸速度要快才能突出，工業(yè)製造也是，所以同一個(gè)方案遍布所有設(shè)備就會(huì)在溝通與速度上產(chǎn)生一定的優(yōu)勢(shì)。KNEO平臺(tái)用同一種方案串聯(lián)，有一樣的語(yǔ)言(晶片)，溝通起來(lái)效率最高，可以提供雲(yún)端協(xié)同與雲(yún)端服務(wù)。

「耐能不是只做AI晶片，真正想做的事是KNEO，也就是腦袋跟腦袋間的溝通引擎。」劉峻誠(chéng)說(shuō)，臺(tái)灣有許多廠商面臨產(chǎn)品升級(jí)的成本考量，耐能產(chǎn)品透過(guò)USB隨插即用的優(yōu)勢(shì)，可以從插槽升級(jí)AI，節(jié)省成本，APP開(kāi)發(fā)者可以上傳軟體到KNEO，使用者也可以在KNEO平臺(tái)上挑選適合自己的APP軟體，要做到如此互通有無(wú)的境界，AI晶片必須夠通用才行，「晶片夠通用才可以這樣串聯(lián)，只要平臺(tái)夠簡(jiǎn)單，大家都可以用，就可能達(dá)到這種境界。」

目前，KNEO平臺(tái)有超過(guò)二萬(wàn)個(gè)APP開(kāi)發(fā)商，耐能希望賦予設(shè)備智能，讓智能設(shè)備彼此溝通，之後的服務(wù)串聯(lián)也由耐能提供，如此可以遍布智慧工廠、智慧製造、智慧醫(yī)療、智慧汽車等領(lǐng)域。從AI邊緣運(yùn)算到KNEO平臺(tái)，耐能智慧逐步打造更有影響力的AI生態(tài)系，努力落實(shí)雲(yún)端協(xié)同的全面智慧網(wǎng)絡(luò)。