越來越多資料在生產現場產生，對於資料即時處理與分析的需求變高，因此越來越多產業看重IT應用，如邊緣運算（Edge Computing）以及結合AI的AIoT，隨著5G專網出線，COVID-19加速數位化腳步，邊緣運算一躍成為企業戰略要角。

安侯建業(KPMG)和國際數據資訊(IDC)預估，疫後全球經濟復甦的關鍵在於5G和邊緣運算，到2023年，工業製造、連結醫療、智慧運輸、環境偵測和電競娛樂等五類產業的連接、軟硬體和服務所產生的合併市值將逾5,000億美元，其中，工業製造領域中5G和邊緣運算的相關技術約可創造2,600億美元的市場商機。

IT研究與顧問諮詢公司高德納(Gartner)預估，2023年逾50%的大型企業會因為物聯網或沈浸式體驗而部署至少六個邊緣運算解決方案，到2025年，全球邊緣硬體基礎架構將達170億美元水準，而超過75%的企業資料會在資料中心或雲端以外的地方被創造及被處理。

此外，Frost&Sullivan研究預估，為達節省網路頻寬、提高安全、提升數據傳輸效率、降低成本等目的，2022年約有90%的工業企業將邊緣運算視為基礎建設的一環，而多接取邊緣運算（Multi-access Edge Computing）市場規模在2024年將達72.3億美元。

前述幾大調研機構預測不難看出邊緣運算商機無限。從實際應用來看，5G和邊緣運算技術聯手帶動工業界高度自動化，促使自駕車、機器人、物聯網設備、AR/VR、MES及ERP系統各領域蓬勃發展，邊緣運算的發展進程與技術革新也帶動邊緣AI晶片的需求量。IDC預測，未來人工智慧會走向「端、雲共生」（Edge/Cloud AI Mutualism），2025年全球將有50%的終端裝置擁有AI神經網路運算能力。

邊緣運算趨勢：雲端協同概念

企業端主要將邊緣運算應用於雲端、工業物聯網及5G等領域。邊緣運算以分散架構模式處理運算，加速AI應用與運算，可以依照運算資源及分析軟體的不同，處理複雜或簡單的工作，也可以讓雲端接手。隨著AI與5G的加入，邊緣運算技術發展至今已走向雲端協同。

終端邊緣AI解決方案新創廠商耐能智慧（Kneron）以「AI晶片+邊緣運算+圖像算法」為核心，全面賦能智慧物聯、自動駕駛、智慧安防、智能家居、手機等領域，提供完整的端到端軟硬體解決方案，可在移動設備、個人計算機和IoT（如智慧家居、監控、支付等），從雲的AI拓展到設備邊緣AI的推理運算。

圖1 : 耐能智慧創辦人暨執行長劉峻誠。（source：耐能智慧)

AI晶片與邊緣運算

耐能智慧創辦人暨執行長劉峻誠指出，邊緣運算有非常邊緣的AI，也有邊緣跟邊緣的AI互相溝通，比方邊緣的sensor跟中間的大腦AI的溝通、互相溝通的AI跟AI，「我們不只賦予設備智能，還讓智能跟智能之間可以分享彼此的資訊，做不同的判斷。」

如車聯網AI，除了兩車內AI的溝通，還有中間的「虛擬交警」提供判斷，所以有端的server及端的小sensor可以互相溝通與協同，不再侷限單一點的智能，而是點跟點的智能，形成面，兩車之外的虛擬交通警察可以觀察並預測軌跡，如果發現兩車靠近可能產生碰撞就會調整兩車狀況，避免發生意外，「這些溝通需要仰賴邊緣運算及5G技術才可能落實。」

今年10月份，耐能智慧與廣達旗下的雲端伺服器大廠雲達強強聯手，透過耐能的邊緣AI晶片KL520和KL720解決方案，協助雲達的5G驅動智慧製造技術，以強化智慧製造的安全性，宣告AI、邊緣運算及5G等技術應用更上層樓。

雲達總經理楊麒令表示，加入耐能AI晶片後，相關設備處理速度變得更快，過去的邊緣服務器方案可支持近100個鏡頭的傳輸，將耐能的AI晶片加入通用客戶端設備(uCPEs)中，可在相同框架下支持更多鏡頭，成本降低至原來的25%左右。透過5G網絡，uCPE可以在本地進行處理，減少需要發送到終端服務器的信息，進而減少寬帶容量，降低成本。

耐能智慧逐步落實終端AI在終端設備而非雲服務器上進行的創新理念，除了自駕車、汽車、智慧工廠內的機器人，AI雲端運算也能運用在智慧醫療領域，如耐能與臺中榮總合作，藉AI醫療應用加值智慧醫療照護，邊緣運算搭配的不是傳統sensor或麥克風，而是3D sensor，透過醫療雲端智慧平臺導入人工智慧醫療技術等服務。

雲端協同更順暢的四個關鍵技術

圖2 : AI邊緣運算串聯智慧網絡。（source：Kneron）

不過，前述邊緣運算趨勢要能真正落地，除了edge server技術，還有三個技術門檻需要克服。

劉峻誠指出，端的AI優勢是執行速度快，雲的AI優勢是綜合訊息強，各有優勢，如果要查臺北天氣，需要雲的AI到氣象局查，端的AI做不到，如果想知道臺北到新竹的路況，端的AI無法判斷車禍、塞車等細節，需要雲的AI才能做到，但雲跟端的AI要能更密集地溝通協同，包含了雲跟端的溝通、邊緣伺服器(edge server)跟雲、邊緣伺服器跟端的溝通，或者端的sensor彼此間的溝通，「邊緣伺服器介於雲跟端之間，是新的物種，但是不論是edge server AI或 roadside unit AI，都要靠5G傳輸速度快、低延遲性等特性才能順利運作，4G很危險，所以第一個技術門檻就是5G。」

另一個技術門檻則是乙太網路(ethernet)的連線與傳輸速度。目前AI的運作是將資料上傳至雲端計算結果回傳，不易滿足即時需求，分散式架構的邊緣運算透過嵌入或外加的運算設備處理不同運算，等於在靠近資料源或用戶端處就能完成運算，快速獲得分析結果。

好比人腦與四肢或其他器官，靠神經網絡快速傳達痛感等訊息，需要靠人腦下達指令才能有動作，避開危險，車內的各個sensor一如四肢或器官，要有很強的傳輸能力才能傳到車的大腦，ethernet傳輸扮演重要角色，要讓AI或邊緣運送傳輸速度快才能越來越像人體的神經傳導速度。

此外，邊緣運算的通用性(能力)要很強才行，比方獲IEEE CAS Darlington論文獎的耐能可重組式架構技術具有極佳的可變性，若將晶片比喻成樂高積木，當需要支持語音AI的模型時就能通過指令集進行組合，需要支持圖像AI模型時再重新組合，可以很好地支持多種神經網絡模型，保持架構的精簡性，帶來高性能、低成本、低功耗、高兼容性等優勢，「可以支持語音、影像、2D訊息、3D訊息的邊緣運算AI晶片不能只做影像，還必須有觸覺、嗅覺、視覺等功能，兼容不同sensor的多變性與通用性。」

圖3 : 耐能邊緣AI技術聯合雲達科技共同升級智慧製造。

劉峻誠說，邊緣運算在智慧工廠的應用相當普遍，可以透過小sensor協助產業鏈執行速度更快，如果第一時間發現瑕疵，可以透過edge server告訴產業鏈的控制系統或機械手臂，挑出瑕疵品，「新趨勢是，每個設備都有智能可以快速溝通，不是單點智能，而是多點智能，還有一個主控端的edge server協助溝通判斷，而大腦AI 搭配端的edge server可以做到協同溝通及判斷，這個概念也可以套用在智慧居家、智慧醫療等領域。」也因為雲端協同變得越來越重要，隨著edge server、multi sensor的出現，邊緣運算的AI要非常通用才行，另一方面，5G、ethernet等技術也必須到位。

自Alpha Go帶動第三波人工智慧革命後，邊緣運算與AI的結合帶動新的可能性。市調公司MarketsandMartets針對人工智慧（AI）市場調查預估，AI晶片市場到2022年將達160.6億美元。

耐能智慧2015年創立，進入市場時間早，加上人員多元，掌握軟硬體技術及運算能力，因此擁有先發優勢，挾AI晶片、邊緣運算與圖像算法等核心技術，短短六年間耐能智慧將AI邊緣運算技術應用於智慧物聯、自動駕駛、智慧安防、智能家居、智慧醫療等領域，不僅跟世界最大的server OEM供應鏈廣達合作，在日本車市後裝市場佔有27-28%的市占率，與臺中榮總合作智慧醫療，與臺灣最大、世界第二大工業電腦廠商研華合作IoT智慧門鎖，今年也成為鴻海MIH生態系戰略夥伴。

AI生態系打造智慧網絡

除了低功耗AI系統單晶片（SOC）主力產品，耐能智慧在2020年推出KNEO Marketplace平臺，企圖打造自己的AI生態系。KNEO是由耐能驅動設備組成的私有網格智慧網絡，可以提供個性化移動AI，一如智慧手機和APPs提供個性化的移動計算，KNEO為AI開發者提供開放平臺，為使用KNEO的消費者和企業構建AI Apps，同時具有區塊鏈的安全性和邊緣AI隱私性的各種優勢。

劉峻誠指出，不同產品使用不同平臺會有溝通成本，速度也比較慢，效果不會比較好，AI傳輸速度要快才能突出，工業製造也是，所以同一個方案遍布所有設備就會在溝通與速度上產生一定的優勢。KNEO平臺用同一種方案串聯，有一樣的語言(晶片)，溝通起來效率最高，可以提供雲端協同與雲端服務。

「耐能不是只做AI晶片，真正想做的事是KNEO，也就是腦袋跟腦袋間的溝通引擎。」劉峻誠說，臺灣有許多廠商面臨產品升級的成本考量，耐能產品透過USB隨插即用的優勢，可以從插槽升級AI，節省成本，APP開發者可以上傳軟體到KNEO，使用者也可以在KNEO平臺上挑選適合自己的APP軟體，要做到如此互通有無的境界，AI晶片必須夠通用才行，「晶片夠通用才可以這樣串聯，只要平臺夠簡單，大家都可以用，就可能達到這種境界。」

目前，KNEO平臺有超過二萬個APP開發商，耐能希望賦予設備智能，讓智能設備彼此溝通，之後的服務串聯也由耐能提供，如此可以遍布智慧工廠、智慧製造、智慧醫療、智慧汽車等領域。從AI邊緣運算到KNEO平臺，耐能智慧逐步打造更有影響力的AI生態系，努力落實雲端協同的全面智慧網絡。