COMPUTEX 2024期間，已明顯可見到人工智慧（AI）正逐步落實於各行各業，從製造業到醫療保健、交通管理到消費電子的應用範圍廣泛，對於許多產業來說都是一場革命，其中導入AOI與機器視覺等邊緣AI相關技術應用更為關鍵。
自從1980年代的機器學習（Machine Learning）時期，開始讓電腦具備自主學習、改善能力，並延伸至特定領域，便率先導入語音辨識、翻譯，或是醫療影像病變、產品瑕疵檢測等。到了2016年AlphaGo橫空出世，擊敗圍棋界棋王，更被視為近期AI發展最大突破。
待2022年生成式AI問世，持續推動跨界投入商業化等更有生產力效益的場域。根據研調機構Statista Research預估，受惠於AI技術的持續突破，全球電腦視覺市場在理解圖片與臉部驗證領域應用將於2024年再創新高，並以每年約11%的速度成長。
| 圖一 : 當人工智慧（AI）正逐步落實於各行各業形成一場革命，其中導入AOI與機器視覺等邊緣AI相關技術應用更為關鍵。（攝影：陳念舜） |
|
目前針對機器視覺由取像、分析，到結果的輸出，大致可分為「影像擷取」、「影像處理」、「影像分析」3步驟。應用在工業自動化與機器人，例如視覺瑕疵檢測、3D視覺定位、分類計數，甚至影像監控/辨識等應用，成為AI視覺系統的技術核心。
研華布局AI規模化 促四角平穩落地
其中依研華產業雲暨影像科技副總經理鮑志偉指出，邊緣（Edge AI）將是下一波AI的發展趨勢，如同過往的產業電腦（Industrial PC；IPC）發展，須先達到規模化經濟，才能加速產業AI化落地，建構起立足的優勢。目前已在先進大國部署，預估將會在2025~2026年間大量複製及爆發式成長；生成式AI產品則還需要約3~4年驗證時間，2029年始顯著成長。
至於躍升規模化落地的首要方程式，則包含：場域、平臺、協作與AI加速等4大關鍵要素，產業生態系的構建與協作，更是至關重要！鮑志偉進一步分析，邊緣AI首先須經由各國政府補助開發，逐步導入智慧城市場域，以利規模化發展；其次是在影像、醫療等領域，通過認證並獲採用，利用各種AMR自主移動機器人來填補產業人力不足的問題；最後則是整體應用更臻成熟之後，預料將出現產品創新期。
| 圖二 : 研華公司推出最新AI邊緣運算系統與伺服器系列產品，整合AI軟體和預先訓練的模型，將能大幅縮短開發與部署時間。（souce：研華） |
|
目前在產業所使用的AI-based檢測設備，已能透過深度學習（Deep learning）模型提升比傳統型檢測設備還高的良率，將在下半年逐漸成長；導入AI技術的AMR/AGV配送機器人，更廣泛應用在物流場域，未來在成功案例不斷獲得複製之下，預估明、後年將進入邊緣AI的高速成長期，研華已在IPC客戶端看見各種應用百花齊放。
但此類產品欲走向AI化，在硬體規格化、AI模型的部署與管理，以及能夠驅動邊緣AI運作的高強度運算力方面，仍存在須克服的難題。其中，相較於目前消費市場上AI PC裝置約達到40TP以上算力，IPC AI化則至少須1200TP，還應考慮使用算力的規模、情境和方向不同，可能比起前者多出上萬倍；並持續創造出過去IPC未曾接觸到的不同場景、領域，如工業用有持續自動化、省人力需求。
且基於Edge AI伺服器須因應防水、防塵不同環境等級挑戰，不像在Data Center的環境較單純，必須克服如下挑戰：硬體規格選擇、AI模型大量部署管理的需求，有必要更新時系統不能停機。邊緣生成式AI比起雲端須提供更即時的反應、更低的資安風險及網路傳輸成本，更適用於需要即時反應的智慧城市與安全控制應用，並已成功導入運用在研華自家產線。
目前已經初步釋出邊緣AI產品，並應用NVIDIA方案的全系列產業AI平臺，分別從邊緣到雲端展示最新且完整的AI邊緣運算系統與伺服器，整合AI軟體和預先訓練的模型，將能大幅縮短開發與部署時間。
偕同偲倢打造了AI光學字元辨識（OCR）與AI光學瑕疵檢測（AOI）等硬軟體與服務的整合方案，適用安裝於空間限制的設備中；或於高速流水產線上，執行高速包裝噴印檢查或是出貨檢查。
此AI OCR解決方案使用研華ICAM-520智能相機，並內建NVIDIA Jetson運算模組，整合光源、鏡頭與多種語言模型，並以其輕巧體積且便利安裝之特性，適用安裝於空間限制的設備中，或於高速流水產線上，執行高速包裝噴印檢查或是出貨檢查。
可應用在高速自動化檢測設備，透過AI抓出難以定義之瑕疵或非預期的瑕疵，此將大幅降低人力成本並同時提高生產良率與檢測速度，包括臺灣半導體代工廠正誠電子，已導入AI AOI方案檢測，打造半導體封裝檢測生產線。
除了參與智慧城市專案，也與韓系客戶深化智慧交通合作，更持續強化人臉辨識技術能量。至於未來生成式AI導入邊緣端，將可望延展邊緣AI的功能性，如原本經過CNN形成的辨識和判斷模式，如今則可由生成式AI在邊緣統籌、分析及判斷整個場域並產出報告；農業機器人則是負責辨識農作物的成熟度與採集工業，進一步能推算成熟時間與評估種植策略。
宸曜緊隨NVIDIA腳步 垂直整合硬軟體資源
宸曜科技資深售前工程師李冠毅也預測全球邊緣AI市場潛力的驅動因子包含：IoT裝置增加，因產品製造品質提高，供應鏈管理增強需求；5G技術整合，提供更高的資料傳輸效率並減少延遲，加強邊緣AI能力；AI與機器學習的進步，經由演算法提升了邊緣AI系統的效率與能力；政府與產業支援，來自智慧城市專案與AI驅動的計劃，促進了Edge AI成長。
然而，如果要在嚴苛環境條件下部署新興領域應用考驗，邊緣運算中的電腦設計和穩定性會是關鍵。該公司於2010年成立之初，便專注打造搭載X-86晶片的寬溫無風扇系列強固電腦，以滿足各種嚴苛環境條件下使用。
適逢2013年業界開始發現機器在圖像識別上更為精準、快速，從而導入工業智動化、智慧交通，也發表自家車載無風扇寬溫電腦；加上2015年Aphgo問世後，開始思考該如何藉強化學習技術、環境，反饋自駕車定位。
並順應在2015~2016年間自駕技術興起，需要克服車上電壓、溫度、震動等問題，宸曜最終在2016年打造出首臺整合自駕技術的GPU/GUDA運算的Nuvo系列工業電腦，在百度阿波羅自駕車技術平臺上擔任AI大腦；且具備專利散熱技術，可支援250W GPU Card運行。
至今，宸曜的Edge AI產品線越發完整，到了2020年正式加入NVIDIA合作夥伴網路，而能提早參與前期討論和測試驗證階段、更快推出邊緣運算平臺產品，並利用生成式AI來刺激應用創新，帶動軟硬體新商機。
同時推出世界首款兼具工業電腦和車載應用設計、支援雙GPU的AI電腦，甚至因應目前各國皆看好Edge AI在製造業的發展，占比約3~4成，尤其是在製程中對品質要求越來越高，而須加強供應鏈管理，如AOI+AMR需求的功能。
| 圖三 : 目前任何LLMs的創新突破，都有賴於巨量資料累積與龐雜強大的神經網路，加以訓練，也讓AIoT貼近感測器，更快速做出最好決策、同時確保資安。（攝影：陳念舜） |
|
適逢2023年Chat GPT問世，包含智慧城市、物流與運輸、工業製造、農業、零售、食品加工業等，也盼藉此提高生產力，對Edge Computing裝置、Data Center AI Platform硬軟體需求大增，從雲端到邊緣重新思考AI所面臨的挑戰，須支援多種擴充以滿足嚴苛環境，效能又不打折，
宸耀也成為受NVIDIA肯定的Edge Computing供應商，鎖定垂直市場、強固型產品設計，容易部署等優點，提供最優效能功耗比。透過無風扇/平頭哥等強固散熱良好的設計、有效散熱的PCBA，具備-25~70℃寬溫適應能力，確保GPU/CPU運行100%效能時不會降頻；衝擊和震動專利設計，可調節GPU固定支架和阻尼減震支架；滿足工業及車載環境的8V to 48V寬電壓輸入設計，可承受車載環境電壓波動；支援多種GPU（RTX、Quadro、Tesla、Jetson）及彈性擴充介面，符合IP66防水及防塵、防鹽規範，滿足客戶端預算的需求。
李冠毅認為，其實任何LLMs的創新突破，都有賴於巨量資料累積與龐雜強大的神經網路，加以訓練，布署到從雲端到地端服務應用。另有業者會希望，將之布署到更接近邊緣場域，藉以攤提節省硬體成本、更快Fine tune訓練模型，也讓AIoT貼近感測器，更快速做出最好決策、同時確保資安。
生成式AI當道 非監督式學習成主流
肯定資訊工程部經理曹志宇進一步表示，該公司身為專業機器視覺設備Zebra代理商，產品包括相機鏡頭、光源、系統等，與宸曜合作多年來，協助解決客戶在電腦處理、高速存取資訊等相關課題。隨著Zebra在2~3年前併購AI軟硬體公司Matrox及其圖像資料庫之後，納入旗下Zebra Aurora軟體產品，打造Code-based開發環境，並經由Aurora image library SDK提供完整的影像開發環境，依序進入影像前處理等工作流程，包括可行性評估、原型設計，配合使用者開發API部署到電腦，具備互動式、直觀便利的使用環境，加速評估使用流程；進而監控各API執行時間、次數等效能，建立4大Deep learning功能模組。
| 圖四 : 肯定資訊工程部經理曹志宇（攝影：陳念舜） |
|
其中前3項屬於進行監督訓練者，包含：Image classification用來識別影像並分類，使用預期類別的樣本影像；Image segmentation用來搜尋特徵（缺陷），並針對影像鄰域像素分類、標記影像中的特徵，使用其分段預期特徵樣本；Object detection用於尋找和計數物體，同樣針對影像鄰域定位預訓練物件或特徵類別、提供偵測分數，並將影像中的物件或特徵包圍在產出的邊界框中，使用其封閉的預期物件樣本來進行。
Anomaly detection則屬於非監督式學習，用來檢測與正常影像間差異，可捕獲如影像或其鄰域分類為缺陷等異常，並指示影像中的異常情況，僅使用無異常圖像訓練，所以毋須標註或註釋，減少用來標註的大量人力；僅標示發現的異常狀況和粗略位置；可設定分數閾值來控制偵測靈敏度，利用（integrated）GPU來進行卸載或加速。
進而投入發展Zebra AI OCR技術，不必指定或學習字體即可讀取，分別支援拉丁字元、數字、標點符號，可處理印刷、雕刻或浮雕的點狀或實心文本；提供字串模型和限制以提高穩健性和相關性。因此，不必擔心數以百計的化妝品的透明玻璃瓶，和不同反光及曲度、包裝標籤字元太小。
形塑機器視覺生態系 為應用服務加值
隨著近年來AI技術擴大規模落地，已逐步滲入AOI、機器視覺應用領域。因為受惠於NIVIDIA執行長黃仁勳點將而聲名大噪的所羅門公司，則從早期代理FA工廠自動化設備、工業機器人等產品，再投入開發3D視覺影像辨識平臺已默默耕耘許久。
面對傳統視覺系統具有許多環境上的限制，像是環境光線光影一變化可能會影響，或者物件複雜度高，辨識率就會下降等，都是工廠實際上會面臨的考驗，已在近年來導入AI技術後取得飛速進步，如過去AOI光學檢測設備往往造成過殺（overkill）的問題，在導入AI之後，總算可以解決，但新的課題也隨之而生。
所羅門公司董事長陳政隆便舉例，過去他常遇到客戶想要導入AI視覺或3D視覺進行AI檢監測應用時都會問一個問題，就是：「到底要收集多少圖片才能產生出AI模型？」一旦我們回覆至少需要1,000張圖片以上，收集成千上萬筆資料，並需要大量人力去貼標籤、訓練，客戶聽完之後就不太想做。
因此，所羅門團隊當時便思考如何去創造一個軟體平臺，讓客戶以最少量的樣本去做客製化的AI模型，以提高客戶導入的意願，解決客戶不便之處。陳政隆說：「要做到這樣的程度，我們必須串聯與整合大量的硬體！」
如今所羅門建立的平臺不只已經串聯20~30個不同品牌機器人，還包括3~4種不同的2D、3D影像格式、各家品牌IP CAM等。並將現有的開源神經網路模型進行優化，整合各種軟硬體，降低客戶訓練AI模型訓練成本過高的問題。
甚至因為半導體客戶良率高達99%，還會建議利用「瑕疵」來訓練AI，即透過生成式AI去生成看樣本起來像真的瑕疵的資料讓AI學習。讓客戶甚至不需要寫程式，只要以no code/low code方式就能創建自己所需要的應用模式來滿足客戶需求，也能讓所羅門的軟體能快速切入不同行業別市場。
