意法半導體亞太區(qū)人工智慧技術創(chuàng)新中心暨智慧手機技術創(chuàng)新中心的資深經理Matteo MARAVITA，為大家深入解析了該公司的人工智慧解決方案及遠景，並討論了開發(fā)人員當前所面對的挑戰(zhàn)，以及意法半導體如何為他們提供有力的支持。
據悉，AI已被公認為一項具有革命性影響力的技術，其力量足以改變眾多領域的格局。意法半導體深信，AI在塑造未來的連網世界中扮演著關鍵角色。這將是一個充滿智慧的萬物互聯世界，數十億個裝置將以更高的安全性、連線性和智慧性為特點，共同構建一個我們稱之為雲端連接智慧邊緣的環(huán)境。在這個新世界中，裝置將擁有更強的自主能力，並與雲端形成更為緊密的連接，這將不僅提升資料處理的數量，也將提高在地資料處理的能力。
這些裝置將滲透到日常生活的方方面面，從家庭到工廠，從公司到城市，從大樓到交通出行，幾乎無處不在。當我們深入剖析這些裝置的運作模式以及它們所帶來的商業(yè)模式時，我們便能清晰地看到邊緣AI為我們的未來開創(chuàng)了怎樣的新局面。
那麼，意法半導體是如何將這一遠景轉化為現實的呢？這又需要哪些關鍵元素的支持呢？意法半導體亞太區(qū)人工智慧技術創(chuàng)新中心暨智慧手機技術創(chuàng)新中心的資深經理Matteo MARAVITA指出，邊緣AI的實現離不開三個基本要素：安全性、連線性和自主性。而在今天的分享中，他將重點聚焦於第三個要素——如何提升這些裝置的智慧和自主性，而?時將安全性和連線性問題置於一旁。他將進一步探討意法半導體是如何在這一領域實現其遠景的。
以車用感測器為例，Matteo MARAVITA介紹了意法半導體與HPE集團的合作。他們正在利用邊緣AI技術來優(yōu)化電動汽車的馬達運作。他們開發(fā)了一種名為“虛擬感測器”的解決方案，該方案將AI演算法運用在最新的Stellar系列車規(guī)微控制器上。這個演算法能從感測器中獲取馬達運作的資料，並利用這些資料來推斷和估計那些無法直接測量的馬達內部溫度。值得一提的是，這個車規(guī)微控制器不僅能執(zhí)行人工智慧任務，還能驅動馬達，並同時運行其他預測性維護的AI演算法，以識別減震、機械和電氣系統(tǒng)中可能存在的異常狀態(tài)。
在近期的一項技術合作中，知名電腦與筆記型電腦市場的領軍企業(yè)惠普與合作夥伴攜手，利用先進的智慧感測器技術，針對筆記型電腦的電源監(jiān)控進行了優(yōu)化。該方案的核心在於採用了ST的六軸IMU MEMS感測器，惠普與ST的工程師們緊密合作，通過在不同環(huán)境條件下收集IMU感測器的資料，並根據不同設備與使用者行為模式來開發(fā)和訓練AI模型。
此次合作目的在識別特定使用場景，例如用戶將筆記型電腦合上並放入電腦包前忘記關閉電源的情況。在此類情況下，由於未能及時關閉系統(tǒng)，筆記型電腦可能會過熱，導致電池迅速耗盡。為了解決這一問題，雙方全面收集了各類資料，並合作開發(fā)了機器學習模型。一旦模型經過驗證，該演算法將被整合至智慧感測器中，從而實現更為精準的電源管理。
此外，在另一項引人注目的應用中，AI技術也被成功引入到了日常生活中已存在數十年的洗衣機領域。隨著技術的不斷進步，現代洗衣機在馬達控制性能上已實現了顯著的提升，相較於15或20年前的洗衣機，現在的洗衣機不僅馬達性能更高，而且能耗更低。
在此次創(chuàng)新中，STM32微控制器被用於控制洗衣機的馬達運行，並同時執(zhí)行AI演算法。馬達控制器演算法將馬達的電流狀態(tài)資訊發(fā)送至AI演算法，後者利用這些資訊來估算待洗衣物的重量。通過更準確地估算衣物重量，洗衣機能夠選擇更為合適的洗滌程式，從而以恰到好處的電流驅動馬達，減少整體用水量、洗衣液用量以及能源消耗。據統(tǒng)計，這一技術可為一個洗衣週期節(jié)省高達15到40%的能源和水資源。
不僅如此，AI演算法還具備提前檢測洗衣機滾筒在旋轉過程中可能發(fā)生的碰撞以及撞擊洗衣機外殼的能力。這一功能的實現得益於ST的六軸IMU感測器，使得整體解決方案更加穩(wěn)定可靠。
通過這些案例，我們可以看到，越來越多的公司、應用領域的工程師們正積極尋求將人工智慧技術整合到他們的產品中，以實現更高效、節(jié)能和穩(wěn)定的性能。
在當前的技術領域中，開發(fā)人員仍然面臨著一系列挑戰(zhàn)。這些挑戰(zhàn)主要可分為硬體和軟體兩大層面。從硬體角度來看，儘管開發(fā)者追求實現人工智慧功能，但仍需兼顧整體性能、安全性以及功耗控制。特別是在選擇硬體時，必須確保其具備特定的安全功能，並能在維持低功耗的同時穩(wěn)定運行。對於半導體供應商而言，如意法半導體，他們致力於為客戶提供一系列整體方案，以應對不同硬體設備的挑戰(zhàn)。
在另一方面，軟體層面的挑戰(zhàn)同樣不容忽視。為了在設備中實現可訓練的模型，開發(fā)者不僅需要在最終產品中創(chuàng)建、訓練和部署模型，還需負責其維護。特別是在邊緣AI領域，這一挑戰(zhàn)尤為突出。
意法半導體早在十年前便開始了AI研發(fā)計畫。他們從機器學習的基礎研究入手，專注於未來將成為焦點的邊緣設備。因此，他們的機器學習技術特別針對硬體資源受限的設備進行了優(yōu)化。2018年，他們推出了首個STM32 AI函式程式庫——STM32Cube.AI，並自此開始與客戶合作，共同開發(fā)了多個項目。
同年，他們還推出了首款內置MLC機器學習核心的MEMS感測器，該感測器具備機器學習模型硬體加速功能。此外，他們還加入了TinyML聯盟，並隨後將AI的佈局和支援範圍擴展至其他晶片，如車用微控制器和Linux相關產品，如STM32微處理器。
到了2021年，意法半導體進一步推出了新的AutoML工具生態(tài)系統(tǒng)NanoEdge AI。一年後，他們再次發(fā)佈了新款具有更先進硬體加速器的MEMS感測器，該感測器能夠在同一設備內運行更小的深度學習網路。去年，他們繼續(xù)改進軟體生態(tài)系統(tǒng)，推出了STM32開發(fā)者雲端模型庫，並更新了Stellar系列車規(guī)MCU工具。
值得一提的是，STM32在通用微控制器領域取得了顯著成績。在MLPerf Tiny基準測試中，STM32提交的項目數量位居第一，占所有提交項目的73%。這充分證明了意法半導體多年的努力得到了回報，並吸引了大量開發(fā)者在其平臺上進行邊緣AI的開發(fā)與探索。
這一成功的背後，有三個關鍵因素不可忽視。首先，意法半導體在通用微控制器、工業(yè)和消費性微控制器市場具有優(yōu)勢地位，STM32系列特別適用于這些應用。其次，他們對邊緣AI基準測試做出了重要貢獻，如MLPerf Tiny基準測試。最後，他們的線上平臺——STM32 AI開發(fā)者雲端平臺，為客戶和開發(fā)者提供了便捷的線上工具和STM32開發(fā)板，?明他們輕鬆測試模型。這些因素共同推動了STM32在AI創(chuàng)新領域的廣泛應用。
在成功利用硬體解決方案協助開發(fā)者應對硬體挑戰(zhàn)之後，ST如今進一步聚焦如何?明客戶克服軟體方面的挑戰(zhàn)。開發(fā)邊緣AI解決方案涉及多種類型的AI工程師，他們各自擁有不同的開發(fā)技能，因此其需求也各不相同。
嵌入式軟體工程師是專注於實現邊緣AI並將其無縫整合到整個系統(tǒng)中的關鍵角色。這類工程師往往會從可靠的示例專案入手，根據特定應用需求調整參考設計。與此同時，機器學習工程師、AI工程師或資料科學家則主要致力於機器學習模型的研發(fā)，他們不僅關注模型的資料集，還需根據目標硬體裝置優(yōu)化模型性能。
硬體工程師則渴望擁有一個簡便的基準測試工具，以便在不同的硬體平臺或元件上測試資料科學家提供的先進演算法，並在性能、功耗、尺寸和價格之間找到最佳平衡點。
鑒於這些多樣化的需求，ST開發(fā)了一個獨特的工具——ST Edge AI開發(fā)套件，以滿足各類工程師的需求。
那麼，ST Edge AI開發(fā)套件究竟是什麼呢？它是一個集成了邊緣AI開發(fā)所需全套工具和模組的綜合性解決方案。從利用模型庫建立示例、收集資料集，到將模型部署到特定硬體，該套件覆蓋了整個開發(fā)流程?？蛻艨梢岳肧T的AutoML工具直接從資料開始構建模型，或者採用自研或協力廠商工具將自主研發(fā)的模型導入套件，進行模型基準測試，並在硬體上部署模型。
ST Edge AI開發(fā)套件旨在支援多種硬體，包括MEMS感測器、微控制器、MPU微處理器以及車用微控制器。此外，套件還提供了豐富的開發(fā)資源，如文檔、培訓課程和社區(qū)存取權限等，為開發(fā)者提供了全方位的支援。
ST正致力於將多個工具整合為一個全面的邊緣AI開發(fā)套件，詳細資訊已全部呈現。這一生態(tài)系統(tǒng)不僅與內部AI開發(fā)流程相相容，同時也與外部AI開發(fā)生態(tài)系統(tǒng)保持協同工作。值得一提的是，該套件支持眾多主流且廣泛應用的深度學習框架，包括TensorFlow Lite、Keras、PyTorch等，使得用戶能夠輕鬆利用這些框架訓練的機器學習模型進行開發(fā)。
此外，ST Edge AI開發(fā)套件還展示了與NVIDIA工具包的相容性，為用戶提供更多選擇和靈活性。同時，該套件也提供了與AWS和微軟Azure等雲端服務的連接可能性，使得用戶能夠輕鬆將邊緣AI解決方案與雲端服務相結合，實現更廣泛的資料處理和分析。
不僅如此，ST Edge AI開發(fā)套件還與MATLAB等模擬工具保持相容，為用戶提供了更強大的模擬和測試能力。這使得用戶能夠在開發(fā)過程中更早地發(fā)現和解決問題，提高開發(fā)效率和品質。
ST Edge AI解決方案的核心在於其通用的軟體庫和指令列介面，即ST Edge AI核心。這一核心功能使得客戶能夠方便地評估機器學習模型，並利用工具將模型編譯為特定目標。因此，無論是STM32微控制器、Stellar車用微控制器，還是具備MLC或ISPU等硬體加速器的MEMS感測器，都可以輕鬆集成到ST Edge AI解決方案中。
值得一提的是，這些工具都是免費的。不僅ST Edge AI套件本身是免費的，而且ST還宣佈自去年12月起，Nano AI Studio在任何STM32上都可以無限免費使用。此外，ST還將根據特殊授權合約，繼續(xù)為客戶提供其他搭載Arm Cortex-M核心的微控制器的支援。
綜上所述，ST Edge AI開發(fā)套件為用戶提供了一個全面、高效且靈活的邊緣AI開發(fā)解決方案。無論是初學者還是有經驗的開發(fā)者，都能夠利用這一套件快速構建和優(yōu)化邊緣AI應用，推動智慧化時代的發(fā)展。
