使用擅長學習、處理、分類序列資料的長短期記憶（LSTM）網路，建立輸出從車輛引擎所產生的氮氧化物（NO_X）的模型，藉由使用MATLAB和深度學習工具箱建立LSTM，并訓練出預測NO_X排放的模型網路，讓新一代零排放車輛的開發技術能達到高度準確率。

雷諾（Renault）汽車現正積極地開發新一代零排放車輛（zero-emissions vehicles；ZEVs）的技術，同時，也在努力希望使內燃機（internal combustion engine；ICE）車輛更干凈、更有效率。減少有害物質的排放是其中一項重點項目。內燃機會產生氮氧化物（oxides of nitrogen；NO_X），導致了煙霧、酸雨、溫室氣體。為了降低NO_X，需要精確地估計各種引擎操作點的排放–舉例來說，各種扭力和引擎速度的組合。

在真實的引擎上進行測試不但昂貴，而且通常很耗時。而傳統上，是透過查找表（lookup tables）或氧化（combustion）模型的計算來進行NO_X估計。

不過，這些方法有幾個缺點，例如查找表不夠精確，而氧化模型也會因為方程式需擷取排放的動態復雜性，使得要建立模型的難度特別高，導致NO_X物理模型的高復雜度，因此很難用于完整的引擎操作范圍；而且，這些模型無法在ECU上即時的執行。

我們最近開始使用長短期記憶（long-short-term memory；LSTM）網路來建立從引擎輸出NO_X的模型（直接從引擎排放，而不是從后處理（aftertreatment）系統）。

LSTM網路是一種擅長學習、處理、分類序列資料的神經網路，LSTM建立起來比氧化模型容易許多。透過MATLAB，即使本身并不是深度學習的專家，也可以使用MATLAB和深度學習工具箱（Deep Learning Toolbox）建立，并訓練出預測NO_X排放的模型網路，準確率幾乎高達90%。

LSTM網路模型的設計與訓練

除了執行真實引擎的測試，并且取得了訓練資料。在測試進行期間，引擎會經過常見的駕駛型態循環，包含全球調和輕型車輛測試循環（Worldwide harmonized Light vehicles Test Cycles；WLTC）和歐盟現行之歐洲駕駛循環（New European Driving Cycle；NEDC），還有實際駕駛排放（Real Driving Emissions；RDE）測試。這些擷取下來的資料將做為模型網路的輸入值，包含引擎扭力、引擎速度、冷卻劑溫度，以及檔位的排放。

接著使用MATLAB程式語法來建立簡單的LSTM網路。雖然這個初始的網路的組成僅有一個LSTM層、一個整流線性單位函式（rectified linear unit；ReLU）層、一個全連接（fully connected；FC）層、一個回歸輸出，它的表現卻意料之外的好。

不過，我們猜想應可再透過增加更多網路的層數來提升精準度，并小心注意不要讓模型網路規模膨脹到可能造成過度擬合（overfitting），或者占據太多ECU記憶體。

接下來，更新MATLAB程式來增加神經網路層數，并且進行幾種模型網路的配置探索。由于網路模型尺寸較小，最適網路配置和架構的選擇是由人工來進行。采用試誤法（trial-and-error method）可以利用系統的物理資產。舉例來說，對于具有高度非線性的系統，通常會選擇多重ReLU層，而對于熱系統，多重LSTM層可能更為適合。

我們選擇一個包含單一個LSTM層、三個ReLU層、三個FC層，以及一個回歸輸出層的網路，此版本的LSTM網路針對NO_X等級預測可以達到85-90%的精確度，相較之下，使用查找表時則僅有60-70%的精確度（圖1）。

圖1 : 從真實的引擎量測到的NOX排放量（藍色）和以LSTM網路建構的NOX排放模型（橘色）。

將模型并入系統層級模擬

當有了訓練好的LSTM網路，我們讓其他雷諾的團隊也可以使用這個模型來進行他們的Simulink模擬。其中一個團隊將網路合并到模型，把網路內的從引擎輸出（engine-out）NO_X層級作為后處理系統的輸入。此團隊接著執行模擬來衡量后處理系統在各種引擎操作點的NO_X轉換效率，透過將LSTMs導入系統模擬，該團隊因此可以獲得很難透過物理（physical）或經驗（empirical）模型取得的資訊。雷諾團隊也在模擬時使用LSTM神經網路來評估車上診斷（onboard diagnostics；OBD）系統的表現，以及估算新駕駛循環下的引擎排放量。

圖2 : 從利用LSTM網路模型來預測NOX排放等級的成功經驗衍伸，可從LSTM網路產生C程式碼為概念驗證工具。 (source:INDUSTR.com)

后續的深度學習專案計畫

此項利用LSTM網路模型來預測NO_X排放等級的成功經驗，在雷諾內部已催生了好幾個后續的專案計畫。其中一項計畫，使用MathWorks的顧問服務建立了一套工具，可從LSTM網路產生C程式碼來作為概念驗證展示，產生的程式碼能夠將NO_X排放的估計器部署至ECU上，作為OBD系統模擬平臺的一部分，這個LSTM可依照排放標準的規范，提供即時、全天候的不良或故障狀況偵測。

在進行ECUs的嵌入時，深度神經網路（特別是深度LSTMs）是其中的一大挑戰。我們的ECU并不是非常強大的電腦，意味著需要在LSTM復雜性（這也代表預測的品質）與ECU執行運算的能力之間進行取舍。以我們的應用來說，網路尺寸相對較小，如果需要的話，可以很容易地被整合進卡爾曼濾波器（Kalman filters）。

最近，我們已經再擴大使用透過MATLAB進行的深度學習，致力使用強化學習來開發雷諾引擎的航行路徑控制策略。

（本文由鈦思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任職于Renault汽車公司）