使用擅長(zhǎng)學(xué)習(xí)、處理、分類(lèi)序列資料的長(zhǎng)短期記憶（LSTM）網(wǎng)路，建立輸出從車(chē)輛引擎所產(chǎn)生的氮氧化物（NOX）的模型，藉由使用MATLAB和深度學(xué)習(xí)工具箱建立LSTM，並訓(xùn)練出預(yù)測(cè)NOX排放的模型網(wǎng)路，讓新一代零排放車(chē)輛的開(kāi)發(fā)技術(shù)能達(dá)到高度準(zhǔn)確率。
雷諾（Renault）汽車(chē)現(xiàn)正積極地開(kāi)發(fā)新一代零排放車(chē)輛（zero-emissions vehicles；ZEVs）的技術(shù)，同時(shí)，也在努力希望使內(nèi)燃機(jī)（internal combustion engine；ICE）車(chē)輛更乾淨(jìng)、更有效率。減少有害物質(zhì)的排放是其中一項(xiàng)重點(diǎn)項(xiàng)目。內(nèi)燃機(jī)會(huì)產(chǎn)生氮氧化物（oxides of nitrogen；NOX），導(dǎo)致了煙霧、酸雨、溫室氣體。為了降低NOX，需要精確地估計(jì)各種引擎操作點(diǎn)的排放–舉例來(lái)說(shuō)，各種扭力和引擎速度的組合。
在真實(shí)的引擎上進(jìn)行測(cè)試不但昂貴，而且通常很耗時(shí)。而傳統(tǒng)上，是透過(guò)查找表（lookup tables）或氧化（combustion）模型的計(jì)算來(lái)進(jìn)行NOX估計(jì)。
不過(guò)，這些方法有幾個(gè)缺點(diǎn)，例如查找表不夠精確，而氧化模型也會(huì)因?yàn)榉匠淌叫钄X取排放的動(dòng)態(tài)複雜性，使得要建立模型的難度特別高，導(dǎo)致NOX物理模型的高複雜度，因此很難用於完整的引擎操作範(fàn)圍；而且，這些模型無(wú)法在ECU上即時(shí)的執(zhí)行。
我們最近開(kāi)始使用長(zhǎng)短期記憶（long-short-term memory；LSTM）網(wǎng)路來(lái)建立從引擎輸出NOX的模型（直接從引擎排放，而不是從後處理（aftertreatment）系統(tǒng)）。
LSTM網(wǎng)路是一種擅長(zhǎng)學(xué)習(xí)、處理、分類(lèi)序列資料的神經(jīng)網(wǎng)路，LSTM建立起來(lái)比氧化模型容易許多。透過(guò)MATLAB，即使本身並不是深度學(xué)習(xí)的專(zhuān)家，也可以使用MATLAB和深度學(xué)習(xí)工具箱（Deep Learning Toolbox）建立，並訓(xùn)練出預(yù)測(cè)NOX排放的模型網(wǎng)路，準(zhǔn)確率幾乎高達(dá)90%。
LSTM網(wǎng)路模型的設(shè)計(jì)與訓(xùn)練
除了執(zhí)行真實(shí)引擎的測(cè)試，並且取得了訓(xùn)練資料。在測(cè)試進(jìn)行期間，引擎會(huì)經(jīng)過(guò)常見(jiàn)的駕駛型態(tài)循環(huán)，包含全球調(diào)和輕型車(chē)輛測(cè)試循環(huán)（Worldwide harmonized Light vehicles Test Cycles；WLTC）和歐盟現(xiàn)行之歐洲駕駛循環(huán)（New European Driving Cycle；NEDC），還有實(shí)際駕駛排放（Real Driving Emissions；RDE）測(cè)試。這些擷取下來(lái)的資料將做為模型網(wǎng)路的輸入值，包含引擎扭力、引擎速度、冷卻劑溫度，以及檔位的排放。
接著使用MATLAB程式語(yǔ)法來(lái)建立簡(jiǎn)單的LSTM網(wǎng)路。雖然這個(gè)初始的網(wǎng)路的組成僅有一個(gè)LSTM層、一個(gè)整流線性單位函式（rectified linear unit；ReLU）層、一個(gè)全連接（fully connected；FC）層、一個(gè)迴歸輸出，它的表現(xiàn)卻意料之外的好。
不過(guò)，我們猜想應(yīng)可再透過(guò)增加更多網(wǎng)路的層數(shù)來(lái)提升精準(zhǔn)度，並小心注意不要讓模型網(wǎng)路規(guī)模膨脹到可能造成過(guò)度擬合（overfitting），或者佔(zhàn)據(jù)太多ECU記憶體。
接下來(lái)，更新MATLAB程式來(lái)增加神經(jīng)網(wǎng)路層數(shù)，並且進(jìn)行幾種模型網(wǎng)路的配置探索。由於網(wǎng)路模型尺寸較小，最適網(wǎng)路配置和架構(gòu)的選擇是由人工來(lái)進(jìn)行。採(cǎi)用試誤法（trial-and-error method）可以利用系統(tǒng)的物理資產(chǎn)。舉例來(lái)說(shuō)，對(duì)於具有高度非線性的系統(tǒng)，通常會(huì)選擇多重ReLU層，而對(duì)於熱系統(tǒng)，多重LSTM層可能更為適合。
我們選擇一個(gè)包含單一個(gè)LSTM層、三個(gè)ReLU層、三個(gè)FC層，以及一個(gè)迴歸輸出層的網(wǎng)路，此版本的LSTM網(wǎng)路針對(duì)NOX等級(jí)預(yù)測(cè)可以達(dá)到85-90%的精確度，相較之下，使用查找表時(shí)則僅有60-70%的精確度（圖1）。
| 圖1 : 從真實(shí)的引擎量測(cè)到的NOX排放量（藍(lán)色）和以LSTM網(wǎng)路建構(gòu)的NOX排放模型（橘色）。 |
|
將模型併入系統(tǒng)層級(jí)模擬
當(dāng)有了訓(xùn)練好的LSTM網(wǎng)路，我們讓其他雷諾的團(tuán)隊(duì)也可以使用這個(gè)模型來(lái)進(jìn)行他們的Simulink模擬。其中一個(gè)團(tuán)隊(duì)將網(wǎng)路合併到模型，把網(wǎng)路內(nèi)的從引擎輸出（engine-out）NOX層級(jí)作為後處理系統(tǒng)的輸入。此團(tuán)隊(duì)接著執(zhí)行模擬來(lái)衡量後處理系統(tǒng)在各種引擎操作點(diǎn)的NOX轉(zhuǎn)換效率，透過(guò)將LSTMs導(dǎo)入系統(tǒng)模擬，該團(tuán)隊(duì)因此可以獲得很難透過(guò)物理（physical）或經(jīng)驗(yàn)（empirical）模型取得的資訊。雷諾團(tuán)隊(duì)也在模擬時(shí)使用LSTM神經(jīng)網(wǎng)路來(lái)評(píng)估車(chē)上診斷（onboard diagnostics；OBD）系統(tǒng)的表現(xiàn)，以及估算新駕駛循環(huán)下的引擎排放量。
| 圖2 : 從利用LSTM網(wǎng)路模型來(lái)預(yù)測(cè)NOX排放等級(jí)的成功經(jīng)驗(yàn)衍伸，可從LSTM網(wǎng)路產(chǎn)生C程式碼為概念驗(yàn)證工具。(source:INDUSTR.com) |
|
後續(xù)的深度學(xué)習(xí)專(zhuān)案計(jì)畫(huà)
此項(xiàng)利用LSTM網(wǎng)路模型來(lái)預(yù)測(cè)NOX排放等級(jí)的成功經(jīng)驗(yàn)，在雷諾內(nèi)部已催生了好幾個(gè)後續(xù)的專(zhuān)案計(jì)畫(huà)。其中一項(xiàng)計(jì)畫(huà)，使用MathWorks的顧問(wèn)服務(wù)建立了一套工具，可從LSTM網(wǎng)路產(chǎn)生C程式碼來(lái)作為概念驗(yàn)證展示，產(chǎn)生的程式碼能夠?qū)OX排放的估計(jì)器部署至ECU上，作為OBD系統(tǒng)模擬平臺(tái)的一部分，這個(gè)LSTM可依照排放標(biāo)準(zhǔn)的規(guī)範(fàn)，提供即時(shí)、全天候的不良或故障狀況偵測(cè)。
在進(jìn)行ECUs的嵌入時(shí)，深度神經(jīng)網(wǎng)路（特別是深度LSTMs）是其中的一大挑戰(zhàn)。我們的ECU並不是非常強(qiáng)大的電腦，意味著需要在LSTM複雜性（這也代表預(yù)測(cè)的品質(zhì)）與ECU執(zhí)行運(yùn)算的能力之間進(jìn)行取捨。以我們的應(yīng)用來(lái)說(shuō)，網(wǎng)路尺寸相對(duì)較小，如果需要的話，可以很容易地被整合進(jìn)卡爾曼濾波器（Kalman filters）。
最近，我們已經(jīng)再擴(kuò)大使用透過(guò)MATLAB進(jìn)行的深度學(xué)習(xí)，致力使用強(qiáng)化學(xué)習(xí)來(lái)開(kāi)發(fā)雷諾引擎的航行路徑控制策略。
（本文由鈦思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任職於Renault汽車(chē)公司）
