日前，NEC宣佈研發(fā)出提高辨識(shí)精準(zhǔn)度更為簡(jiǎn)易的「深度學(xué)習(xí)自動(dòng)優(yōu)化技術(shù)」。

針對(duì)各層類神經(jīng)網(wǎng)路自動(dòng)設(shè)定正規(guī)化的示意圖/ 因應(yīng)學(xué)習(xí)資料量變化的辨識(shí)錯(cuò)誤率走勢(shì)圖

以往進(jìn)行深度學(xué)習(xí)（Deep Learning）時(shí)，依據(jù)類神經(jīng)網(wǎng)路的構(gòu)造（註1）來(lái)調(diào)整學(xué)習(xí)方式相當(dāng)困難，所以無(wú)法在整個(gè)網(wǎng)路學(xué)習(xí)時(shí)達(dá)到最優(yōu)化， 因而無(wú)法充分發(fā)揮原本的辨識(shí)效能。本次NEC研發(fā)的技術(shù)，搭配類神經(jīng)網(wǎng)路學(xué)習(xí)的進(jìn)度，因應(yīng)其構(gòu)造自動(dòng)進(jìn)行優(yōu)化，能夠輕易達(dá)到比過(guò)去更高的辨識(shí)精準(zhǔn)度。

運(yùn)用本技術(shù)，在影像辨識(shí)及聲音辨識(shí)等運(yùn)用深度學(xué)習(xí)技術(shù)的各個(gè)領(lǐng)域，能夠進(jìn)一步提升辨識(shí)的精準(zhǔn)度。例如，提升人臉辨識(shí)與行為解析等影像監(jiān)控的辨識(shí)精準(zhǔn)度，在基礎(chǔ)設(shè)施等處進(jìn)行保養(yǎng)點(diǎn)檢時(shí)提升效率，更可望自動(dòng)檢測(cè)出故障、事故或?yàn)?zāi)害等情況。

近年來(lái)，深度學(xué)習(xí)已有飛躍性的進(jìn)展。以影像辨識(shí)、聲音辨識(shí)為始，廣泛運(yùn)用在不同領(lǐng)域上。所謂的深度學(xué)習(xí)，是運(yùn)用具備多層構(gòu)造的類神經(jīng)網(wǎng)路，讓電腦學(xué)習(xí)事先準(zhǔn)備好的資料，進(jìn)而提升辨識(shí)精準(zhǔn)度。然而，若電腦過(guò)度學(xué)習(xí)資料，則會(huì)出現(xiàn)「過(guò)度訓(xùn)練（註2）」的現(xiàn)象，也就是只有學(xué)習(xí)過(guò)的資料才有較高的辨識(shí)精準(zhǔn)度，辨識(shí)從未學(xué)習(xí)過(guò)的資料時(shí)精準(zhǔn)度就會(huì)下降。為了避免這種情況的發(fā)生，通常會(huì)使用「正規(guī)化（註3）」方式，來(lái)調(diào)整深度學(xué)習(xí)的過(guò)程。

類神經(jīng)網(wǎng)路的學(xué)習(xí)過(guò)程，會(huì)因應(yīng)結(jié)構(gòu)而產(chǎn)生複雜的變化，所以過(guò)去只能對(duì)整個(gè)類神經(jīng)網(wǎng)路進(jìn)行同樣的正規(guī)化方式。結(jié)果在類神經(jīng)網(wǎng)路各層之中，有些出現(xiàn)過(guò)度訓(xùn)練現(xiàn)象、有些則無(wú)法順利學(xué)習(xí)等問(wèn)題，因而難以充分發(fā)揮原有的辨識(shí)效能。此外，由於逐一手動(dòng)調(diào)整各層學(xué)習(xí)進(jìn)度極為困難，市面上對(duì)自動(dòng)化調(diào)整的需求呼聲也相當(dāng)高。

NEC本次研發(fā)的技術(shù)，是依據(jù)類神經(jīng)網(wǎng)路的結(jié)構(gòu)，預(yù)測(cè)每一層的學(xué)習(xí)進(jìn)度，並因應(yīng)各層學(xué)習(xí)進(jìn)度逐層自動(dòng)設(shè)定正規(guī)化。透過(guò)這樣的技術(shù)，能夠優(yōu)化整個(gè)類神經(jīng)網(wǎng)路的學(xué)習(xí)情況，與傳統(tǒng)作法相比，更能降低20%的辨識(shí)錯(cuò)誤率，辨識(shí)精準(zhǔn)度有所改善。

新技術(shù)的優(yōu)點(diǎn)

1. 依據(jù)類神經(jīng)網(wǎng)路的結(jié)構(gòu)，自動(dòng)優(yōu)化學(xué)習(xí)情況

依據(jù)類神經(jīng)網(wǎng)路的結(jié)構(gòu)，預(yù)測(cè)每一層的學(xué)習(xí)進(jìn)度，並因應(yīng)各層學(xué)習(xí)進(jìn)度逐層自動(dòng)設(shè)定正規(guī)化。透過(guò)這樣的技術(shù)，能夠優(yōu)化整個(gè)類神經(jīng)網(wǎng)路的學(xué)習(xí)情況，也解決了過(guò)去各層過(guò)度訓(xùn)練、無(wú)法順利學(xué)習(xí)的問(wèn)題。不僅如此，運(yùn)用本技術(shù)進(jìn)行辨識(shí)實(shí)驗(yàn)，在辨識(shí)手寫數(shù)字的影像資料時(shí)，降低了約20%的辨識(shí)錯(cuò)誤率，辨識(shí)精準(zhǔn)度有所改善。

2.計(jì)算量與過(guò)往相同，也能輕鬆達(dá)到高精準(zhǔn)度

在類神經(jīng)網(wǎng)路進(jìn)行深度學(xué)習(xí)之前，只須運(yùn)行本技術(shù)一次，即使學(xué)習(xí)的計(jì)算量與過(guò)往相同，也能輕鬆達(dá)到高精準(zhǔn)度。

NEC集團(tuán)致力於全球推廣「社會(huì)解決方案事業(yè)」，以提供安全．安心．效率．公平的社會(huì)價(jià)值，融合先進(jìn)的ICT技術(shù)與知識(shí)，實(shí)現(xiàn)更為明亮而豐裕、更具效率而精粹的社會(huì)。

（註1） 類神經(jīng)網(wǎng)路（Neural Network）：由人造神經(jīng)細(xì)胞（神經(jīng)元Neuron）組成的神經(jīng)網(wǎng)路。

（註2） 過(guò)度訓(xùn)練（Overfitting）：對(duì)資料進(jìn)行過(guò)度訓(xùn)練，因而在辨識(shí)從未學(xué)習(xí)過(guò)的資料時(shí)精準(zhǔn)度下降的現(xiàn)象。

（註3） 正規(guī)化（Regularization）：降低模型的複雜性，進(jìn)而避免過(guò)度訓(xùn)練的方法。