日前,NEC宣佈研發(fā)出提高辨識精準度更為簡易的「深度學習自動優(yōu)化技術」。
|
針對各層類神經網(wǎng)路自動設定正規(guī)化的示意圖/ 因應學習資料量變化的辨識錯誤率走勢圖 |
以往進行深度學習(Deep Learning)時,依據(jù)類神經網(wǎng)路的構造(註1)來調整學習方式相當困難,所以無法在整個網(wǎng)路學習時達到最優(yōu)化, 因而無法充分發(fā)揮原本的辨識效能。本次NEC研發(fā)的技術,搭配類神經網(wǎng)路學習的進度,因應其構造自動進行優(yōu)化,能夠輕易達到比過去更高的辨識精準度。
運用本技術,在影像辨識及聲音辨識等運用深度學習技術的各個領域,能夠進一步提升辨識的精準度。例如,提升人臉辨識與行為解析等影像監(jiān)控的辨識精準度,在基礎設施等處進行保養(yǎng)點檢時提升效率,更可望自動檢測出故障、事故或災害等情況。
近年來,深度學習已有飛躍性的進展。以影像辨識、聲音辨識為始,廣泛運用在不同領域上。所謂的深度學習,是運用具備多層構造的類神經網(wǎng)路,讓電腦學習事先準備好的資料,進而提升辨識精準度。然而,若電腦過度學習資料,則會出現(xiàn)「過度訓練(註2)」的現(xiàn)象,也就是只有學習過的資料才有較高的辨識精準度,辨識從未學習過的資料時精準度就會下降。為了避免這種情況的發(fā)生,通常會使用「正規(guī)化(註3)」方式,來調整深度學習的過程。
類神經網(wǎng)路的學習過程,會因應結構而產生複雜的變化,所以過去只能對整個類神經網(wǎng)路進行同樣的正規(guī)化方式。結果在類神經網(wǎng)路各層之中,有些出現(xiàn)過度訓練現(xiàn)象、有些則無法順利學習等問題,因而難以充分發(fā)揮原有的辨識效能。此外,由於逐一手動調整各層學習進度極為困難,市面上對自動化調整的需求呼聲也相當高。
NEC本次研發(fā)的技術,是依據(jù)類神經網(wǎng)路的結構,預測每一層的學習進度,並因應各層學習進度逐層自動設定正規(guī)化。透過這樣的技術,能夠優(yōu)化整個類神經網(wǎng)路的學習情況,與傳統(tǒng)作法相比,更能降低20%的辨識錯誤率,辨識精準度有所改善。
新技術的優(yōu)點
1. 依據(jù)類神經網(wǎng)路的結構,自動優(yōu)化學習情況
依據(jù)類神經網(wǎng)路的結構,預測每一層的學習進度,並因應各層學習進度逐層自動設定正規(guī)化。透過這樣的技術,能夠優(yōu)化整個類神經網(wǎng)路的學習情況,也解決了過去各層過度訓練、無法順利學習的問題。不僅如此,運用本技術進行辨識實驗,在辨識手寫數(shù)字的影像資料時,降低了約20%的辨識錯誤率,辨識精準度有所改善。
2.計算量與過往相同,也能輕鬆達到高精準度
在類神經網(wǎng)路進行深度學習之前,只須運行本技術一次,即使學習的計算量與過往相同,也能輕鬆達到高精準度。
NEC集團致力於全球推廣「社會解決方案事業(yè)」,以提供安全.安心.效率.公平的社會價值,融合先進的ICT技術與知識,實現(xiàn)更為明亮而豐裕、更具效率而精粹的社會。
(註1) 類神經網(wǎng)路(Neural Network):由人造神經細胞(神經元Neuron)組成的神經網(wǎng)路。
(註2) 過度訓練(Overfitting):對資料進行過度訓練,因而在辨識從未學習過的資料時精準度下降的現(xiàn)象。
(註3) 正規(guī)化(Regularization):降低模型的複雜性,進而避免過度訓練的方法。