嵌入式視覺征服市場，在緊湊型設(shè)備上實現(xiàn)工業(yè)圖像處理

在工業(yè)圖像處理領(lǐng)域，嵌入式視覺，即在嵌入式系統(tǒng)中實現(xiàn)工業(yè)圖像處理已呈現(xiàn)出明顯的增長趨勢。對于嵌入式視覺而言，更有意義的做法是：將深度學(xué)習(xí) (Deep Learning) 等先進的人工智能技術(shù)整合到相應(yīng)的解決方案中。這樣做能讓識別率更加穩(wěn)定，從而滿足新應(yīng)用場景的需求。事實證明，將人工智能程序和基于規(guī)則的系統(tǒng)巧妙結(jié)合能發(fā)揮出巨大的優(yōu)勢。

嵌入式系統(tǒng)的市場蓬勃發(fā)展。究其原因，主要在于集成有相應(yīng)系統(tǒng)的移動設(shè)備正在迅速普及。移動設(shè)備的普及既影響消費品領(lǐng)域，也波及到了工業(yè)領(lǐng)域。很明顯，市場對功能更強大的移動電話、智能手機和平板電腦的需求大幅增長。制造商對此做出了反應(yīng)，開發(fā)出功能更強大的設(shè)備，并迅速將其推向市場。

工業(yè)應(yīng)用場景也從這一發(fā)展中受益匪淺，智能相機、移動視覺傳感器、SoM（模塊上的系統(tǒng)）和 SoC（芯片上的系統(tǒng)）等緊湊型設(shè)備在性能方面絲毫不遜色于消費品領(lǐng)域中的那些移動設(shè)備。然而，工業(yè)領(lǐng)域的要求與消費品領(lǐng)域的要求仍然有很大的不同：市場上的工業(yè)設(shè)備必須長期供應(yīng)，這就要求產(chǎn)品的生命周期也必須相應(yīng)地延長，至少要維持十年。而且它們還應(yīng)當(dāng)擁有高度的故障安全性，能應(yīng)對惡劣的工業(yè)條件。

嵌入式設(shè)備優(yōu)勢明顯

然而值得注意的是，在工業(yè)背景下，嵌入式設(shè)備的競爭對手往往是基于 PC 的固定式系統(tǒng)。但前者已憑借一系列優(yōu)勢脫穎而出：除了毫不遜色的強大性能，嵌入式設(shè)備占用面積更小，用電量更低，大大減少了廢熱排放。而且它們在市場上的價格比固定式系統(tǒng)低得多。最后，與工業(yè) PC 相比，嵌入式設(shè)備能夠更好地應(yīng)對惡劣的工業(yè)條件。有了這些優(yōu)點，市場對嵌入式設(shè)備的需求自然是水漲船高。

因此，如何在嵌入式設(shè)備上完成工業(yè)圖像處理（機器視覺）成為了迫在眉睫的重要課題。機器視覺系統(tǒng)，如 MVTec 公司的標準軟件 HALCON，早就被成功運用在常規(guī)的固定式工業(yè) PC 上，承擔(dān)起各種圖像處理任務(wù)。這種系統(tǒng)僅憑外部特征就能自動識別各種物體，準確度極高。在系統(tǒng)中，如照相機或三維傳感器等圖像采集設(shè)備將被放置在不同的位置，以記錄生產(chǎn)過程。在此過程中生成的數(shù)字圖像數(shù)據(jù)可以在集成式的機器視覺軟件中進行處理，并用于自動化工業(yè)價值鏈中的進一步應(yīng)用。除物體識別外，系統(tǒng)還能實現(xiàn)產(chǎn)品及工件的缺陷檢測和精確搬運等功能。

嵌入式視覺需要高性能的硬件

應(yīng)用在嵌入式領(lǐng)域的機器視覺被稱為嵌入式視覺。如前所述，大多數(shù)嵌入式設(shè)備已經(jīng)擁有了性能強大的 CPU 和 GPU，足以使強大的機器視覺功能發(fā)揮作用。那么此時，軟件方面的問題就變得尤為突出，因為圖像處理軟件應(yīng)當(dāng)與重要且常見的嵌入式平臺普遍兼容。例如 Arm® 處理器架構(gòu)就是重要且常見的嵌入式平臺之一，現(xiàn)在大多數(shù)智能手機和其他不少移動設(shè)備都內(nèi)置有該架構(gòu)。只有做到與之兼容，嵌入式設(shè)備才能擁有強大的圖像處理功能，否則這些功能將只能在固定式 PC 系統(tǒng)上發(fā)揮作用。

基于人工智能 (AI) 的技術(shù)在嵌入式視覺方面正變得越來越重要。在這些方法中，尤為重要的是深度學(xué)習(xí)法 (Deep Learning)，這種方法以神經(jīng)網(wǎng)絡(luò)（卷積神經(jīng)網(wǎng)絡(luò)，CNN）為基礎(chǔ)架構(gòu)而成。嵌入式系統(tǒng)之所以能做到性能不斷壯大、發(fā)展日新月異，人工智能技術(shù)正是其最重要的驅(qū)動力之一。深度學(xué)習(xí)的核心是一種綜合性的訓(xùn)練，需要對大量數(shù)字圖像數(shù)據(jù)進行分析評估。在訓(xùn)練過程中，深度學(xué)習(xí)算法學(xué)習(xí)的是那些典型的屬性，在這些典型屬性的基礎(chǔ)上，可以把待識別的對象明確地分配到特定類別中。這就實現(xiàn)了更穩(wěn)定的識別率，并大大簡化了機器視覺過程。此外，深度學(xué)習(xí)還能實現(xiàn)全新的應(yīng)用，而這種形式的應(yīng)用在以前看來是無法想象的。

深度學(xué)習(xí)加速器加快節(jié)奏

然而，像所有人工智能技術(shù)一樣，深度學(xué)習(xí)對計算性能有著極高的要求。為了實現(xiàn)高速算法，相應(yīng)的嵌入式系統(tǒng)需要性能非常強大的硬件。除了 CPU 和 GPU 之外，硬件中還需要有所謂的深度學(xué)習(xí)加速器。這些特殊模塊（例如布置在 SoM 上），可以顯著提高深度學(xué)習(xí)過程的速度。

深度學(xué)習(xí)加速器的優(yōu)勢是決定性的，這在對比 CPU 和 GPU 的功能時體現(xiàn)得尤為明顯：CPU 在處理進程時采用的是串行處理。而 GPU 則有超過 1000 個并行內(nèi)核，因此它可以對神經(jīng)網(wǎng)絡(luò)進行并行處理。這大大縮短了深度學(xué)習(xí)過程的時間，也就是所謂的“推理”時間。

專用的深度學(xué)習(xí)加速器除了對神經(jīng)網(wǎng)絡(luò)的并行處理外，還具有其他優(yōu)勢，正好符合嵌入式領(lǐng)域的需求：即，盡管性能相當(dāng)，但它們比 GPU 小得多，而且更節(jié)能。這意味著它們可以直接集成到緊湊的嵌入式設(shè)備（如智能相機）中。此外，它們通常比高性能 GPU 更便宜。

采用深度學(xué)習(xí)后的應(yīng)用性能飛躍

這些優(yōu)勢導(dǎo)致市場對深度學(xué)習(xí)加速器的需求急劇上升。因此，眾多制造商全力以赴，開發(fā)出了各種規(guī)格的系統(tǒng)并將其推向市場。這股市場熱潮不足為奇，因為正是有了這樣的加速器，才首次在嵌入式系統(tǒng)上實現(xiàn)了性能堪與中端 PC 相媲美的深度學(xué)習(xí)推理過程。也就是說，采用了深度學(xué)習(xí)的應(yīng)用在性能上的表現(xiàn)可謂是一飛沖天。不比不知道：若是采用在 CPU 上執(zhí)行圖像處理的這種傳統(tǒng)方式，嵌入式設(shè)備通常要比中端 PC 多花大約五到十倍的時間。

盡管深度學(xué)習(xí)在嵌入式視覺方面的優(yōu)勢是顯而易見的，但人工智能技術(shù)并不總是所有應(yīng)用場景的最佳選擇。深度學(xué)習(xí)固然非常適合分類、（像素精確的）物體識別和缺陷識別等經(jīng)典應(yīng)用領(lǐng)域，但在其他領(lǐng)域，這項技術(shù)很快就達到了它的極限。究其原因，主要是因為深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的設(shè)計本質(zhì)上存在黑盒問題 (Black Box)。人們無法窺得其內(nèi)部過程的奧秘，因此也難以理解它做出的種種行為。此外如前所述，深度學(xué)習(xí)需要非常高性能且專業(yè)的硬件平臺。然而，緊湊的工業(yè)級嵌入式設(shè)備并不總是擁有這些能力。最后，對于有些應(yīng)用場景來說，使用深度學(xué)習(xí)多少有點小題大做了。在這些情況下，在 CPU 上執(zhí)行圖像處理的傳統(tǒng)方法往往才是更為有效的解決方案。

將深度學(xué)習(xí)與傳統(tǒng)算法的系統(tǒng)巧妙結(jié)合

出于這些原因，對于嵌入式領(lǐng)域而言更有意義的做法是：將深度學(xué)習(xí)和基于規(guī)則的傳統(tǒng)機器視覺方法巧妙地結(jié)合起來，變?yōu)橐环N“混合”式的方法。后者可以彌補深度學(xué)習(xí)功能上的不足，為連續(xù)的端到端解決方案鋪平道路。例如，基于規(guī)則的方法可以使深度學(xué)習(xí)過程中的決策標準更加透明。畢竟對于某些行業(yè)而言，能夠完全理解做出具體決策的原因是至關(guān)重要的。而在基于規(guī)則的系統(tǒng)中，人們就可以有針對性地查看對象分類的具體決策標準。此外，這種混合式的方法也可以加快系統(tǒng)在進行圖像處理時的評估速度：當(dāng)集成在嵌入式設(shè)備中的深度學(xué)習(xí)加速器執(zhí)行推理時，CPU 壓力得到緩解，可以同時執(zhí)行其他基于規(guī)則的處理步驟（例如，圖像數(shù)據(jù)的預(yù)處理或后處理）。因此，基于規(guī)則的方法與深度學(xué)習(xí)可謂是天作之合，正好可以彌補深度學(xué)習(xí)的弱點。這樣一來，就可以在嵌入式視覺的應(yīng)用環(huán)境下取得更精確、更快速和更易理解的結(jié)果。

總結(jié)

在消費品領(lǐng)域不斷發(fā)展壯大的嵌入式系統(tǒng)讓工業(yè)應(yīng)用也受益匪淺。性能的提高意味著現(xiàn)在我們可以在嵌入式系統(tǒng)上解決更廣泛的機器視覺任務(wù)。當(dāng)這些解決方案將深度學(xué)習(xí)方法與基于規(guī)則的圖像處理算法巧妙地結(jié)合起來時，就能幫助用戶發(fā)揮出巨大的優(yōu)勢。通過這兩項技術(shù)合二為一所形成的“混合”式方法，可以構(gòu)建出一套非常平衡的嵌入式視覺系統(tǒng)，一方面能夠精確地充分利用硬件，另一方面又確保了整個過程是易于理解的。