2018年4月，臺北 –人工智能(Artificial Intelligence, AI)無疑是近一兩年來科技產業內最熱門的話題，除了科技業巨頭無不大力投入之外，金融等服務業者對導入人工智能，也展現出強烈興趣。制造業對AI技術的關注，也不在話下，并且在相關關鍵技術逐漸到位的情況下，已開始有實際導入動作。

    倡導智能制造不遺余力的研華科技，除了為各行各業提供對應的先進解決方案外，在自家生產在線也開始逐步導入人工智能要素。比如機臺設備的狀態偵測/診斷、原物料/能源的使用狀況，乃至產品的品管流程等，均已逐步導入人工智能。安謀(Arm)的硅智財(IP)與SoC及賽靈思(Xilinx)的現場可編程門陣列(FPGA)技術，則是研華推動生產線AI化的兩大得力幫手。

    研華IoT.SENSE采訪研華技術長楊瑞祥與總廠長林東杰，探討研華在AI、IoT、智能制造等創新浪潮下的解決對策，以下為專訪摘要：

AI進化速度驚人 商業應用價值可觀

    研華科技技術長楊瑞祥表示，人工智能在學術研究領域并非新題目，近兩三年來之所以引發社會大眾與各行各業的廣泛矚目，主要原因在于其進化速度實在太過驚人，并已能創造出龐大的商業價值，不再只是個學術研究的題目。

    除了針對特殊領域外，AI技術也在追求更高的泛用性。Deepmind最新的棋類程序已經把Go(圍棋)拿掉，稱為Alpha。因為該程序也懂得下日本將棋等其他棋類，并且接連打敗其他世界頂尖的專用棋類程序。這無疑是人工智能泛用性發展的一個重要里程碑。

    在快速演化與蘊藏龐大商業價值的情況下，人工智能成為當前最受矚目的科技議題，其實不令人意外。但討論歸討論，如何在各行各業導入人工智能，實現產業的智能化，還是有很多細節問題要克服。

    人工智能增添智能制造動能

    以制造業來說，不管最終制造的產品為何，制造業總是脫離不了「人、機、料、法」這四個元素。人是指員工，機則泛指各種工具機臺，料是指各種原物料及能源，法則是制程方法。自工業革命以來，不管制造業的產品如何演變，都脫離不了這四個元素。如何最優化地管理好這四個元素，則是制造業者每天都要面對的課題。

    楊瑞祥分析，導入人工智能，最重要的四個KPI，就是要展現在人工料法的優化與改善上。以人來說，如何將老師傅的經驗變成可量化的參數，進而把人的經驗復制、擴散，就是導入AI的一個重要目標。

    不過，要實現上述四大優化，最重要的還是業者對AI的理解程度，以及所搜集到的數據集質量好壞。首先，制造業者必須要對AI有正確的認識，知道AI適合用來處理的問題為何，應用上又有何限制。其次，AI推論模型的訓練成果，除了模型本身的設計外，訓練數據的質量也很重要。如果用質量有問題的數據來訓練模型，AI推論的結果會跟現實狀況出現落差。

    最后，組織文化也得有所調整。在導入AI之前，生產在線的所有決策者都是人，依靠的是過往的經驗；導入AI后，握有最終決定權的雖然還是人，但不再只憑主觀的感覺或經驗來判斷，而是相對客觀的統計科學。人跟機器之間的信賴關系，需要一段時間提升。當然，AI本身也要持續進化，提升其預測的可靠度跟準確度。

    不同處理器各有所長 Arm架構適合推論運算

    楊瑞祥進一步解釋，人工智能可以分成模型訓練(Training)與推論(Inference)兩個部分。對生產現場應用來說，大多是采用已經訓練好的模型來執行各種推論應用，不會直接在邊緣進行模型訓練，因為模型訓練需要強大的運算效能跟大量數據集，較適合在數據中心或云端上進行。

    也因為推論對運算效能的需求較低，因此市面上有許多現成的處理器解決方案均能勝任，例如x86 CPU、GPU與基于Arm架構的SoC處理器，都可以執行相關運算任務，差別只在于成本、耗電量與散熱是否能滿足現場設備的規格限制。

    就技術角度而言，GPU是目前最適合用來進行模型訓練的處理器架構，以其執行模型推論任務當然也是綽綽有余，但GPU的成本、功耗跟隨之而來的散熱問題，卻是這類處理器在邊緣節點或現場設備應用上最大的限制。x86 CPU也有很強大的運算效能，但由于其架構設計的目標是滿足各種運算/控制應用，因此在執行AI算法時，效率不如GPU。

    楊瑞祥分析，這個問題跟AI的本質有關。AI通常只會用少數幾種指令，甚至單一指令來處理大量數據。例如深度學習跟卷積神經網絡(Convolutional Neural Network, CNN)，就數學的觀點來說就是矩陣運算，跟繪圖運算十分類似，因此GPU自然在這方面有先天優勢。x86 CPU則長于應對多指令流多數據流(Multiple Instruction, Multiple Data, MIMD)的運算情境，但遇到數據量太過龐大的情況時，就必須靠拉高頻率，或是以多核心及多線程架構來應對。

    采用精簡指令集(RISC)的Arm處理器，先天特性則介于GPU跟x86 CPU之間，加上近幾年Arm處理器的單一指令多數據流(Single Instruction, Multiple Data, SIMD)效能不斷強化，因此在執行AI運算時，更加得心應手。雖然目前要以Arm處理器來做模型訓練，在效率上還是不能跟GPU相比，但在執行推論任務時，卻是功耗、成本跟效能三者最平衡的方案。

    楊瑞祥透露，近幾年研華跟安謀密切合作，對安謀的產品發展藍圖也有一定的掌握。未來安謀將會針對AI運算需求推出更特化，效率更好的處理器核心跟周邊IP。這對于推動邊緣運算跟AI應用的普及，將會是很大的助力。研華也會跟安謀繼續保持密切合作的伙伴關系。

    邊緣運算進展神速 人工智能進駐制造現場

    緊抓人工料法四大要素，研華已經開始以Arm架構的SoC跟賽靈思的FPGA模塊為硬件基礎，在自家的生產在線逐漸導入人工智能。

    研華科技總廠長林東杰表示，目前研華在生產在線導入AI，已經進入用AI來協助判讀原始資料的階段。在工業物聯網的時代，不只個別生產在線的機臺會產生大量數據，廠區的基礎建設也會生成可觀的數據數據量。要用人工來判讀這些數據數據，分析其背后的意義，是沒有時效性且效益有限的做法。

    最后，由于研華所處的環境是典型的少量多樣、接單生產型態，跟一般消費性產品規格單一，大量生產有很大的不同，因此生產線的管理也相對復雜。這也是研華在導入人工智能時，希望能解決的痛點之一。

    林東杰表示，由于技術上的限制，目前還無法實現全面由系統判讀原始數據的終極目標，但這是研華未來努力的方向。

    更具體來說，未來研華的智能制造希望能實現三大目標：一、生產設備的現代化，希望所有的機臺設備都可以支持工業4.0；二、實現數據采集與軟件的介接，主要是將數據介接到制造執行系統(MES)、產品生命周期管理(PLM)等系統；三、將機器視覺與深度學習進一步擴大應用在品管環節中。

    針對第一點，林東杰不諱言，現有機臺的升級跟改造通常要價不低，特別是在需要原廠提供支持或授權，不能自己動手改的情況下。不過，在某些情況下，現有機臺透過外掛研華自家開發的數據采集模塊，就已經能獲得足夠的參數數據。

    至于在機器視覺跟深度學習的擴大導入上，目前研華是與中研院合作，開發出可檢測各種不同產品的機器視覺系統。事實上，研華使用光學自動檢測(AOI)已經有很長的一段時間，但現有的AOI系統僅適用于主板、電路板上細微組件的檢測，不適合用來檢測終端成品或更大的零部件。

    另一方面，研華產品少量多樣的特性，也使得目前市面上的機器視覺方案要應用在研華的產線，遇到相當大的困難。目前市面上的機器視覺方案多半是為了大量產品的檢測需求而設計，但研華的需求是能夠自動適應各種產品型態的機器視覺檢測方案。因此，研華決定與中研院合作，開發出客制化的深度學習算法，以便讓機器視覺系統能更聰明地適應不同型態的產品。

FPGA模塊實現機器視覺算法加速

    而機器視覺正是FPGA模塊大展身手的舞臺，也是研華FPGA應用發展團隊已經做出具體成果的項目之一。透過FPGA模塊，研華可以自由決定哪些影像辨識的環節需要用硬件加速，以提升視覺檢測系統的運作效能。

    楊瑞祥指出，除了CPU跟GPU外，使用專用的硬件加速芯片來提升AI系統效能，理論上也是一條可行的路。不過，目前AI算法還在快速演進中，如果采用ASIC，很可能會追不上技術發展的腳步。而FPGA則是效能與彈性的折衷，其運算單元的結構可以客制化，來滿足特定算法加速的需求，又因為具備可編程性，當算法需要修改或更新的時候，不用重新開一顆芯片，只要修改設計程序代碼即可。

    因此，現階段來看，FPGA是用來實現AI算法加速的理想方案之一，研華內部也已經有相當成熟的FPGA應用開發團隊，未來會繼續投資在這項技術上。

Advantech Embedded DTOS FPGA Capability