最新訊息
WPG AI Box，加速Edge AI應用開發
人工智能Artificial intelligence (AI) 正在從一個概念走向各行各業，實現不同應用環境的實際落地。在這個過程中，將數據處理與分析移至邊緣(Edge)在距離數據産生更近的地方完成部分運算 (Edge AI)，將有助于加快系統響應速度，用于處理能力更敏捷、延遲更低、安全性更好的各種AI應用解决方案中。
WPG 大聯大控股是英特爾物聯網解决方案聚合商，爲亞洲及大中華地區的IT系統整合商以及OT系統整合商提供服務，結合ODM/OEM/ISV整合聯網解决方案。爲了幫助合作夥伴更有效、更快速地完成AI解决方案的開發與構建，WPG基于Intel AI Box設備以及合作夥伴的相關AI開發服務，提供了AI加速器工具套件等一系列先進的軟硬件服務與技術，加速Edge AI應用的開發。
其中，智能視覺以旺盛的市場需求和廣泛的應用場景受到用戶青睞。基于Edge AI的視覺應用分析解决方案已廣泛應用于智能城市、智能小區、智能交通、智能製造、智能零售等10多個領域。
構建性能卓越、應用場景廣泛的Edge AI視覺分析能力，離不開多種算法和高性能算力的有效結合。這不僅需要强大的硬件平臺來承載計算器視覺和推論所需的密集計算負載，還需要合適的開發工具和軟件框架來完成AI加速，進一步刺激生態系統，爲更多應用環境提供解决方案。WPG AI加速器工具套件包含:
WPG AI Box = Intel AI Box (硬件) + WPG AI Box Development Kit (軟件)
- Intel AI Box英特爾AI計算盒(硬件H/W)
英特爾在AI Box中加入了全新第11代英特爾酷睿TM處理器，以出色的基礎算力、圖形/媒體和AI加速能力，說明解决方案實現處理性能、可用性、穩定性和安全性等多方面飛躍。WPG硬件方面采用Intel 11代(Tiger Lake) 爲主的 AI Box，以出色的基礎算力、圖形/媒體和AI加速能力，實現處理性能、可用性、穩定性和安全性等多方面提升。目前WPG Intel AI Box的合作夥伴有Giada、Nexcom等等…
第11代Intel® CoreTM處理器提供具有整合式人工智能加速功能的高效能CPU/GPU運算，加上需要高速處理、計算機視覺和低延遲確定性運算的應用功能。它們在基于第三代10奈米制程技術的低功耗平臺中帶來效能與響應能力之間的平衡（與第8代Intel® CoreTM處理器*相比，單綫程效能提升高達23％，而多綫程效能則提升高達19％），同時提供了Intel® Iris® Xe顯示芯片、PCI Express 4.0與ThunderboltTM 4/USB4。
最多可達96個執行單元，其繪圖效能將達到第8 代Intel® CoreTM處理器*的2.95倍，雙視訊譯碼盒（可在每秒30影格的速度下，同時處理最多達40道1080p串流）可驅動最多達四部獨立的4K HDR顯示器或兩個8K SDR輸出。該平臺還同時透過CPU與整合式GPU，透過Intel® Deep Learning Boost功能提供人工智能。
特別是在加速人工智能與計算機視覺方面: Intel® Deep Learning Boost (Intel® DL Boost) 透過CPU上的全新向量神經網絡指令提升推論效能，該指令將三項指令合而爲一推論應用程序還可利用GPU上高達96EU 來執行8位整數算法
- WPG AI Box Development Kit開發套件 (軟件 S/W)
在軟件方面WPG提供AI Box Development Kit，從多個方面爲合作夥伴提供視覺處理、模型優化、AI 推論加速等多維度的軟件支持，加速産品開發、優化性能表現、縮短上市時間。WPG的AI Box Development Kit，建立在Docker Container之上，方便客戶可快速選擇、建立適當的産品。
我們將AI inference(推論)所需的全功能軟件reference code以container方式打包，我們的軟件包含了影像AI推論所需的必要功能，多channel影像輸入譯碼、影像前處理、AI推論、影像後處理、影像編碼，可將推論結果透過异質協議後傳到客戶端之環境，也可在local端建立dashboard實時呈現狀况，因此客戶可依需求修改必要之image而不用整個項目從0開始開發，大大縮短産品落地的時間。
WPG AI Box 使用OpenVINO toolkit，能够更有效支持從邊緣(Edge)到雲端(Cloud)的深度學習推論。一方面，該工具套件通過優化的傳統計算機視覺庫對方案的媒體性能提供了巨大的增强；另一方面，其包含了模型優化器和推論引擎兩個核心組件，其中，模型優化器能通過數據格式轉換等方法，使得 AI 算法模型在目標設備上實現更優執行能力；推論引擎則可針對不同硬件平臺 (CPU、GPU、VPU等) 實現异構部署，用戶一次開發，即可針對不同平臺獲得出色性能。
值得一提的是，OpenVINOTM工具套件還可借助 Open Model Zoo 提供的百多個經過預先訓練，且優化過的模型和範例 (涵蓋物體檢測、物體識別、行爲檢測、圖像處理等一系列常見且實用的 AI 模型)，幫助合作夥伴加快邊緣AI視覺分析應用開發。
Reference
- 數據源：Intel 第十一代智能英特爾®酷睿TM處理器
https://www.intel.cn/content/www/cn/zh/products/docs/processors/core/11th-gen-core-enhanced-for-iot-brief.html
- Docker: https://www.docker.com/
Docker是一種軟件平臺，可讓您快速地建立、測試和部署應用程序。Docker將軟件封裝到名爲容器(Container)的標準化單位，其中包含鏈接庫、系統工具、程序代碼和運行時間等執行軟件所需的所有項目。使用 Docker，您可以將應用程序快速地部署到各種環境幷加以擴展。
- 圖3來源: https://www.intel.cn/content/www/cn/zh/products/platforms/details/tiger-lake-up3.html?elq_cid=4538983_ts1655082053912&erpm_id=7434619_ts1655082053912
- Intel OpenVINOTM: https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/overview.html