在AI軟件工具當中大量利用到AVX－512指令集，今天在CPU平臺上，英特爾的至強是唯一能夠支持AVX－512指令集的方案。專家表示，得益于這樣的指令集支持，無論是對標AMD EPYC的產品，還是英偉達的GPU解決方案，至強處理器在多種人工智能的負載上都能夠有優(yōu)秀的性能表現。

文︱朵啦

圖︱英特爾

伴隨數字化進程的發(fā)展，人工智能正在加速企業(yè)的業(yè)務增長、加強競爭優(yōu)勢。斯坦福大學的人工智能研究所根據2021年AI指數報告所做研究顯示，如今出現了全球化AI就業(yè)市場，企業(yè)對AI的投資猛增至近680億美元。就業(yè)人員與資金不斷涌入推助發(fā)展，人工智能和數據分析有可能成為未來10年起決定作用的工作負載。企業(yè)的網絡安全和數據保護也正面臨著前所未有的新挑戰(zhàn)，促進了數據安全逐步被納入合規(guī)市場，針對數據的安全建設也在另一更高維度促使企業(yè)方不斷關注。

以此為前提，科技領域正在探索通過技術手段讓數據“可用不可見”，以及使業(yè)務端發(fā)揮AI數據的價值。英特爾全新第三代至強可擴展處理器采用靈活架構，通過英特爾深度學習加速技術集成人工智能加速，并采用英特爾軟件防護擴展（Intel SGX），和密碼操作硬件加速，以領先的安全功能為數據和應用軟件代碼提供嚴密的保護，以滿足AI深入應用過程中行業(yè)監(jiān)管的需求。

從隱私計算說起AI應用的高安全需求

在行業(yè)中，2020年被稱作國內隱私計算元年。2020年前國內只有少數公司關注此賽道，而2019年下半年不少大數據公司被整頓，讓更多人意識到發(fā)揮數據價值和保護隱私數據之間的矛盾。隱私是信息安全中的機密性（confidentiality）在不同場景下的重定義；而研究隱私問題的密碼學和信息安全技術，或者稱之為“隱私計算”技術。從技術角度，隱私計算的范圍包含了聯邦學習、密碼學和隱私保護芯片（PPU）等領域。

由于金融領域的數據敏感性，聯邦學習技術受到金融行業(yè)的重視。國內金融行業(yè)在做AI應用的時候，迫切需要通過隱私保護技術加密的數據交換。搭載英特爾在AI業(yè)界開源的技術Analytics Zoo，中國銀聯實踐端到端數據交互網絡，并實施基于英特爾軟件防護擴展（SGX），進一步加強保護聯邦學習的整體方案。2020年，英特爾與平安科技就基于Ice Lake前期樣品進行深度合作，實現了基于英特爾SGX技術加持的云邊協同的隱私計算實踐方案。此外，在對醫(yī)療數據敏感的歐美，德國的電子醫(yī)保數據正在利用英特爾SGX，完成遠程數據加載。在SGX提供的可信任的執(zhí)行環(huán)境里，對德國2600萬醫(yī)保用戶可存儲信息以及進行隱私集合求交，以及滿足對數據進行聯合運算的需求。英特爾表示，可將聯邦學習看作金融行業(yè)保護資金實現的規(guī)章制度，SGX可看作金庫的庫房，這兩者可以相互配合、有機結合。

圖：Intel SGX助力聯邦學習

在AI應用中，英特爾關注到國際對隱私數據的保護趨勢，發(fā)現其中蘊藏著算力提升的需求。英特爾以內置AI加速的至強可擴展處理器為基礎，提供全面的XPU芯片平臺，以及全面優(yōu)化的軟件，包括OpenVINO、oneAPI、AnalyticsZoo、Tensor Flow等，通過軟件和硬件的綜合數據進行保護，在行業(yè)當中提供更高的數據保護等級。在隱私保護數據模型的計算過程當中，英特爾軟件防護擴展（Intel SGX）在云端幫助客戶進行數據安全加密。

多層次、多角度支持AI工作負載

人工智能應用持續(xù)爆發(fā)，產業(yè)將進一步迎來精耕細作的增長期，AI工作負載需要多層次、多角度的支持。英特爾市場營銷副總裁兼中國區(qū)數據中心銷售總經理陳葆立表示，和上一代相比，全新第三代英特爾至強可擴展處理器在主流數據中心工作上平均提升46％。在至強平臺上，Ice Lake架構側重于優(yōu)化AI和安全的負載。在數據安全方面，密碼加速技術和硬件密碼加速技術，英特爾SGX可以幫助客戶更好地保護數據。提供新的至強處理器，以幫助客戶更好進行人工智能推理運算，是英特爾的優(yōu)勢和主攻方向。

圖：Intel 第三代志強可擴展處理器

在至強平臺上，AI和安全是Ice Lake架構側重去優(yōu)化的負載。英特爾技術專家表示，英特爾通過對Ice Lake架構的改進，使性能比前一代Cascade Lake系統(tǒng)有74％的提升。英特爾相較于競爭對手AMD的產品，有高達25倍的性能領先優(yōu)勢。在AI軟件工具當中大量利用到AVX－512指令集，今天在CPU平臺上，英特爾的至強是唯一能夠支持AVX－512指令集的方案。專家表示，得益于這樣的指令集支持，無論是對標AMD EPYC的產品，還是英偉達的GPU解決方案，至強處理器在多種人工智能的負載上都能夠有優(yōu)秀的性能表現。

圖：新一代計算架構

性能提升兩、三倍，精度損失變化微小。在第三代至強可擴展處理器上，英特爾進一步支持了int8的低精度的推理技術。深度學習的圖像視頻應用通常用到int8的指令集加速，保證模型本身的準確性，英特爾技術專家表示，一般浮點數轉為int8類型，存在1％以下的性能損失。在實際的模型從FP32轉到int8過程當中，性能損失遠低于1％，甚至是0．01％，這些精度損失會隨著模型本身差異而有所變化，但是基本上都在1％以下，這種精度差異對客戶來講完全可以接受，隨之而來的是兩、三倍的性能提升。

除了處理器算力，還有加速方案助攻。在數據中心的AI任務當中，業(yè)務模型需要有其他類型的計算方案支持，來滿足更高要求的算力。英特爾提供ASIC的加速方案Habana，在至強處理器算力不能滿足AI任務需要的場景里，實現AI加速。

在優(yōu)化過程中，英特爾底層提供OneDNN，在低級的、更靠近硬件層優(yōu)化的算法工具庫來支撐上層框架，例如TensorFlow、PyTorch等。另外，英特爾提供FPGA層面的AI支持，滿足有更高能效需要的AI部署場景。

最充分的選擇，最合適的軟件方案

圖：AI應用案例

英特爾在提供AI算力過程當中，發(fā)現市場需要多重解決方案。在數據中心、端側等不同場合，即便是運行同樣的AI的任務，任務對性能、算力、功耗要求都有很大差異。在客戶的AI應用中，前端、后端和其他類型的計算任務有多處的耦合，例如AI計算訓練、推理，前端的數據可能來自于大數據平臺，后端的輸出可能是一個交互型的應用環(huán)境。至強平臺通用性的優(yōu)勢是能夠把一系列的運算任務整合起來，支持完整的流程�？v觀AI生態(tài)圈，神經網絡、自然語言處理以及深度學習進一步發(fā)展，相應的模型和框架也越來越多。英特爾發(fā)現客戶需要用不同的工具來滿足不同業(yè)務應用開發(fā)的需求，致力于提供完整生態(tài)鏈的支持模式。英特爾希望能讓更多的AI工作負載，更多的應用能夠運行在英特爾平臺上，支撐業(yè)界在AI上面的發(fā)展。

目前，英特爾人工智能在軟硬件上協同創(chuàng)新、產業(yè)合作以及生態(tài)構建等方面均取得積極進展。在整體數據中心戰(zhàn)略方面，可以看出英特爾已不再是一個CPU公司。陳葆立表示，在過去數年，通過收購以及資源投入，英特爾在數據中心的產品越來越豐富，從CPU 到GPU、FPGA，從內存到SSD，從網卡到交換，到硅光——英特爾在該領域唯一一家能夠從CPU到GPU、從FPGA邁到ASIC的企業(yè)，產品線全面。這也順應了客戶對大型數據中心更高算力的需求，從而滿足生產的實際業(yè)務需求。