英特爾憑藉高性能CPU和先進的半導體工藝被大部分人所熟知，不過如今火熱的AI正讓越來越多的人意識到軟件以及軟硬更好結合的重要性。作為一家以硬件見長的公司，英特爾在8個月前發表聲明表示，對於全新硬件架構的每一個數量級的性能提升潛力，軟件能帶來超過兩個數量級的性能提升。這是一個非常值得關注的聲明和轉變。

在本週的2019英特爾開源技術峰會（OSTS） 上，英特爾公司高級副總裁兼架構、圖形與軟件部門總經理Raja Koduri第一次對投資者談論英特爾的軟件，這也被他成為英特爾另一個不為人知的秘密。

英特爾公司高級副總裁兼架構、圖形與軟件部門總經理Raja Koduri

英特爾OSTS源自2004年英特爾內部的一次會議，當時只有幾十個英特爾的工程師參加，2019年的峰會的規模擴大到了500人，也是最開放的一屆，阿里、亞馬遜、谷歌、華為、微軟、京東、AT&T等巨頭的高管都參與其中。

Raja Koduri是如何談論英特爾另一個不為人知的秘密？

AI時代軟硬件結合為何更加重要？

在談論英特爾的軟件之前，我們先聊聊軟硬件的結合。回顧過去35年到40年的計算發展歷程，計算力在以驚人的速度增長。這期間我們也經歷了一些基礎性的變化，比如萬物數字化、萬物互聯、萬物移動化、萬物雲化。並且，每一個基礎性轉變背後也伴隨著軟硬件結合的變遷。

互聯網時代PC作為主要的硬件載體，其軟硬件結合的典型就是x86架構和Windows系統。從PC時代的10億用戶增長到移動互聯網時代的100億用戶，移動時代的主導又變為了Arm架構和iOS及Android操作系統的結合，當然Linux系統和x86平台也佔據一部分市場。

如今，大家在談論規模將達1000億台設備的下一個時代，很難預測什麼樣的架構和軟件的結合會成為主流。但可以明確的是在軟硬件的結合中，軟件正在發揮越來越重要的價值。

這其中很重要的原因就是摩爾定律的放緩，靠工藝製程帶來硬件性能的大幅提升正變得越來越難。但前線的架構師可能會說：“我們需要更多的晶體管。如果不作出改變，我們是無法使所有工作負載都快速運行的。”

Raja Koduri在2019英特爾開源技術峰會上的演講中指出，計算速度的增加想有指數級的增長，那就必須要硬件和軟件來共同創新。軟件社區和硬件社區相互交流，並真正去思考彼此的問題，這比以往任何時候都更重要。

強調AI時代軟件將發揮更重要作用的不止是英特爾。Arm機器學習部門商業與市場副總裁Dennis Laudick去年11月指出：“軟件才是AI處理器中更關鍵的部分，軟件生態系統是Arm成功的關鍵所在，這也是Arm過去20年已經做的事情。近兩年的AI熱潮會對軟件行業帶來革命性的變化，因為傳統的軟件在概率判斷，評估猜測方面有一些局限性，AI對概率判斷的準確度和猜測的準確度上有其特點， AI將讓軟件進入2.0的時代。”

CEVA營銷副總裁Moshe Sheier去年也表示，AI還處於一個早期的階段，現在各家的AI處理器IP在SoC中所佔的面積都不小，而人工智能還在不斷演進中，未來算法和設計的改進會持續帶來AI技術的更新。如何延長產品的周期更好地適應OEM廠商不斷變化的需求非常關鍵，這時軟件的作用尤為明顯，能夠通過軟硬結合不斷適應技術變化和提高效率的AI方案對產品落地非常重要。

軟件到底能帶來多大幅度提升？

那麼軟件到底能帶來多大程度的提升？Raja Koduri舉了三個例子。第一個例子是從JDK8到JDK9， Java生態系統中實現了巨大的性能提升。英特爾的工程師們為客戶和開發者將現有硬件的性能提升了6倍。如果從硬件的角度來看，這相當於是在一次軟件發布中就實現了數代的硬件性能提升。

第二個例子是內存方面，原始硬件本身極具局限性，但如果將其與英特爾的內存層級架構相結合，再加上他們在軟件棧方面的領先技術，就能將工作負載的性能提升8倍。同樣，這也相當於數代的硬件性能提升。

第三個例子是深度學習方面，利用DL Boost等架構擴展，在過去12至18個月釋放了英特爾CPU潛能。從Skylake升級至Cascade Lake，相比上一代硬件提速28倍。

Arm同樣憑藉軟件帶來了非常顯著的提升，Dennis Laudick表示：“Arm的AI處理器是一個異構的系統，其中包含CPU、GPU、NPU等，但作為IP核想要實現更好的可配置性軟件體系非常重要。在硬件之上有我們特別優化的Compute Library，它會把底層的硬件和驅動進行充分優化，根據算子的不同需求驅動硬件，可以提升幾倍到十幾倍的效率。 ”

硬件霸主的軟件秘密

Raja Koduri演講時表示：“在為這個演講做準備時，我與英特爾負責軟件的主管們進行了座談，聽取他們對我本次演講內容的反饋。有趣的是，他們的第一反應是，這好像是我們第一次對投資者談論軟件，其中有些人已經在英特爾工作了25年以上。”

他也認為，軟件給英特爾帶來的獨特競爭優勢是一個不為人知的秘密。

“英特爾產品帶來的軟硬件結合的差異化優勢常常被低估。其他公司的產品性能哪怕僅提高了10%，也會被拿來大做文章，而我們在每個核心的性能提高了10倍，網絡性能提高了2倍，Java提高了2倍。” Raja Koduri表示。

一個值得關注的數字是，硬件巨頭英特爾擁有超過15000名軟件工程師，並且是多個軟件開源社區最重要的貢獻者。據介紹，英特爾是Linux Kernel的最大貢獻者，每年會修改或編寫50萬行代碼，優化了超過100個操作系統；也是Chromium OS的三大貢獻者之一，在軟件方面擁有超過10000個高度定制化客戶部署；還是OpenStack的十大貢獻者之一。

另外，英特爾擁有一個超過1200萬開發者的生態系統。Raja Koduri說：“英特爾的軟件生態規模很大，橫跨開發者、基礎設施客戶、網絡、操作系統開發者、英特爾開發的工具和SDK，影響了大量標準組織，高度定制化客戶，以及我們在物聯網和邊緣計算上的佈局等，這簡直不可思議。”

英特爾正在從晶體管為中心到數據為中心轉型，也在去年提出了英特爾的六大技術支柱——製程、架構、內存、互連、安全、軟件。這六個技術支柱環環嵌套，通過超異構計算，英特爾可以集成不同架構、不同製程、3D封裝、互連和OneAPI等技術創新，能夠為客戶提供更多的靈活性和更快的產品上市時間，全方位推動計算創新發展。

當然，這也是英特爾未來創新的驅動力。

英特爾GPU以及AI的軟件策略

Raja Koduri表示：“去年我們公佈了自己的願景，未來將是標量、矢量、矩陣和空間的多種架構組合，部署在CPU、GPU、FPGA和加速器套件之中。我們正在如期執行這一計劃。我們擁有多個架構，多個內存層級架構和互連層級架構。架構路線圖已經準備好，這樣就可以在硬件產品路線圖中覆蓋到GPU和AI開發者。 ”

從架構與開發者生態與競爭對手對比。英偉達的開發者生態系統規模適中，但是僅圍繞著一個單一架構。並且他們沒有內存策略，看起來英偉達正在嘗試建立互聯策略，英偉達在今年3月宣布以69億美元收購Mellanox。

AMD有兩個架構，但也沒有內存或互連策略，而且AMD的開發者生態系統的規模也不大。

Raja Koduri指出，中間這個圓圈裡的策略和潛力只能讓你走這麼遠。他引用了Murthy的話，真正的挑戰是如何將我們的軟件策略從一個架構擴展到四個架構。

為此，英特爾給自己設定了三個目標。第一個目標是簡便和可擴展的，英特爾希望他們的軟件讓開發者易於使用，而且不僅可以擴展到所有的架構，更可以擴展到所有的操作系統。第二個目標是開放性，致力於向所有人開放標準。第三個目標是必須提供統一的開發體驗，有時跟英特爾合作像是在與十家不同的公司合作，他們要解決這個問題。

為了實現這些目標，英特爾已經投入了一年多，在內部稱為oneAPI項目。Raja Koduri高興地宣布，oneAPI項目將在2019年第四季度之前如期交付給開發者。

英特爾在開源技術峰會上還公佈了一系列最新進展，包括適應英特爾架構的核心基礎設施現代化、為開發者和合作夥伴提升英特爾基於Linux的解決方案、在汽車和工業自動化領域實現新應用。

PC時代和移動互聯網時代的主流架構無疑是x86和Arm，無論是英特爾和Arm都公開地表示軟件是他們獨特的競爭優勢。對於英特爾這家以硬件著稱的公司，公開地談論自己在軟件領域的實力確實也讓我們能夠更清楚地看到他們在摩爾定律放緩之下能夠繼續保持競爭力和創新的關鍵所在。相信也有不少人此前沒有意識到英特爾在軟件和開發者生態方面的實力。

硬件架構的完善以及軟件oneAPI能力，決定著英特爾在AI和數據時代競爭力。