0
作者 | 包永剛
編輯 | 王川
“現在聽到AI時代要來了，就像是聽到了‘狼來了’。”AI開發者小王對于AI普及的論調早已習以為常。
“AI產品開發不僅門檻高，還很難移植到不同產品中，AI何時才能普及？”
目前AI普及還有最后一塊絆腳石。
早在兩三年前，能夠給AI普及提供底層動力的端側AI芯片公司就意識到，鮮有公司能夠把自家“新鮮出爐”的AI芯片真正投入使用。
經過幾年的努力，AI已經變得越來越“聰明”，能夠讓攝像頭理解鏡頭捕捉到的畫面，讓麥克風理解用戶說話的內容，讓音箱能夠和用戶進行多輪自然對話。
但AI要廣泛落地，依然是一項艱深的工作。
由于用途和形態的不同，不同AI終端對性能、功耗、精度等各項指標需求各不相同。
開發者要想讓AI形成“戰斗力”，需要針對各個場景做單獨優化，這就很難快速復制。不僅讓開發者深陷開發泥潭，也讓AI在更廣闊的應用場景下陷入“有彈無槍”的窘境，難以做到真正普及。
而真正能夠推動AI在終端爆發的，是“一次開發，多處運行”的統一開發平臺。
統一開發平臺不僅能夠將AI開發者救出“泥潭”，還讓AI沖進了元宇宙。
AI起跑，先賽出頭「狼」
AI沒能在過去幾十年間被一遍又一遍喊AI來了，上演《狼來了》的故事，一個核心原因是技術還不夠成熟。
AI的第三次浪潮得益于深度學習技術的興起，隨著深度學習算法的演進，很快遇到了算力不足的挑戰。因此，想要推動AI的發展和普及，首先需要有足夠強大的AI芯片，先賽出有足夠硬實力的頭狼。
2017年前后，掀起了研發AI芯片的熱潮。
由于深度學習的算法還不夠成熟，加之應用場景的不明確，想要快速定義出一款合適的AI芯片面臨挑戰，特別是面向應用場景豐富的端側AI處理器。
場景和需求更加明確的智能手機擁有率先落地AI技術的先天優勢，將AI應用于拍照，給手機用上智能語音助手，不僅能提升用戶的使用體驗，還能給手機增加新的賣點，于是，手機芯片處理器公司間燃起了一場AI競速賽。
一時間，蘇黎世聯邦理工學院（ETH）的AI-Benchmark榜單成為了各大手機處理器廠商展現真正實力的陣地，上演著你方唱罷我方登場的激烈角逐。
歷經幾年的比拼，真正有實力的AI領導者留在了AI-Benchmark的顯眼位置。
查看AI-Benchmark的最新排行榜，雷峰網(公眾號：雷峰網)發現榜單排名前九的手機都搭載了高通的第一代驍龍8移動平臺。
第一代驍龍8平臺霸榜AI-Benchmark并不讓人意外，這款最新的旗艦移動平臺搭載的是高通最新的第七代AI引擎，推理速度是前代的4倍，能效提升70%。
其實，高通第六代AI引擎的AI性能已經高達26TOPS，遠超同級別水平，在端側AI處理器中屬于頂尖水平。當然，集成高通第七代AI引擎的第一代驍龍8能夠霸榜的關鍵不僅僅是高性能。
高通公司產品管理副總裁 Ziad Asghar在2022世界人工智能大會上說，“在既定功耗下完成更多的AI處理對邊緣側AI運行至關重要。從高通第六代AI引擎發展到高通第七代AI引擎，兩年時間內，我們在既定功耗下將AI能力提升了一倍以上，這正是AI在終端側發揮其能力的關鍵。”
霸榜AI-Benchmark，也是高通在AI領域耕耘十余年實力的體現。
經過幾年的快速迭代，AI邊緣芯片的性能已經足夠滿足應用需求，真正阻礙AI普及的其實是軟件。
要普及AI，先拯救泥潭中的開發者
“我們設計出的AI芯片，大部分客戶還沒有能力用起來。”這是多家AI芯片公司兩年前就遇到的困難，也是AI普及的難題所在。
沒有完整軟件棧，面對豐富多樣的應用場景，無論是AI硬件和軟件的提供者，還是AI應用的開發者，都面對著AI產品高門檻的難題，好不容易開發出一個應用，也很難部署到其他應用，開發者深陷泥潭。
“不同形態的AI終端產品，對AI性能、功耗、精度的需求大不相同。”Ziad Asghar說，“我們的解決方案需要支持從500毫瓦的性能水平擴展到15瓦特、甚至200瓦特的性能水平。不同形態產品所需的深度學習架構和算子也差異巨大，例如，面向移動領域需要使用生成模型，面向計算領域需要使用Transformer模型，面向汽車ADAS需要激光雷達模型。”
曠視科技聯合創始人、CTO 唐文斌也在2022世界人工智能大會期間表示，“現階段的AI，一個核心的挑戰在于應用場景碎片化導致算法多樣化。算法多樣化，一方面意味著需要規模化生產大量算法，另一方面需要考慮如何低成本生產每個算法。”
高通第七代AI引擎中的Hexagon處理器可以調整加速器和內存組件，滿足不同智能手機的需求。面向云端、汽車等對性能需求更高的場景，可以拼接多個Hexagon處理器滿足瓦級性能需求。
硬件的靈活，結合完整易用的軟件，才能真正解決AI的挑戰。
“AI芯片軟件棧的開發有兩個核心挑戰。”一位AI芯片行業資深從業者對雷峰網表示，“一方面，與設計一款新的CPU不同，AI芯片大都采用獨特的指令集和架構，沒有可以借鑒的編譯器等軟件。另一方面，AI的算法還在不斷演進，軟件想要適配難度也更大。”
誰能率先推出完整統一的AI軟件棧，就能率先把AI開發者救出泥潭。今年6月推出的高通AI軟件棧產品組合，實現了AI里程碑的跨越。
Ziad Asghar說：“完整的高通AI軟件棧產品組合無疑是一項巨大突破，它將推動OEM廠商和開發者的AI開發。我們很高興借助這一全新產品組合進一步擴展高通公司的統一技術路線圖，并擴大在智能網聯邊緣的領先優勢。”
高通AI軟件棧支持包括TensorFlow、PyTorch和ONNX在內的不同AI框架與主流運行時（Runtimes），還有開發者庫與服務、系統軟件、工具和編譯器，能夠讓任何面向單一終端開發的AI特性輕松部署到其它終端。
比如，借助高通AI軟件棧，可以將一個原本面向手持設備的面部識別功能，遷移至汽車、PC或安防攝像頭等其他終端。
完整的AI軟件棧的構建難度十分巨大。從離硬件最近的編譯器和庫，到幫助開發者高效實現更多應用的Runtimes，再到上層的AI框架，每一層的軟件構建都考驗著提供商的能力以及資源的投入。
Ziad Asghar強調，“高通完整的AI軟件棧對我們的客戶而言是一個巨大的優勢，他們可以根據實際需求進行模型開發和優化。”
完整的AI軟件棧有兩個層面的重要價值，首先要實現對開發者的適用性，這就需要支持所有框架，AI runtimes，提供開發者庫、編譯器，支持所有操作系統；還有就是易用性。
AI軟件棧的易用也可以從兩個維度去看，一個提升性能和開發效率，另一個是“一次開發，隨處運行。”
高通AI軟件棧產品組合中的一系列工具套件，包括高通AI模型增效工具包（AIMET）、AI開發圖形用戶界面（GUI）、用于增強量化與優化的模型分析器以及神經網絡架構搜索（NAS）能夠幫助開發者更快開發出更能滿足實際應用需求的產品。
AI模型增效工具提供模型量化和壓縮等技術，能夠幫助開發者搭建體積更小、能效更高的模型。數據顯示，借助AIMET工具，將MobileNet-v2、ResNet-50和Deeplabv3模型從FP32轉化為INT8模型，精度損失不到1%，能效提升16倍。
另外，高通與谷歌合作的NAS也已經取得成果。Ziad Asghar介紹，“在移動端的自然語言處理方面，我們在不影響精度的情況下將時延降低了13%。在汽車的物體檢測用例中，我們將模型的時延改善了13%，同時精度提升1.3%，對于特定的汽車用例這是巨大的優勢。”
有了完整的AI軟件棧，AI開發者已經被從泥潭中拯救出一半，真正好用的AI軟件棧還能實現“一次開發，隨處運行”，將開發者完全從泥潭中拯救出來，向無處不在的AI目標邁進。
高通AI軟件棧支持諸多SDK，包括面向汽車ADAS解決方案的Snapdragon Ride SDK，面向物聯網的高通智能多媒體SDK，以及Snapdragon Spaces XR開發者平臺，這為建立統一SDK提供了基礎，也為實現開發者“一次開發，隨處運行”的夢想打下了基礎。
Ziad Asghar 指出，“要實現任何面向單一終端開發的AI特性都可在其他終端上輕松部署，包括編譯器、調度器、硬件調試，以及模型的準備和優化，軟件能充分利用硬件資源等都非常重要，我們需要確保這些組成部分能夠共同協作實現高效運行。”
AI已經成為元宇宙中的「基建」
高通AI軟件棧能夠讓一次開發，就可以應用到手機、物聯網、汽車、XR、移動PC等不同形態產品，這足以表明，終端和邊緣AI的時代真要來了。
作為AI業界的領導者，高通不僅要在現實世界中實現AI無處不在的目標，還要讓AI在元宇宙中也發揮作用。
高通公司總裁兼CEO安蒙在2022世界人工智能大會的演講中指出，元宇宙是互聯網的未來，即空間互聯網。元宇宙需要學習和適應不斷變化的環境及用戶偏好，而AI對于塑造用戶體驗至關重要。
元宇宙將視覺體驗從第三人稱平面升級到第一人稱3D視角，讓人們獲得更豐富的信息，并且擴寬了交互的邊界，提供了觸覺等新的交互方式。
例如，元宇宙中需要具備對手部、眼球和位置的追蹤，以及情境理解和感知等功能。為了提高用戶虛擬化身的精確度，提升用戶本人和其他參與者的體驗，AI將應用于掃描信息和圖像的分析，從而打造高度逼真的虛擬化身。
另外，AI還將推動感知算法、3D渲染和重建技術的發展，以構建令人驚嘆的逼真環境。
顯然，元宇宙將產生海量數據，無法所有都在云端處理，這就需要AI處理拓展至邊緣側，情境豐富的數據在邊緣側產生，分布式智能應用應運而生。將5G與邊緣AI的完美結合，能夠支持邊緣側產生的情境豐富的數據近乎實時地分享給其它終端和云端，為元宇宙中的全新應用、服務、環境和體驗提供支撐。
端側AI也有顯著的優勢，包括安全性、保護隱私，能有與邊緣和云端的AI，共同給使用者創造元宇宙的全新體驗。
第三次的AI浪潮下，AI硬件的完備以及完整AI軟件棧的推出，AI開發者已經具備“一次開發，隨處運行”的基礎，在可以預見的未來，AI將迅速在XR、PC、汽車等領域快速普及，讓現有的產品擁有全新的體驗。
有觀點認為，2022年人工智能帶動行業應用綜合解決方案服務的市場規模將達到2萬億。信息技術研究和分析的公司Gartner一份報告指出，5G是推動邊緣計算發展的重要原因之一。
作為AI和5G領導者的高通，正在將AI和5G作為元宇宙的基建，為我們打造一個更具科技感的未來，創造無限可能。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
