評價一款AI芯片最關鍵的指標是什么？ | CCF-GAIR 2020

AI快速發展的當下，一款更符合應用需求的AI芯片將是加速AI與新經濟社會各領域滲透融合、推動AI可持續發展的重要因素。目前，各種促進深度學習算法有效處理的新架構和新技術不斷推向市場。那評價一款AI芯片最關鍵的指標到底是什么？

AI芯片分類的維度

最近幾年AI的關注度都非常高，但今年熱度似乎在下降。有人認為，這其中很重要的原因是AI的落地不如預期。清華大學長聘教授，微納電子系副主任、微電子學研究所副所長，北京清微智能科技有限公司創始人尹首一對雷鋒網表示：“我覺得從一個事物發展的角度來看，早期肯定是最吸引眼球的階段，標志性事件也引發大家熱烈的討論，比如AlphaGo的人機大戰。時間久了大家會覺得習以為常，AI也會逐步進入一個平穩的發展階段。”

“對于AI當下的發展，不能簡單的說AI落地不如預期，典型產品已經成功進入大家的日常生活。當然，AI落地本身肯定會遇到各種困難和挑戰。“

這其中很關鍵的就是AI芯片，我們目前所說的AI芯片通常是指可以運行深度學習算法的芯片。由于CPU、GPU、FPGA的通用性，能夠運行深度學習算法，從廣義角度來看，它們屬于AI芯片的范疇。

從狹義角度看，AI芯片是指針對AI的算法、應用和場景定制優化的芯片。也就是說，AI芯片應該和CPU、GPU、FPGA區分開。除了CPU、GPU、FPGA、ASIC這個常用分類維度，還有一些其他維度。

如果從純數字架構的角度，可以將AI芯片分成時域計算架構、空域計算架構、可重構計算架構三種類型。具體而言，基于指令集驅動的芯片可歸為時域計算架構，比如CPU；而FPGA則是典型的空域計算架構；可重構架構時間域可以動態重構，從某個時間片的角度看其計算又是空間域并行，它是時域和空域的結合。

尹首一表示，從宏觀的角度看，可以把AI芯片架構分為這三類，當然從不同的側面也可以有不同的分類，比如混合精度、稀疏處理等特點也可以成為分類維度。

但無論哪一類AI芯片，最為重要的還是最有效處理深度學習算法，進而解決實際問題。不斷迭代的AI算法對AI芯片提出了越來越高的算力需求，因此，高峰值算力最先成為了AI芯片最受關注的指標。

AI芯片有哪些關鍵指標？

在一段時間內，峰值算力的提升成為了不少AI芯片公司工作的重點。但他們很快發現，馮·諾伊曼體系結構中，數據從存儲器串行提取并寫入到工作內存，導致相當長的延遲和能量開銷。存儲與計算之間的性能差異導致了內存墻問題，這也是阻礙AI芯片發展的關鍵。為此，打破內存墻的瓶頸，提升AI芯片的PPA（Performance，Power，Area）又成為了關注的焦點。

存算一體這個很早之前就被提出的技術成為了當下討論較多的解決方案，有兩種技術已經使用。一種把計算做到DRAM或SRAM存儲器中，把計算和存儲兩部分的物理距離拉的特別近，另一種是把存儲分散到計算的陣列中去。當前的另一個熱點是采用新興存儲器RRAM來做，利用RRAM交叉開關陣列，用電壓和電流的方式表達出矩陣相乘的結果。

尹首一認為，存算一體的思路是解決存儲墻必然的一個趨勢。但他也同時指出，內存墻的問題會長期存在。從AI芯片落地的角度看，內存墻問題是挑戰之一、但不是全部，因為不同場景下內存墻的表現和影響不太一樣，易用性是不可忽視的問題。

易用性既取決于芯片最初的定義和設計，后期的生態建設也非常關鍵。尹首一說：“芯片設計為了追求更高性能指標，通常設計決策會做一些折中，可能會犧牲掉一定的易用性。但反過來會發現，其實很多場景下，極致的性能并不一定會成為壓倒性的要素，還是需要開發的便捷性，或者說配套的工具鏈完備性，這是AI芯片在落地過程中主要會碰到的困難。”

即便是需要極致算力的場景，在實際應用中也會發現，AI芯片的峰值算力和有效算力之間可能會有很大差距，這是否意味著有效算力比峰值算力更有說服力？尹首一認為，簡單的用某個指標去評價一款AI芯片，可能有點以偏概全。很多應用場景關注的側面可能完全不一樣。

像自動駕駛應用，當下要解決從無到有的問題，因此會更加追求算力，功耗會放到第二位。而像家電的場景，成本則是一個很重要的因素。

“因此，功耗和性能如何去平衡，讓AI芯片有足夠的彈性去適應不同場景的需求，是AI芯片產品定義中比較重要的方面。”尹首一表示。

“可重構架構很大的優勢就在于可以在靈活性和能量效率之間尋找一個比較好的平衡。還需要說的是，靈活性是為了適應AI算法的演進，但芯片追求更好PPA指標的目標是不會變的。”

AI芯片未來演進的關鍵是什么？

探索功耗和性能的平衡，適應AI算法的演進兼具良好的易用性是當下以及未來AI芯片發展的關鍵。“隨著深度學習算法和人工智能應用的發展，AI芯片的問題肯定會不斷涌現出來，我們現在能做的是提供足夠靈活的方案，具備對未來算法一定程度上的可擴展性。”尹首一表示，“當然新的算法和需求可能會超出我們架構最初的一些設想，這需要架構不斷演進。另一方面，當一些場景的需求足夠大，就可以針對這些場景設計出更定制化的AI芯片。”

在這個過程中，很有利的一點是一些應用場景的需求已經基本穩定，當跨過這些場景所需的性能門檻后，AI芯片就未必需要去追求最新的算法。

這帶來的好處是，當算法相對穩定后，可以把里面的要素分析的更透徹，通過不斷迭代的軟硬件協同優化，使AI芯片在具體場景中的優勢更大程度上體現出來。

AI芯片的技術會跟隨著時代的發展不斷演進，只有技術和應用很好地結合才能更好地抓住AI的時代機遇。當前介紹人工智能和集成電路設計的書籍很多，但是針對人工智能芯片，長期以來缺乏一本系統性的專著。

尹首一教授借集成電路設計叢書編委會邀請的契機，撰寫并出版了《人工智能芯片設計》，總結了人工智能芯片的發展歷程以及當前面臨的挑戰和問題，分析了各項設計需求，介紹了人工智能芯片設計的新思路、新方法和新技術，展望了未來發展趨勢。

尹首一接受采訪時表示，“撰寫《人工智能芯片設計》最大的感受就是AI芯片的發展很快，比如三四年前探討混合精度計算還不多，現在芯片設計中已經普遍使用。因此我們的書也希望能夠很快再版，保持內容的不斷更新，希望和AI芯片一起不斷成長。”

關于當下新基建的時代機遇。尹首一認為，“從宏觀上看，新基建肯定利好AI芯片，但還要具體情況具體分析。如果你的芯片進展和新基建很吻合，那應該把握好這個轉瞬即逝的機遇。如果交集不多，那就練好內功，芯片的競爭最終比拼的還是技術和產品的綜合實力。

將于2020年8月7日-9日舉行的2020年全球人工智能與機器人大會（CCF-GAIR 2020）以AI新基建產業新機遇為主題，設置了針對新基建學術和產業的AI芯片專場、智能駕駛專場、AIoT專場、智慧城市專場、工業互聯網專場、企業服務專場、醫療科技專場、機器人前沿專場、聯邦學習與大數據隱私等15大專場。

2020年8月8日上午9:00-12:20，AI芯片專場的學術大咖和重要企業技術VP將共同探討如何用創新的指令集、架構及商業模式抓住新基建給AI芯片帶來的絕佳機遇。

目前，學術大咖已經確定。他是清華大學微納電子系，教授，系主任，清華大學微納加工平臺主任，北京市未來芯片技術高精尖創新中心副主任吳華強。2009年，他加入清華大學微電子學研究所，研究領域為新型半導體存儲器及基于新型器件的類腦計算。

清華大學微納電子系，教授，系主任，清華大學微納加工平臺主任，北京市未來芯片技術高精尖創新中心副主任吳華強

英特爾首席工程師， 人工智能技術中國首席架構師夏磊、地平線聯合創始人黃暢也已經確認出席CCF-GAIR 2020 AI芯片專場。

英特爾首席工程師， 人工智能技術中國首席架構師夏磊

更多的重磅嘉賓也即將揭曉。

最后有一個福利，我們將發放 30 張福利贈票（原價 3999 元/張）。添加小雷哥微信（ID：leiphonesz2018），獲取限量免費票。

詳情參見活動官網雷鋒網雷鋒網

相關文章：

首發 | 全新類別AI芯片量產，清微的可重構芯片將成市場主流？

專訪清微智能尹首一：理想的計算應該是架構隨著軟件變

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。