0
制約AI安防芯片規?；瘧玫暮诵募夹g問題是什么？
這是不少芯片企業面對安防場景時，不斷向自己提出的疑問。在提高AI安防芯片性能，加強算力的同時，從業者們也逐漸發現，芯片中最為關鍵的其實并不是單純提升算力，如果不進行存儲優化，那么芯片實際提供的計算力會大大降低。
“要突破AI芯片的瓶頸，并不能只是簡單的增加計算算力，而是一定要把數據存儲管理做好。”探境科技創始人兼CEO魯勇說道。而對于存儲問題的解決，仍是一個探索中的新方向。
AI芯片對于傳統芯片帶來的挑戰，并不只是計算架構上的，更多是在存儲架構間的。
傳統的芯片采用的是馮·諾依曼架構，其核心架構中計算模塊和存儲單元是分離的。CPU和內存條并不集成在一起，只在CPU中設置了容量極小的高速緩存。
也就是說，CPU在執行命令時必須先從存儲單元中讀取數據。每一項任務，如果有十個步驟，那么CPU會依次進行十次讀取，執行，再讀取，再執行……這就造成了延時，以及大量功耗花費在數據讀取上。
這一問題也被稱為傳統芯片的“內存墻”問題。
而在AI 應用中，馮·諾伊曼“瓶頸”問題顯得愈發嚴重。AI依賴的算法是一個龐大和復雜的網絡，有很多參數要存儲，也需要完成大量的計算，這些計算中又會產生大量數據。在完成大量計算的過程中，一般芯片的設計思路是大量增加并行的運算單元，例如上千個卷積單元，需要調用的存儲資源也在增大。
不夸張地說，AI初創芯片公司雖然采用不同的路徑打造芯片，但事實上都在努力對這一問題予以解決。大部分針對 AI，尤其是加速神經網絡處理而提出的硬件架構創新，都是在與這個問題做斗爭。
而成立于2017年的AI芯片初創公司探境科技，也在這一路途上跋涉。不過不同的是，探境科技選擇另辟蹊徑，直接從存儲子系統的優化入手，解決“內存墻”問題。
而如何解決這一問題呢？
目前解決這一問題的方法有幾種，較為常見的方法是加大存儲帶寬，采用高帶寬的外部存儲，以及從算法入手，設計低比特權重的神經網絡。
除此之外，存算一體化也被看做是未來的發展方向，在實現上也分為不同的路徑。
其一是SSD中植入計算芯片或者邏輯計算單元，可以被叫做存內處理或者近數據計算，這其實是深度學習的一種應用場景，并非是AI芯片架構的創新。
另一種就是存儲和計算完全結合在一起，使用存儲的器件單元直接完成計算，比較適合神經網絡推理類應用。
而探境科技則另辟蹊徑，提出了完全不同的解決方案。
魯勇提到，并不認同目前存算一體的處理方式，主要原因是成本太高，并不符合市場需求。
“存算一體的處理方式，其實違反了芯片中的成本結構。芯片中，之所以設計和區分片上的緩存SRAM，及片外的DRAM，就是因為如果所有存儲都放入芯片內部，成本就大幅上升，會上升幾十倍到上百倍。”
因而，拋開將存儲全部放入芯片內部的方式，探境科技自創了SFA（Storage First Architecture，簡稱SFA），即存儲優先架構。
不同于常見的解決內存瓶頸的方法，SFA是“以存儲調度為核心”的計算架構，數據在存儲之間的搬移過程之中就完成了計算，計算對于數據來說只是一種演變。
“與通常計算的先有計算指令然后提供數據相反，SFA架構，存儲是我們優先的出發點?？紤]數據在搬移過程中做計算，也就是由數據帶動計算而非由算子帶動數據?！濒斢逻M一步解釋。
這一點與AI大神Lecun所宣稱的所有的神經網絡都是圖計算問題不謀而合。
那么打破傳統馮·諾依曼架構，自研存算一體架構的依據是什么？
這可以談到人類大腦的存儲和計算方式。從生物角度講，大腦存儲大量的知識，能夠快速提取并訪問，而大腦的內存和計算并不是分開的，更多的是存在一定的相容性。因而，未來的計算機可能不是基于計算的memory，而是基于memory的計算，更多做到融合。
不過，因為當前芯片領域對于AI算法的關注還較多，針對AI的結構改進嘗試還偏少。未來，memory與computing結合的嘗試，會更可期。
魯勇也介紹道，目前專注于從存儲子系統入手，著力解決AI芯片的存儲計算架構問題的企業并不多，而其中很多公司從事的都是成本結構并不合理的存算一體架構，符合合理的成本結構并優化存儲子系統的公司更是屈指可數。
安防作為計算機視覺較快落地的領域，也成為探境科技較為看好的場景之一。
探境科技的創始人兼CEO魯勇，出身全球十大芯片廠商之一的Marvell半導體，是位在半導體業摸爬滾打了15年的老兵。
在成立探境科技之前，魯勇曾是Marvell半導體的中國芯片研發總監。據魯勇介紹，在Marvell這十年里，他從零開始，一手搭建了Marvell的中國芯片研發團隊。
探境科技創始人&CEO 魯勇
在創立探境科技之前，幾位在海康威視、大華股份等安防巨頭中任職的朋友都陸續來找到魯勇，咨詢英特爾Movidius VPU是否能夠適用于終端AI處理的需求。
魯勇認為，目前市場上還沒有足夠優秀的適合安防前端的通用芯片，也沒有一款很適用安防的AI芯片出現。不過Movidius的火爆，恰好說明了市場對邊緣端芯片的強大需求。
于是，2017年，魯勇決定離開Marvell，與一群老朋友成立了探境科技。
在安防領域里面，有大量的算法需要前置。目前的算法基本都是基于深度學習。
而探境科技的芯片，如何更好適用于安防大量非結構化數據的處理需求呢？
魯勇講到，安防領域的數據特點，主要在于需要實時的處理大量連續的圖像數據流?！鞍卜李I域的數據處理，在于兩個維度。第一是每秒處理幀率要越來越高，第二是圖像分辨率上要高。在這兩個維度上，安防對邊緣芯片提出了要求。”而探境科技的優勢則在于，基于SFA架構，能更好優化存儲和計算，從而更好解決這一問題。
安防領域，邊緣端的芯片，已有不少廠家入場。其中大廠有之，明星初創公司亦有之。
目前來看，邊緣終端市場有兩種形態的芯片產品，一種是針對特定應用的SoC，一種是通用加速器做獨立芯片。
如在安防領域，SoC面向專用市場，在芯片中深度學習加速計算事實上只是一部分，而其他大部分芯片面積則交給了主控處理器、視頻解碼等模塊。
終端通用深度學習加速器芯片市場的應用則剛起步。許多公司的市場布局主要一是培養開發者生態，另一方面也探索研究哪一領域最有潛力，針對幾個重要的場景推出相應的優化芯片。而探境科技的目標就是做支持所有神經網絡的通用型AI處理器。不僅在安防領域，也瞄準了其他應用場景。
魯勇認為，探境科技基于SFA架構的AI芯片，在優化了存儲架構的同時，能夠適用于智能家居、智能安防、智能穿戴、智能車載、智能外設等更多場景，低功耗低效能的解決更多問題。
目前，探境已量產了應用這一架構的語音識別芯片音旋風611，視覺芯片今年下半年也將發布。
但實際上，近兩年，許多AI企業的芯片紛紛宣布流片，尤其針對安防領域的芯片并不少，但似乎還并未出現強勢的對傳統芯片的替代或繼任者。而作為一個芯片界的老兵，如何看待AI芯片行業的發展呢？
魯勇認為，AI芯片確實是被公認的一個國內企業彎道超車的機會。相較于國外更看重云端場景，國內有在邊緣端有大量市場，這為國內AI企業在邊緣芯片的發展提供了良好的機會。
但國內雖有很多公司關注對AI芯片的底層架構的研發，也有不少AI芯片公司“只追求有，不追求好”，用拼湊的方式來做芯片。很多公司為了順應市場形勢，將自己包裝為一個AI芯片公司。這樣就給市場造成了很大泡沫。并且，國內AI芯片企業，也普遍缺乏后端設計的人才。
后端設計相對于前端的邏輯設計，更多涉及到芯片的工藝，也相對更需要豐富的經驗。國內在后端設計人才上更為緊缺。因而，很多廠商會通過外包的方式做后端服務，來完成生產。這對芯片廠商來說，其實是一個很大的競爭劣勢。
AI芯片，“登高”似乎也面臨著“跌重”的風險。
不過，大浪淘沙。在2017年就看到，并率領團隊致力于解決AI芯片中的存儲問題，魯勇顯然對自己和探境科技都更有信心。
“芯片，作為一個贏者通吃的行業，對技術和產品的能力要求都非常高。行業最終會看到，技術和產品會主導AI芯片的格局。具備兩者實力的AI芯片公司，會最后存活下來?！濒斢抡f道。雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
