0
雷鋒網(wǎng) AI 開發(fā)者按：近日，騰訊開源再次迎來重磅項目。14 日，騰訊正式宣布開源高性能圖計算框架 Plato，這是在近一周之內(nèi)，開源的第五個重大項目。前面依次開源了 TubeMQ、Tencent Kona JDK、TBase、TKEStack 四個開源項目。
Tencent Kona JDK：https://github.com/Tencent/TencentKona-8
TKEStack：https://github.com/tkestack
據(jù)介紹，Plato 可滿足十億級節(jié)點的超大規(guī)模圖計算需求，并將算法計算時間從天級縮短到分鐘級；而且在性能方面也處于領(lǐng)先，并打破了原本動輒需要數(shù)百臺服務(wù)器的資源瓶頸。現(xiàn)雷鋒網(wǎng) AI 開發(fā)者將本次開源項目 Plato 相關(guān)內(nèi)容整理如下。
盡管現(xiàn)在圖像識別很火，但圖計算的「圖」并不是指普通的圖像和照片，而是用于表示對象之間關(guān)聯(lián)關(guān)系的一種抽象數(shù)據(jù)結(jié)構(gòu)。簡單來講，圖計算就是研究在這些大量數(shù)據(jù)中，如何高效計算、存儲并管理圖數(shù)據(jù)等問題的領(lǐng)域。
傳統(tǒng)的關(guān)系型數(shù)據(jù)暴露出了建模缺陷、水平伸縮等問題，于是具有更強大表達能力的圖數(shù)據(jù)受到業(yè)界極大的重視。圖計算就是以圖作為數(shù)據(jù)模型來表達問題并予以解決的過程。
它可以將不同來源、不同類型的數(shù)據(jù)融合到同一個圖里進行分析，得到原本獨立分析難以發(fā)現(xiàn)的結(jié)果，因此也成為了社交網(wǎng)絡(luò)、推薦系統(tǒng)、網(wǎng)絡(luò)安全、文本檢索和生物醫(yī)療等領(lǐng)域至關(guān)重要的數(shù)據(jù)分析和挖掘工具。
Plato 是騰訊內(nèi)部圖計算 TGraph 團隊整合內(nèi)部資源自主研發(fā)的一款圖計算框架，而 Plato 這一命名正是為了致敬數(shù)學(xué)家柏拉圖。
在計算性能方面，Plato 它能夠?qū)⑺惴ㄓ嬎銜r間從天級縮短到分鐘級，不僅讓當(dāng)前的圖計算性能提升數(shù)十倍，也將圖計算帶進了分鐘級計算時代。
在內(nèi)存消耗方面，Plato 也遠小于主流的圖計算框架。具體而言，僅需 10 臺服務(wù)器左右的中小規(guī)模集群，即可完成原本需要上百臺服務(wù)器支持的超大規(guī)模圖計算。
架構(gòu)設(shè)計方面，Plato 框架的核心是自適應(yīng)圖計算引擎，它能夠根據(jù)不同類型的圖算法，提供多種計算模式供開發(fā)者靈活選擇，包括自適應(yīng)計算模式、共享內(nèi)存計算模式和流水線計算模式等。另外，還設(shè)計了接口支持接入新的計算通信模式。
Plato 整體架構(gòu)圖
在計算引擎上，Plato 則為算法設(shè)計者或具體的業(yè)務(wù)提供了多層次接口：從底層的 API，到圖算法庫，再到為具體業(yè)務(wù)量身打造的「解決方案」——圖工具集。通過這些應(yīng)用層的接口和工具，Plato 還可以把離線計算結(jié)果與其他機器學(xué)習(xí)算法相結(jié)合，共同支撐頂層的不同業(yè)務(wù)。
目前，Plato 主要提供兩大核心能力，包括：騰訊數(shù)據(jù)量級下的離線圖計算和騰訊數(shù)據(jù)量級下的圖表示學(xué)習(xí)；同時，Plato 可在通用的 X86 集群中運行，包括： Kubernetes、YARN 等資源調(diào)度平臺；在文件系統(tǒng)方面，Plato 提供了多種接口支持主流的文件系統(tǒng)，如 HDFS、Ceph 等。
據(jù)官方數(shù)據(jù)展示，Plato 的計算性能領(lǐng)先于主流的分布式圖計算框架。
下圖（左）為 Plato 與 Spark GraphX 在 PageRank 和 LPA 這兩個 benchmark 算法的性能對比，可以看到，Plato 的性能比 Spark GraphX 高出 1-2 個數(shù)量級。
左圖為計算性能對比，右圖為內(nèi)存占用對比
Plato 的另一個優(yōu)勢則是它的內(nèi)存開銷遠小于主流圖計算框架。從上圖（右）看到，Plato 的內(nèi)存消耗比 Spark GraphX 減少了 1-2 個數(shù)量級。
除此之外，在真實的業(yè)務(wù)算法下，Plato 的計算性能也很好。下圖給出了 Plato 在騰訊數(shù)據(jù)量級下的共同類計算、Node2Vec、LINE、GraphSage 等典型業(yè)務(wù)算法的性能。
Plato 在騰訊數(shù)據(jù)量級下計算性能
圖作為一種表示和分析大數(shù)據(jù)的有效方法，已成為眾多領(lǐng)域至關(guān)重要的數(shù)據(jù)分析和挖掘工具。而圖數(shù)據(jù)是高維度數(shù)據(jù)；圖算法的計算性能是決定圖挖掘能否成功的關(guān)鍵因素之一。對于目前大量的超過十億級節(jié)點大規(guī)模社交網(wǎng)絡(luò)數(shù)據(jù)，計算性能顯得尤為重要。
Plato 的出現(xiàn)，則將算法計算時間從天級縮短到分鐘級，并且打破了動輒需要數(shù)百臺服務(wù)器的資源瓶頸；使得現(xiàn)有計算框架能夠在有限資源和有限時間內(nèi)完成對于一些大規(guī)模社交網(wǎng)絡(luò)基礎(chǔ)統(tǒng)計特征的計算。
在這次開源中，騰訊 Plato 團隊負責(zé)人于東海也表示：「Plato 已經(jīng)支持騰訊內(nèi)部包括微信在內(nèi)的眾多核心業(yè)務(wù)，尤其是為騰訊超大規(guī)模社交網(wǎng)絡(luò)圖數(shù)據(jù)的各類計算提供支撐，解決了現(xiàn)有其他計算框架無法在有限資源和有限時間內(nèi)完成計算的難點。」
截止目前，騰訊已經(jīng)在 GitHub 上已經(jīng)開源了 86 個項目。而 Plato 的算法庫中的圖特征、節(jié)點中心性指標(biāo)、連通圖和社團識別等多種算法都已經(jīng)開源，未來還將進一步開源更多的算法。
其中，已經(jīng)開源的算法包括：
圖特征
樹深度/寬度
圖特征打包計算：節(jié)點數(shù)/邊數(shù)/密度/節(jié)點度分布
N-階度
HyperANF
節(jié)點中心性指標(biāo)
KCore
Pagerank
Closeness
Betweenness
連通圖 & 社團識別
Connected-Component
LPA
HANP
圖表示學(xué)習(xí)
Node2Vec-Randomwalk
Metapath-Randomwalk
聚類/分圈算法
LDA
FastUnfolding
其他圖相關(guān)算法
BFS
共同類計算
Plato 開源地址：
雷鋒網(wǎng) AI 開發(fā)者
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
