<label id="jgr5k"></label>
    <legend id="jgr5k"><track id="jgr5k"></track></legend>

    <sub id="jgr5k"></sub>
  1. <u id="jgr5k"></u>
      久草国产视频,91资源总站,在线免费看AV,丁香婷婷社区,久久精品99久久久久久久久,色天使av,无码探花,香蕉av在线
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      行業云 正文
      發私信給胡敏
      發送

      0

      大模型,能改變火山引擎在云牌桌上的位置嗎?

      本文作者: 胡敏   2024-12-30 18:09
      導語:在大模型上重兵投入的火山引擎,或許有了一次更新自己在云牌桌上排名的機會。

      “原來我并不看好火山引擎,但現在有些改觀了。”在云行業已經干了8年的張坤表示。

      大模型大戰兩年后,雷峰網再次和許多從業者聊起火山引擎這位“后進生”時,一些人對火山引擎的看法有了很大變化。

      云牌桌上的后來者

      火山引擎在2021年12月正式宣布開始參與云計算市場的競爭。與其他幾家云廠商相比,這個入局時間顯得有些姍姍來遲。

      回顧其他幾家云廠商,阿里云屬于最早邁出步子的人,2009年成立阿里云,并開始自主研發大規模分布式計算操作系統“飛天”。

      而騰訊云是2013年3月正式上線運營,2018年930之后,騰訊成立CSIG,轉型產業互聯網。

      華為云在集團中的地位經歷了多次調整和提升。最初,華為云作為二級部門存在,但在短短半年內迅速提升為一級部門,戰略地位僅次于華為的三大BG(運營商BG、企業BG和消費者BG),后來又重回集團業務體系。

      到2021年底,火山引擎入局時,云市場已經呈現四強競爭格局,以阿里云為首,占據國內四成云服務市場規模,其次是華為云、騰訊云與百度智能云。火山引擎作為后來者,想要在這個市場上爭得一席之地,有一場相當難的攻堅戰要打。

      當年,以Ucloud、青云為代表的獨立云廠商即便占據先發優勢,但在這四家云廠商進入云市場后,開始以投入10-20倍的人力,不計成本、不計收益的快速占領市場,后來獨立云廠商不得不退出了舞臺中央,站在獨立云廠商的視角來看,這個故事的確聽起來相當悲傷,但這也暗含了云市場廝殺的激烈程度。

      半年以前,雷峰網曾與數十名云從業者交流過火山引擎能否走出不同的命運軌跡,逆襲進入云行業前三甲時,其大多給出的回答:很難,入局太晚了。

      面對強勁的對手,火山引擎如何撬開云計算市場?雷峰網(公眾號:雷峰網)認為,核心策略之一就是價格。這種策略在云市場上掀起了不小的波瀾,火山引擎接連拿下了不少的泛互、游戲、消費電子等行業客戶,取得了高速增長。據業內人士透露,今年火山引擎的營收目標是要前一年基礎上翻倍。

      火山引擎這種發展態勢,也讓其成為了目前云市場里唯一一家還在大規模招聘的公司。“其他幾家云廠商這幾年招聘需求縮減了至少30%,而火山引擎不僅招聘崗位多,而且給略有漲幅的薪資待遇。”獵頭劉赟表示。

      不過,這種高速增長繁榮并未掩蓋住擔憂,不少從業者認為,短期內,火山引擎在有資源時,自然可以大力投入,但低價彈藥并非無窮盡,長期還是需要靠產品驅動,而目前大部分認為,火山引擎在產品上還很難追趕上友商。

      不過,這是半年前大多數人的論斷,近半年,一些業內人對火山引擎的評價又發生了一些變化,認為,這一波大模型正在給了火山引擎一個極佳機會,提升產品競爭力,同時也給了火山引擎銷售,拉開一個新的突破口。

      AI infra,云廠商們站在了同一起跑線上

      為何說大模型正在讓火山引擎趕超老牌云廠商?

      核心原因是,隨著大模型訓練推理需求的不斷增多,客戶在云底座的選用上,除了關注以往云的基礎能力外,還會進一步關心在AI infra方面的能力。而在AI infra上,所有云廠商都在同一起跑線,并且火山引擎的迭代速度幾乎是廠商里面最快的。

      前不久,火山引擎Force冬季大會上新升級了以GPU為中心的AI infra分布式業務體系,通過 vRDMA 網絡支持大規模并行計算及 P/D 分離推理架構,提升訓練和推理效率,降低企業使用成本;EIC 彈性極速緩存解決方案,實現 GPU 直連,使大模型推理時延降低至五十分之一,成本降低 20%。

      火山引擎在AI infra上能快速迭代的原因,這要追溯到2021年火山引擎制定的產品戰略。

      “從2021年起,我們就確立了兩手抓的產品思路,一邊抓存量,一邊做增量。”火山引擎云基礎產品負責人羅浩表示。

      大模型,能改變火山引擎在云牌桌上的位置嗎?

      火山引擎云基礎產品負責人羅浩

      羅浩所言的存量是指傳統云計算的需求,包括ECS、存儲、數據庫、網絡、安全等一些云基礎產品。不可否認,作為后來者,火山引擎在這些基礎云產品上與其他廠商還存在差距,所以羅浩認為,在這一塊他們的核心就是要快速補齊短板。

      不過,光是補齊短板遠遠不夠,如何能在產品上有所差異,才是贏得市場競爭的關鍵。而隨著生成式AI浪潮的到來,火山引擎隨即決定要從算力上做突圍,也就是羅浩所說的增量,來服務比如兩年前爆發的訓練需求,今天大規模的推理需求。

      “早在2021年,我們就開始大規模投入AI和GPU了。”

      這一戰略判斷,從過去一年火山引擎在AI infra上的銷售表現,已經可以驗證正確性,大模型公司幾乎都是火山引擎AI infra 的采購者。

      如果說4年前“兩手抓”的產品戰略是火山引擎在AI infra上實現追趕的根基,那過去幾年的內外部實踐則是AI infra迭代的關鍵驅動力,所有產品穩定性和能力往往是在一次次業務場景中淬煉重生。

      在這些實踐中,讓火山引擎AI infra加速狂奔的是豆包大模型。前不久,火山引擎總裁譚待在火山引擎Force冬季大會上公布了一個數據,2024年豆包的日均token數據從5月15日的1200億,到12月18日增長到了4萬億。

      要承載33倍的增長,這幾乎其他廠商都沒有遇到過的,背后對于底層AI infra 的性能、成本幾乎是一次大考。

      羅浩談到,今年5月份之前,那時豆包體量還小,為了讓豆包大模型能夠良好地運行,他們通過增加更多的GPU資源來保證大模型能夠快速響應大量的查詢請求,以提升客戶的使用體驗。

      但他們很快發現,“堆量”這種方法行不通了,隨著用戶量的增加,繼續這樣做成本就變得難以承受。

      優化推理成本迫在眉睫,他們團隊開始大量分析哪些地方是“成本暴發戶”,經過他們仔細的計算發現,緩存和存儲部分是拉高計算成本的重要部分。

      “傳統的緩存技術有一個問題,就是它處理數據時會繞一大圈,通過CPU再到內存,這會導致延時增加,性能下降。”羅浩說。

      為解決這個問題,他們決定重寫整個緩存系統。新的系統完全圍繞GPU展開,不再依賴傳統的CPU架構。這意味著,數據可以通過一種更高效的方式直接從GPU傳輸到遠端內存,使用一種叫做GDR,GPU Direct RDMA(GPU直接遠程內存訪問)技術,這樣不僅減少了延時,還提升了整體性能。

      這個數據傳遞過程就像是送信,原來需要通過郵局,既慢又容易出錯。而現在,系統就像給數據裝上了直通車,直接從一個人手中快速送到另一個人,省去了中間環節,速度更快,準確性更高。

      “這些內外部業務,對我們的意義就是,讓我們比別人早踩坑,也早發現問題,早解決。”

      今年5月火山引擎Force春季大會上,豆包主力模型在企業市場的定價比行業價格降低了99.3%,“這個降價99.3%并非是我們拍腦袋想的,而是建構在之前對AI infra的優化上算出來的。”

      羅浩表示,計算范式當前正在從云原生進入“AI云原生”的新時代,火山引擎以GPU為中心重新優化計算、存儲與網絡架構。GPU可以直接訪問存儲和數據庫,來顯著降低IO的延遲。同時,整個系統提供高速互聯和端到端的安全保護。

      這是國內首次有云廠商喊出“AI云原生”的理念。如今,新架構仍在支持著豆包大模型實現快速的指數級業務增長。

      除有豆包大模型“倒逼”外,火山引擎AI infra能夠在較短時間內升級,也與火山引擎獨特的組織架構有關。

      國內其他幾家云廠商的產研團隊基本是和集團業務是分開的,但火山引擎并不是,做火山引擎的這一批人馬,就是來自字節中臺,像羅浩本人,就有兩個身份,一個是火山引擎云基礎產品負責人,另一個是字節跳動基礎架構云產品負責人,而吳迪也同樣如此,他第一個身份是火山引擎的算法負責人,另一個也是字節機器學習中臺的一位負責人。

      這種組織的好處有兩個:第一火山資源和字節的資源都在一個人手上管理,這樣也能實現資源的充分利用;第二是人才能力上的復用。

      為商業化撕開了新突破口

      大模型到來,除縮小火山引擎與其他廠商產品之間的差距外,其帶來更明顯的效果就是,為火山引擎商業化帶來了一個新的突破口。

      上文也提到,作為后進生的火山引擎進入云市場時,面臨很大的一個問題就是如何打開市場,過去火山引擎用了一些價格策略的確也取得了一些成果,但這終究不是長久之計。

      而這一波大模型,對于火山引擎來說,其最重要的就是手上多了一張撬動客戶的“王牌”——豆包大模型。

      一名火山引擎銷售曾對雷峰網說過他的銷售經歷:以前經常找拜訪客戶由頭通常要絞盡腦汁,而且由于火山引擎在云市場是后來者,一些客戶往往會提出靈魂拷問,為什么選你?但自從大模型出現后,越來越多的客戶有了大模型訓練需求,一些客戶還會主動找上來問,如何去搭建自己的大模型。

      趁著大模型這一波熱度,火山引擎在加速推進商業化,據資深獵頭王帆透露,今年年中,火山引擎單獨成立了一個10人不到的大模型商業化小組,這也是云廠商中唯一一家單獨成立大模型銷售團隊的,其他云廠商的大模型銷售人馬仍然是賣云的銷售、渠道。

      云銷售賣大模型有一個問題是在于,技術有壁壘,一般的云銷售不一定有能力跟客戶講清楚大模型的價值、技術,而火山引擎也在寄希望于通過豆包大模型,打入更多已經跟友商合作的客戶中去,而這也是這個小組成立的重要原因。

      過去一年,可以看到火山引擎借助大模型在商業化的突破,據了解,目前豆包大模型已經應用到了汽車、手機、金融、消費、互娛等30多個行業,尤為值得一提的是汽車行業,火山引擎的確拿下了不少的汽車大單。

      早在去年,火山引擎先后與吉利、長城、蔚來、廣汽等多家車企達成深度合作,為車企提供了數字化營銷、智能座艙、車載聚合音視頻內容等一系列服務。

      今年5月,火山引擎成立了汽車大模型生態聯盟,一汽紅旗、東風乘用車、吉利汽車、長城汽車、廣汽乘用車、宇通客車在內的24家整車廠、官方機構、出行生態公司等加入其中。下半年,火山引擎在汽車領域有一個重要的突破客戶,那就是奔馳。8月13日,火山引擎與奔馳簽署戰略合作備忘錄,雙方宣布將在大模型、生成式人工智能和大數據技術領域展開合作。

      不過,也有很多人會有疑問,賣大模型是否能為火山引擎增收,畢竟眼下,OpenAI和Gemini都在不斷降價。今年5月豆包在國內率先掀起大模型的降級潮,豆包主力模型在企業市場的定價為0.0008元/千Tokens,隨即幾個月其他廠商也迅速跟進,而12月底,火山引擎再次將視覺模型價格打下來,定價為0.003元/千Tokens。

      火山引擎總裁譚待公開表示,豆包大模型的定價一步到位,有合理毛利。不過,所有廠商目前大模型API收入規模都不大。結合雷峰網調研發現,月消費1萬,相當于公有云消費1000萬的客戶體量,是很大客戶了。

      的確,眼下大模型帶來的收益遠遠小于投入,不過大模型的生意還要是要拉長時間維度來看,大模型應用規模上去之后,一定會帶動云的用量,據IDC報告,未來5年國內的訓練、推理算力分別以超50%、190%的年復合增速發展,并在2028年推理算力會超過訓練算力。而到那個時候,率先在大模型上重兵投入的火山引擎,興許也更新了自己在云牌桌上的排名。

      雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知

      分享:
      相關文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 色综合色天天久久婷婷基地| 欧洲成人综合| 国产品精品久久久久中文| 18禁影院亚洲专区| 国产又大又黑又粗免费视频| 另类一区| 欧美色人妻| 亚洲国产一区二区三区| 国产精品偷伦费观看一次| 日本高清熟妇老熟妇| 亚洲天堂日韩av电影| 丰满熟妇人妻av无码区| av黄色| 娇妻系列交换27部多p在线观看 | 亚洲日韩一区二区| 亚洲国产综合精品一区| 日韩人妻精品一区二区三区视频| 成在人线AV无码免观看麻豆| 人妻少妇久久中文字幕一区二区| 日韩成人无码| 中文字幕不卡av| 国产精品色哟哟| 亚洲无码精品视频| 91亚洲免费视频| 丰满人妻熟妇乱又伦精品视| 精品久久久久中文字幕日本| 亚洲天堂色图| 国产私拍大尺度在线视频| 国产成人精品二三区波多野| 日日躁狠狠躁| ..真实国产乱子伦对白在线_!| 中文字幕亚洲综合久久综合| 欧美性xxxxx极品| 67194成是人免费无码| 国产免费一区二区三区在线观看| 日韩乱码人妻无码中文字幕视频| 隔壁人妻偷人bd中字| 保德县| 日韩免费无码人妻波多野 | 无码人妻丰满熟妇区bbbbxxxx| 3p在线看|