0
| 本文作者： nebula | 2024-05-31 21:21 |
AI的應(yīng)用越來(lái)越廣泛，已經(jīng)滲透到人們工作和生活的方方面面。隨之而來(lái)的，是AI的安全問題。我每天都在使用的AI助手，可信嗎？企業(yè)核心業(yè)務(wù)依賴的AI服務(wù)器，安全嗎？AI軟件的安全性，已經(jīng)成為了一個(gè)復(fù)雜且多面的全球性議題。
近日，NVIDIA（英偉達(dá)） 官方發(fā)布了一則安全風(fēng)險(xiǎn)預(yù)警和軟件更新公告，公布 NVIDIA Triton 推理服務(wù)器存在著重要安全漏洞，提醒用戶盡快進(jìn)行版本更新。（涉及的漏洞為深信服發(fā)現(xiàn)并提報(bào)）
Triton 推理服務(wù)器是NVIDIA發(fā)布的一款開源軟件，作為 NVIDIA AI 平臺(tái)的重要組成部分，該服務(wù)器可以針對(duì)各種工作負(fù)載，實(shí)現(xiàn)標(biāo)準(zhǔn)化的AI模型部署和執(zhí)行，為用戶提供快速且可擴(kuò)展的AI服務(wù)。Triton作為目前全球主流AI推理服務(wù)器，已被全球眾多人工智能廠商廣泛使用。
NVIDIA AI平臺(tái)大多數(shù)應(yīng)用與功能的實(shí)現(xiàn)，背后都是由Triton 推理服務(wù)器提供基礎(chǔ)支持，這代表什么呢？
對(duì)于使用該服務(wù)器的廠商、企業(yè)來(lái)說，這個(gè)漏洞一旦被惡意攻擊者利用，他們的云端AI模型就很有可能完全被控制。攻擊者可以在未授權(quán)的情況下實(shí)現(xiàn)竊取用戶敏感數(shù)據(jù)、執(zhí)行惡意代碼、修改AI模型計(jì)算結(jié)果、竊取AI模型等一系列操作，對(duì)用戶的數(shù)據(jù)隱私帶來(lái)的風(fēng)險(xiǎn)是災(zāi)難性的，對(duì)企業(yè)利益和品牌信譽(yù)帶來(lái)的損失也是毀滅性的。
假設(shè)，某自動(dòng)駕駛汽車廠商使用Triton 推理服務(wù)器來(lái)訓(xùn)練和優(yōu)化自動(dòng)駕駛模型。這個(gè)漏洞被惡意攻擊者利用并成功控制，則可能導(dǎo)致車輛誤判、失控等安全問題，威脅到乘客和行人的生命安全。
再假設(shè)，某人工智能服務(wù)廠商使用Triton 推理服務(wù)器部署和開發(fā)其AI模型，如果被攻擊者利用此漏洞入侵，可能導(dǎo)致模型計(jì)算結(jié)果被篡改，甚至直接被“一鍵復(fù)制”式竊取，導(dǎo)致知識(shí)產(chǎn)權(quán)泄漏或聲譽(yù)受損。
對(duì)于我們每個(gè)人來(lái)說就是，你的“AI助手”帶著你所有的隱私和數(shù)據(jù)，背叛你了。
假設(shè)，你一直使用的某個(gè)對(duì)話類AI助手被黑客利用此漏洞控制，你的所有對(duì)話內(nèi)容、日常行為習(xí)慣和隱私信息都會(huì)暴露，黑客可以公開并售賣你的個(gè)人信息，甚至利用這些信息實(shí)施詐騙、竊取財(cái)產(chǎn)，甚至盜用身份信息進(jìn)行其他非法行為。
深信服安全研究員Lawliet和彭峙釀在日常研究過程中發(fā)現(xiàn)了這兩個(gè)漏洞，隨即編寫詳細(xì)的漏洞報(bào)告，積極與監(jiān)管機(jī)構(gòu)和NVIDIA官方取得聯(lián)系。NVIDIA官方驗(yàn)證漏洞信息后第一時(shí)間發(fā)布官方公告提醒用戶更新，并致謝深信服。
AI技術(shù)的發(fā)展正如火如荼，但是對(duì)AI基礎(chǔ)設(shè)施安全性的研究才剛剛起步，在可預(yù)見的未來(lái)會(huì)有更多挑戰(zhàn)。比如本次發(fā)現(xiàn)的漏洞，屬于未授權(quán)遠(yuǎn)程代碼執(zhí)行漏洞，影響范圍大，未修復(fù)可能導(dǎo)致嚴(yán)重后果。面對(duì)這些挑戰(zhàn)，具備主動(dòng)識(shí)別潛在風(fēng)險(xiǎn)的能力，并提前采取行動(dòng)進(jìn)行有效的修復(fù)和預(yù)防，可以為用戶使用的安全性提供多一層保障。
再次提醒各位NVIDIA AI推理服務(wù)器用戶，請(qǐng)及時(shí)檢查自己使用的版本是否更新升級(jí)，避免引發(fā)安全風(fēng)險(xiǎn)！另外，無(wú)論是使用AI推理服務(wù)器的廠商還是使用AI服務(wù)的個(gè)人用戶，都應(yīng)提升安全意識(shí)，關(guān)注數(shù)據(jù)安全和隱私保護(hù)，在享受AI帶來(lái)的高效和便利的同時(shí)，確保AI使用過程的安全。
深信服注重網(wǎng)絡(luò)安全攻防技術(shù)研究，利用攻擊方視角解決網(wǎng)絡(luò)安全問題，并將安全研究技術(shù)應(yīng)用到產(chǎn)品實(shí)踐中。基于多年的技術(shù)積累，深信服在國(guó)內(nèi)率先推出了多個(gè)前沿安全產(chǎn)品及服務(wù)，并在去年首秀自研的安全大模型——安全GPT的技術(shù)應(yīng)用。發(fā)布至今，安全GPT已收獲130+體驗(yàn)用戶。深信服AICP算力平臺(tái)在2024數(shù)字中國(guó)創(chuàng)新大賽的“信創(chuàng)賽道”和“城市賽道”中獲得2大獎(jiǎng)項(xiàng)。
近期，彭峙釀等研究員受邀參加國(guó)際知名信息安全會(huì)議HITB x PHDays 2024，在主論壇發(fā)表主題演講，與全球網(wǎng)絡(luò)安全專家、團(tuán)隊(duì)共同探討前沿安全技術(shù)。
未來(lái)，深信服將不斷提高專業(yè)技術(shù)造詣，加大對(duì)安全研究人才和技術(shù)研究層面的投入， 也將持續(xù)在AI安全領(lǐng)域深耕，為所有用戶的網(wǎng)絡(luò)安全保駕護(hù)航，讓AI技術(shù)更好地為人類社會(huì)的發(fā)展做出貢獻(xiàn)。
雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
