全國(guó)A級(jí)！ 三六零大模型安全能力獲中國(guó)人工智能大賽認(rèn)證

12月20日，第五屆中國(guó)人工智能成果發(fā)布會(huì)在廈門(mén)召開(kāi)。三六零（601360.SH，下稱“360”）集團(tuán)因在人工智能安全治理“大模型安全攻防賽”中表現(xiàn)突出，榮獲本屆中國(guó)人工智能大賽A級(jí)證書(shū)。

 

今年9月，在國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)下，廈門(mén)市人民政府主辦的第五屆中國(guó)人工智能大賽正式啟動(dòng)，圍繞人工智能安全治理和創(chuàng)新發(fā)展兩大主線設(shè)置了賽題。作為重要賽題之一，大模型安全攻防賽是將15000條包含惡意和正常的大語(yǔ)言模型提示詞樣本輸入到參賽的大語(yǔ)言模型中，借此考察大模型對(duì)攻擊的防范能力。

 

據(jù)了解，人工智能在提升生產(chǎn)力的同時(shí)，也帶來(lái)了包括幻覺(jué)、深度偽造、注入攻擊、數(shù)據(jù)污染或投毒等前所未有的安全新挑戰(zhàn)。作為兼具數(shù)字安全和AI雙重能力的科技企業(yè)，360很早開(kāi)始關(guān)注大模型安全風(fēng)險(xiǎn)，并推出一系列有針對(duì)性的創(chuàng)新技術(shù)，包括開(kāi)發(fā)了國(guó)內(nèi)首個(gè)安全大模型，通過(guò)“以模制模”理念，利用AI大模型來(lái)檢測(cè)和防范大模型可能出現(xiàn)的安全風(fēng)險(xiǎn)，既解決傳統(tǒng)網(wǎng)絡(luò)安全問(wèn)題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

 

近日，360集團(tuán)還牽頭發(fā)起成立大模型安全聯(lián)盟，旨在打造資源共享、共創(chuàng)共贏的大模型安全生態(tài)集群，共同推動(dòng)大模型安全標(biāo)準(zhǔn)的制定、安全技術(shù)的創(chuàng)新和安全能力的提升，打造大模型安全發(fā)展的新范式。

 

同時(shí)，360基于“安全、向善、可信、可控”的四大原則，推出多款具有重要行業(yè)價(jià)值的企業(yè)級(jí)應(yīng)用新產(chǎn)品,包括大模型全鏈路安全檢測(cè)的“智鑒”、內(nèi)容安全護(hù)航的“智盾”、搜索增強(qiáng)利器“智搜”，以及知識(shí)管理平臺(tái)“智能文檔云”和情報(bào)監(jiān)測(cè)工具“輿情衛(wèi)士”,全面覆蓋了大模型系統(tǒng)安全、內(nèi)容安全、智能知識(shí)管理與情報(bào)分析等關(guān)鍵領(lǐng)域，通過(guò)技術(shù)創(chuàng)新與生態(tài)建設(shè)，持續(xù)為大模型安全及行業(yè)發(fā)展注入新動(dòng)能。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。