華爲雲盤古安全護欄獲信通院滿級評分(fēn)，全鏈路築牢企業大(dà)模型可信
發布時間：2024-03-21
近日，在中(zhōng)國人工(gōng)智能産業發展聯盟（AIIA）第十一(yī)次全運會上，中(zhōng)國信通院發布大(dà)模型标準符合性驗證結果，華爲雲盤古憑借大(dà)模型安全解決方案——盤古安全護欄完成軟硬件、數據、模型、應用等可信模塊測試，成爲業界首個在大(dà)模型可信領域獲得卓越級（5級）評分(fēn)的大(dà)模型産品。
全新盤古安全護欄，信通院可信滿級認證
近年來，我(wǒ)國人工(gōng)智能産業在《“十四五”數字經濟發展規劃》《“十四五”國家信息化規劃》等政策引導下(xià)蓬勃發展。大(dà)規模預訓練模型作爲人工(gōng)智能新基建的關鍵技術，在自然語言處理、計算機視覺等領域取得顯著突破。然而，随着技術應用深入發展而來的數據投毒、不當應用等風險也逐漸凸顯。
自2021年起，中(zhōng)國信通院開(kāi)始研究大(dà)規模預訓練模型标準，與多方共同建立技術和應用标準體(tǐ)系，推動人工(gōng)智能發展。
在本次大(dà)模型标準符合性驗證中(zhōng)，華爲雲大(dà)模型安全解決方案覆蓋了基礎設施、訓練數據、生(shēng)成内容的端到端安全合規全場景，有效應對大(dà)模型數據治理、模型可信、内容合規等三大(dà)維度風險，并以文本審核、Prompt攻擊檢測、AIGC鑒僞、個人隐私脫敏等新型可信能力，确保應用中(zhōng)的可信可靠。
此外(wài)，在軟硬件和數據方面，盤古安全護欄保證了基礎軟硬件的安全性、可靠性和兼容性，以采集、預處理和使用控制實現數據可信性，并從多角度構築數據可信能力，打造穩健、可控、合規且符合價值觀的應用服務。
爲引導産業發展和規範行業自律，華爲雲還與中(zhōng)國信息通信研究院聯合其他相關單位共同開(kāi)展編制《大(dà)規模預訓練模型技術和應用評估方法 第5部分(fēn)：可信要求》，爲國家人工(gōng)智能産業的健康發展貢獻力量。
全新盤古安全護欄，築牢大(dà)模型新防線
大(dà)模型逐漸深入行業核心系統，成爲推動數字化轉型的關鍵力量，伴随而來的還有端到端的可信挑戰。盤古安全護欄，進一(yī)步強化了大(dà)模型的全鏈路保障，基于華爲雲在盤古大(dà)模型實踐中(zhōng)積累的豐富經驗和技術優勢，開(kāi)放(fàng)兼容，能夠服務于多樣化的模型形态，助力企業實現大(dà)模型全鏈路合規。
華爲雲盤古安全護欄憑借四道防線，全面覆蓋大(dà)模型使用的全生(shēng)命周期，兼容開(kāi)源、三方大(dà)模型，爲企業用戶提供最佳的大(dà)模型安全解決方案。
1.數據防護防線
通過數據脫敏、數據血緣、數據防毒等技術手段，從預訓練模型的數據集，直至數據治理階段，全方位保障企業構建高質量、安全合規的數據集，确保數據多樣性和公平性。
2.模型防護防線
針對模型訓練階段可能遭遇的數據投毒風險，以及推理階段訓練數據、用戶隐私信息洩露等風險，采用模型混淆、模型加密等先進技術，軟硬件結合，加密模型，有效保障企業大(dà)模型資(zī)産安全。
3.内容防護防線
通過Prompt攻擊檢測等新型防禦能力，實現對多種直接與間接攻擊手段的有效檢測，并通過對模型輸入輸出内容嚴格審核，嚴防生(shēng)成有害或不當信息，有效應對新型安全風險。
4.應用防護防線
保護大(dà)模型在應用插件場景下(xià)的安全可靠性，确保大(dà)模型在各類應用場景中(zhōng)都能穩定、高效地發揮作用。
據悉，盤古安全護欄四道防線的綜合攔截率超過90%，能夠爲企業大(dà)模型提供堅實的保障。