人工智能時代，以大模型為代表的技術(shù)已成為國際競爭新焦點與經(jīng)濟(jì)發(fā)展新引擎，深刻改變社會格局并廣泛應(yīng)用于目標(biāo)檢測、語音識別、自然語言處理等關(guān)鍵領(lǐng)域。以DeepSeek等為代表的大模型正迅速滲透各行各業(yè)，驅(qū)動新一代AI發(fā)展浪潮。

然而，在帶來巨大便利與機(jī)遇的同時，大模型也暴露出嚴(yán)峻的安全挑戰(zhàn)：模型訓(xùn)練與使用過程中的隱私泄露、自身安全性問題日益凸顯；其風(fēng)險深藏于語義與算力層，使得僅關(guān)注協(xié)議與流量的傳統(tǒng)防火墻無力應(yīng)對提示詞注入攻擊、敏感數(shù)據(jù)泄露及GPU算力惡意消耗等新型威脅；同時，全球日益收緊的AI與數(shù)據(jù)安全法規(guī)，也使大模型生成內(nèi)容的合規(guī)性審查成為企業(yè)必須面對的嚴(yán)峻課題。這些“系統(tǒng)性短板”涵蓋安全架構(gòu)、漏洞響應(yīng)、數(shù)據(jù)合規(guī)等方面，亟待通過技術(shù)突破、管理強(qiáng)化與多方協(xié)同，建立完善的內(nèi)生安全機(jī)制，以保障大模型在各個關(guān)鍵領(lǐng)域安全運(yùn)行。

面對AI時代的系統(tǒng)性挑戰(zhàn)，6月24日，騰訊云舉辦“開箱吧，騰訊云”大模型安全發(fā)布會，正式推出面向大模型應(yīng)用場景的全棧安全解決方案。發(fā)布會上，騰訊云重磅發(fā)布兩大全新產(chǎn)品——LLM-WAF大模型防火墻和AISPM大模型安全態(tài)勢管理平臺，并揭示GuardLM技術(shù)的突破。三位來自騰訊的安全專家登臺，通過直觀的產(chǎn)品功能演示，深入剖析在復(fù)雜多變的大模型安全態(tài)勢下，企業(yè)普遍面臨的各類通用安全問題，并結(jié)合金融、泛互、零售等不同行業(yè)領(lǐng)域的實際案例，分享騰訊云在大模型安全防護(hù)方面的成功實踐經(jīng)驗和行業(yè)領(lǐng)先的安全策略，助力企業(yè)構(gòu)建可信賴的大模型安全防線。

從技術(shù)到組織體系：縱深應(yīng)對大模型多重安全風(fēng)險

AI技術(shù)帶來新的生產(chǎn)驅(qū)動力，企業(yè)數(shù)字化進(jìn)入“大模型時代”。在企業(yè)將大模型投入實際應(yīng)用的過程中，騰訊云安全總結(jié)了大模型企業(yè)應(yīng)用十大常見安全風(fēng)險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應(yīng)鏈風(fēng)險，以及自動化Agent權(quán)限濫用、模型推理被劫持等新型AI應(yīng)用威脅。這些風(fēng)險貫穿于企業(yè)應(yīng)用大模型的各個環(huán)節(jié)，構(gòu)成關(guān)鍵挑戰(zhàn)。騰訊云安全總經(jīng)理李濱分析，這些風(fēng)險并非孤立存在，而是從數(shù)據(jù)采集、處理、模型訓(xùn)練、部署到最終應(yīng)用的整個AI技術(shù)生命周期中端到端傳導(dǎo)的。

李濱總結(jié)，大模型安全問題本質(zhì)上是一次全方位的安全體系升級，而非局限于局部對抗，需要從全局視角建立系統(tǒng)框架。為此，騰訊云安全從技術(shù)、管理、合規(guī)、倫理四大維度出發(fā)，全面覆蓋數(shù)據(jù)隱私、模型自身、應(yīng)用集成、基礎(chǔ)設(shè)施以及治理倫理等領(lǐng)域，構(gòu)建 AI 時代的動態(tài)安全生態(tài)。

騰訊云大模型安全治理框架以安全基準(zhǔn)、安全運(yùn)營和安全合規(guī)三大支柱為基礎(chǔ)，形成了覆蓋模型基礎(chǔ)設(shè)施到應(yīng)用全生命周期的立體化技術(shù)防護(hù)方案，針對不同階段風(fēng)險部署相應(yīng)策略，構(gòu)建起大模型安全的縱深防御體系。

 ●  在內(nèi)容輸入和輸出環(huán)節(jié)，由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因，大模型可能會生成有風(fēng)險的內(nèi)容，而騰訊云天御基于多年內(nèi)容安全的能力，能幫助企業(yè)進(jìn)行大模型應(yīng)對這一安全隱患。

 ●  在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機(jī)制，以騰訊的安全專家能力為基礎(chǔ)，建立針對大模型的安全測試方法，主動發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險，并依托這些安全研究成果，研發(fā)了專門針對大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢感知系統(tǒng)AISPM和大模型智能安全網(wǎng)關(guān)LLM-WAF，為企業(yè)大模型應(yīng)用進(jìn)行全生命周期保障護(hù)航。

 ●  在合法合規(guī)標(biāo)準(zhǔn)方面，騰訊云安全也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作，如參與起草《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》國際標(biāo)準(zhǔn)等，依托自研大模型混元為企業(yè)保駕護(hù)航。

LLM-WAF：大模型服務(wù)“專業(yè)門衛(wèi)”

據(jù)IDC數(shù)據(jù)，2024年全球AI IT總投資達(dá)3158億美元，預(yù)計2028年將增至8159億美元，五年復(fù)合增長率32.9%。AI大模型從實驗室走向各行業(yè)，成為企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵力量。然而，隨著AI與企業(yè)業(yè)務(wù)融合加深，安全問題和需求也日益凸顯。騰訊云安全高級產(chǎn)品經(jīng)理王軍從案例出發(fā)揭示大模型四大安全痛點，從BOT濫爬、API風(fēng)險，到提示詞注入攻擊，再到不當(dāng)信息濫用，大模型提升業(yè)務(wù)效率的同時也帶來安全隱患。只有在上線初期就將大模型安全防護(hù)能力“一體化”接入業(yè)務(wù)，才能避免效率紅利被安全風(fēng)險吞噬。

基于此，騰訊云WAF在原有基礎(chǔ)上，正式面向大模型業(yè)務(wù)推出大模型安全防護(hù)模塊LLM-WAF。該產(chǎn)品采用創(chuàng)新的架構(gòu)理念，專為大模型應(yīng)用場景打造，能夠在多模型、多場景、高并發(fā)環(huán)境下提供全鏈路防護(hù)。LLM-WAF支持企業(yè)大模型業(yè)務(wù)5分鐘快速接入防護(hù)，兼容騰訊混元、DeepSeek等多種主流大模型。其智能安全防護(hù)引擎可高效檢測并攔截算力濫用、提示詞攻擊、不當(dāng)內(nèi)容、數(shù)據(jù)泄露等各類安全風(fēng)險，為大模型業(yè)務(wù)運(yùn)行提供全面保障。

騰訊云安全高級產(chǎn)品經(jīng)理王軍介紹，LLM-WAF的核心優(yōu)勢具體表現(xiàn)在：一支持輕松接入，即刻防護(hù)，5分鐘內(nèi)完成配置；二是智能守護(hù)算力資源，實時監(jiān)測攔截異常算力濫用行為；三是內(nèi)容安全雙重保障，通過兩道防線識別不當(dāng)及敏感信息；四是API安全縱深防御，覆蓋API全生命周期，降低數(shù)據(jù)泄露風(fēng)險；五是BOT流量精準(zhǔn)管理，結(jié)合AI驅(qū)動精準(zhǔn)識別和動態(tài)挑戰(zhàn)機(jī)制確保核心接口資源安全；六是合規(guī)有保障，提供詳細(xì)攻擊日志記錄，滿足審計需求。基于此，LLM-WAF在真實業(yè)務(wù)場景下能夠提供強(qiáng)大防護(hù)能力——無論是防止惡意提示詞注入，還是攔截高風(fēng)險內(nèi)容輸出，LLM-WAF都能實現(xiàn)實時防護(hù)，并為企業(yè)提供可定制化的攔截響應(yīng)與完整的攻擊溯源能力，助力構(gòu)建安全、合規(guī)、可控的大模型應(yīng)用環(huán)境。

目前，LLM-WAF在多個行業(yè)有典型應(yīng)用場景。金融行業(yè)用于智能投顧、對話銀行等業(yè)務(wù)，可防護(hù)提示攻擊、API套利等風(fēng)險，保障交易、數(shù)據(jù)合規(guī)和系統(tǒng)可用性。泛互行業(yè)用于內(nèi)容平臺等，應(yīng)對爬蟲、越獄Prompt等威脅，平衡內(nèi)容生產(chǎn)與合規(guī)治理。零售行業(yè)用于智能客服等，防范品牌聲譽(yù)受損和利潤侵蝕，確保業(yè)務(wù)穩(wěn)定可靠。

AISPM：大模型安全“園區(qū)天眼”

當(dāng)前大模型部署與使用呈現(xiàn)泛濫趨勢，一方面源于大模型能力提升及應(yīng)用場景拓展，另一方面因云廠商方案簡化、API 服務(wù)發(fā)展及開源模型迭代降低了部署使用門檻，使業(yè)務(wù)接入成本大幅下降。然而，安全團(tuán)隊未能及時制定大模型應(yīng)用體系的管理方案，將使大模型應(yīng)用脫離安全管控。同時，大模型應(yīng)用還引入了新的風(fēng)險如引用的大模型組件存在漏洞，以及組件配置不當(dāng)導(dǎo)致的未授權(quán)訪問等問題。

AISPM通過持續(xù)檢測、評估AI模型和數(shù)據(jù)的安全態(tài)勢，協(xié)助企業(yè)應(yīng)對挑戰(zhàn)。對于企業(yè)來說，基于AISPM掌握自身全部的模型、訓(xùn)練數(shù)據(jù)、供應(yīng)鏈和web接口安全情況，都是非常必要的。

為此，騰訊云推出AISPM大模型安全態(tài)勢管理產(chǎn)品以應(yīng)對大模型專項安全治理場景。該系統(tǒng)提供網(wǎng)絡(luò)掃描和主機(jī)端檢測，提供資產(chǎn)識別、風(fēng)險檢測、攻擊示警等核心能力，支持80余種大模型組件的識別，能夠檢測200多個大模型組件漏洞，并實時監(jiān)控針對大模型的網(wǎng)絡(luò)攻擊行為，使企業(yè)安全團(tuán)隊能夠及時掌握大模型應(yīng)用情況，避免敏感數(shù)據(jù)被用于推理或訓(xùn)練而引發(fā)的法律合規(guī)風(fēng)險。

發(fā)布會上，騰訊云安全高級產(chǎn)品經(jīng)理毛武斌全方位演示了AISPM在AI資產(chǎn)識別、風(fēng)險檢測、攻擊行為監(jiān)控等方面的相關(guān)能力。AISPM在騰訊云安全中心上是一個獨(dú)立的頁面，可根據(jù)企業(yè)具體場景需求進(jìn)行全量資產(chǎn)或指定部分資產(chǎn)進(jìn)行檢測，進(jìn)而全面清晰呈現(xiàn)當(dāng)前資產(chǎn)面臨的暴露路徑、網(wǎng)絡(luò)攻擊來源及風(fēng)險，幫助企業(yè)掌握大模型資產(chǎn)的安全態(tài)勢，以便及時響應(yīng)，守護(hù)企業(yè)的AI安全生態(tài)。

大模型技術(shù)的興起為網(wǎng)絡(luò)安全領(lǐng)域帶來了全新的挑戰(zhàn)與機(jī)遇，企業(yè)需要以開放的心態(tài)、創(chuàng)新的思維和務(wù)實的行動，攜手平衡挑戰(zhàn)與機(jī)遇。騰訊云也將持續(xù)快速迭代，以更創(chuàng)新、場景化的安全產(chǎn)品及解決方案，幫助客戶增強(qiáng)AI系統(tǒng)的安全性、提升防御主動性、降低攻擊面，與行業(yè)伙伴攜手共建一個更加安全、可信的AI時代。