人工智能時代，以大模型為代表的技術已成為國際競爭新焦點與經(jīng)濟發(fā)展新引擎，深刻改變社會格局并廣泛應用于目標檢測、語音識別、自然語言處理等關鍵領域。以DeepSeek等為代表的大模型正迅速滲透各行各業(yè)，驅動新一代AI發(fā)展浪潮。

然而，在帶來巨大便利與機遇的同時，大模型也暴露出嚴峻的安全挑戰(zhàn)：模型訓練與使用過程中的隱私泄露、自身安全性問題日益凸顯；其風險深藏于語義與算力層，使得僅關注協(xié)議與流量的傳統(tǒng)防火墻無力應對提示詞注入攻擊、敏感數(shù)據(jù)泄露及GPU算力惡意消耗等新型威脅；同時，全球日益收緊的AI與數(shù)據(jù)安全法規(guī)，也使大模型生成內(nèi)容的合規(guī)性審查成為企業(yè)必須面對的嚴峻課題。這些“系統(tǒng)性短板”涵蓋安全架構、漏洞響應、數(shù)據(jù)合規(guī)等方面，亟待通過技術突破、管理強化與多方協(xié)同，建立完善的內(nèi)生安全機制，以保障大模型在各個關鍵領域安全運行。

面對AI時代的系統(tǒng)性挑戰(zhàn)，6月24日，騰訊云舉辦“開箱吧，騰訊云”大模型安全發(fā)布會，正式推出面向大模型應用場景的全棧安全解決方案。發(fā)布會上，騰訊云重磅發(fā)布兩大全新產(chǎn)品——LLM-WAF大模型防火墻和AISPM大模型安全態(tài)勢管理平臺，并揭示GuardLM技術的突破。三位來自騰訊的安全專家登臺，通過直觀的產(chǎn)品功能演示，深入剖析在復雜多變的大模型安全態(tài)勢下，企業(yè)普遍面臨的各類通用安全問題，并結合金融、泛互、零售等不同行業(yè)領域的實際案例，分享騰訊云在大模型安全防護方面的成功實踐經(jīng)驗和行業(yè)領先的安全策略，助力企業(yè)構建可信賴的大模型安全防線。

從技術到組織體系：縱深應對大模型多重安全風險

AI技術帶來新的生產(chǎn)驅動力，企業(yè)數(shù)字化進入“大模型時代”。在企業(yè)將大模型投入實際應用的過程中，騰訊云安全總結了大模型企業(yè)應用十大常見安全風險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應鏈風險，以及自動化Agent權限濫用、模型推理被劫持等新型AI應用威脅。這些風險貫穿于企業(yè)應用大模型的各個環(huán)節(jié)，構成關鍵挑戰(zhàn)。騰訊云安全總經(jīng)理李濱分析，這些風險并非孤立存在，而是從數(shù)據(jù)采集、處理、模型訓練、部署到最終應用的整個AI技術生命周期中端到端傳導的。

李濱總結，大模型安全問題本質(zhì)上是一次全方位的安全體系升級，而非局限于局部對抗，需要從全局視角建立系統(tǒng)框架。為此，騰訊云安全從技術、管理、合規(guī)、倫理四大維度出發(fā)，全面覆蓋數(shù)據(jù)隱私、模型自身、應用集成、基礎設施以及治理倫理等領域，構建 AI 時代的動態(tài)安全生態(tài)。

騰訊云大模型安全治理框架以安全基準、安全運營和安全合規(guī)三大支柱為基礎，形成了覆蓋模型基礎設施到應用全生命周期的立體化技術防護方案，針對不同階段風險部署相應策略，構建起大模型安全的縱深防御體系。

 ●  在內(nèi)容輸入和輸出環(huán)節(jié)，由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因，大模型可能會生成有風險的內(nèi)容，而騰訊云天御基于多年內(nèi)容安全的能力，能幫助企業(yè)進行大模型應對這一安全隱患。

 ●  在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機制，以騰訊的安全專家能力為基礎，建立針對大模型的安全測試方法，主動發(fā)現(xiàn)大模型及生態(tài)存在的風險，并依托這些安全研究成果，研發(fā)了專門針對大模型進行安全保護的大模型安全態(tài)勢感知系統(tǒng)AISPM和大模型智能安全網(wǎng)關LLM-WAF，為企業(yè)大模型應用進行全生命周期保障護航。

 ●  在合法合規(guī)標準方面，騰訊云安全也積極參與大模型相關標準的制定工作，如參與起草《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》國際標準等，依托自研大模型混元為企業(yè)保駕護航。

LLM-WAF：大模型服務“專業(yè)門衛(wèi)”

據(jù)IDC數(shù)據(jù)，2024年全球AI IT總投資達3158億美元，預計2028年將增至8159億美元，五年復合增長率32.9%。AI大模型從實驗室走向各行業(yè)，成為企業(yè)數(shù)字化轉型的關鍵力量。然而，隨著AI與企業(yè)業(yè)務融合加深，安全問題和需求也日益凸顯。騰訊云安全高級產(chǎn)品經(jīng)理王軍從案例出發(fā)揭示大模型四大安全痛點，從BOT濫爬、API風險，到提示詞注入攻擊，再到不當信息濫用，大模型提升業(yè)務效率的同時也帶來安全隱患。只有在上線初期就將大模型安全防護能力“一體化”接入業(yè)務，才能避免效率紅利被安全風險吞噬。

基于此，騰訊云WAF在原有基礎上，正式面向大模型業(yè)務推出大模型安全防護模塊LLM-WAF。該產(chǎn)品采用創(chuàng)新的架構理念，專為大模型應用場景打造，能夠在多模型、多場景、高并發(fā)環(huán)境下提供全鏈路防護。LLM-WAF支持企業(yè)大模型業(yè)務5分鐘快速接入防護，兼容騰訊混元、DeepSeek等多種主流大模型。其智能安全防護引擎可高效檢測并攔截算力濫用、提示詞攻擊、不當內(nèi)容、數(shù)據(jù)泄露等各類安全風險，為大模型業(yè)務運行提供全面保障。

騰訊云安全高級產(chǎn)品經(jīng)理王軍介紹，LLM-WAF的核心優(yōu)勢具體表現(xiàn)在：一支持輕松接入，即刻防護，5分鐘內(nèi)完成配置；二是智能守護算力資源，實時監(jiān)測攔截異常算力濫用行為；三是內(nèi)容安全雙重保障，通過兩道防線識別不當及敏感信息；四是API安全縱深防御，覆蓋API全生命周期，降低數(shù)據(jù)泄露風險；五是BOT流量精準管理，結合AI驅動精準識別和動態(tài)挑戰(zhàn)機制確保核心接口資源安全；六是合規(guī)有保障，提供詳細攻擊日志記錄，滿足審計需求。基于此，LLM-WAF在真實業(yè)務場景下能夠提供強大防護能力——無論是防止惡意提示詞注入，還是攔截高風險內(nèi)容輸出，LLM-WAF都能實現(xiàn)實時防護，并為企業(yè)提供可定制化的攔截響應與完整的攻擊溯源能力，助力構建安全、合規(guī)、可控的大模型應用環(huán)境。

目前，LLM-WAF在多個行業(yè)有典型應用場景。金融行業(yè)用于智能投顧、對話銀行等業(yè)務，可防護提示攻擊、API套利等風險，保障交易、數(shù)據(jù)合規(guī)和系統(tǒng)可用性。泛互行業(yè)用于內(nèi)容平臺等，應對爬蟲、越獄Prompt等威脅，平衡內(nèi)容生產(chǎn)與合規(guī)治理。零售行業(yè)用于智能客服等，防范品牌聲譽受損和利潤侵蝕，確保業(yè)務穩(wěn)定可靠。

AISPM：大模型安全“園區(qū)天眼”

當前大模型部署與使用呈現(xiàn)泛濫趨勢，一方面源于大模型能力提升及應用場景拓展，另一方面因云廠商方案簡化、API 服務發(fā)展及開源模型迭代降低了部署使用門檻，使業(yè)務接入成本大幅下降。然而，安全團隊未能及時制定大模型應用體系的管理方案，將使大模型應用脫離安全管控。同時，大模型應用還引入了新的風險如引用的大模型組件存在漏洞，以及組件配置不當導致的未授權訪問等問題。

AISPM通過持續(xù)檢測、評估AI模型和數(shù)據(jù)的安全態(tài)勢，協(xié)助企業(yè)應對挑戰(zhàn)。對于企業(yè)來說，基于AISPM掌握自身全部的模型、訓練數(shù)據(jù)、供應鏈和web接口安全情況，都是非常必要的。

為此，騰訊云推出AISPM大模型安全態(tài)勢管理產(chǎn)品以應對大模型專項安全治理場景。該系統(tǒng)提供網(wǎng)絡掃描和主機端檢測，提供資產(chǎn)識別、風險檢測、攻擊示警等核心能力，支持80余種大模型組件的識別，能夠檢測200多個大模型組件漏洞，并實時監(jiān)控針對大模型的網(wǎng)絡攻擊行為，使企業(yè)安全團隊能夠及時掌握大模型應用情況，避免敏感數(shù)據(jù)被用于推理或訓練而引發(fā)的法律合規(guī)風險。

發(fā)布會上，騰訊云安全高級產(chǎn)品經(jīng)理毛武斌全方位演示了AISPM在AI資產(chǎn)識別、風險檢測、攻擊行為監(jiān)控等方面的相關能力。AISPM在騰訊云安全中心上是一個獨立的頁面，可根據(jù)企業(yè)具體場景需求進行全量資產(chǎn)或指定部分資產(chǎn)進行檢測，進而全面清晰呈現(xiàn)當前資產(chǎn)面臨的暴露路徑、網(wǎng)絡攻擊來源及風險，幫助企業(yè)掌握大模型資產(chǎn)的安全態(tài)勢，以便及時響應，守護企業(yè)的AI安全生態(tài)。

大模型技術的興起為網(wǎng)絡安全領域帶來了全新的挑戰(zhàn)與機遇，企業(yè)需要以開放的心態(tài)、創(chuàng)新的思維和務實的行動，攜手平衡挑戰(zhàn)與機遇。騰訊云也將持續(xù)快速迭代，以更創(chuàng)新、場景化的安全產(chǎn)品及解決方案，幫助客戶增強AI系統(tǒng)的安全性、提升防御主動性、降低攻擊面，與行業(yè)伙伴攜手共建一個更加安全、可信的AI時代。