2025年3月28日，由DTinsight中國(guó)數(shù)智發(fā)展研究中心主辦，珠峰AI、TGO20組、DT千川匯作為智庫(kù)支持，以“探索未至之境”為主題的第二屆AI大模型企業(yè)落地應(yīng)用場(chǎng)景創(chuàng)新峰會(huì)主論壇在上海閉幕。騰訊云安全總經(jīng)理李濱受邀出席了主論壇，并進(jìn)行了題為《攻防對(duì)抗升級(jí)：大模型如何重構(gòu)網(wǎng)絡(luò)安全戰(zhàn)場(chǎng)》的主題演講。

騰訊云安全總經(jīng)理 李濱

“未來是AI對(duì)抗AI的時(shí)代，靠人工去對(duì)抗手中擁有大量科研工具的黑客，顯然是不現(xiàn)實(shí)的。”李濱表示，AI和大模型帶來了攻防雙方的全面升級(jí)，要應(yīng)對(duì)大模型伴生的安全問題，企業(yè)需要從組織架構(gòu)、技術(shù)儲(chǔ)備等各個(gè)方面調(diào)整策略，以應(yīng)對(duì)挑戰(zhàn)，“我們需要建立一個(gè)和AI共生的安全體系。”

作為網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)，騰訊安全也一直致力于推進(jìn)大模型前沿安全研究，完善大模型在基礎(chǔ)設(shè)施、應(yīng)用層面的各種安全治理機(jī)制，推出各種高性能產(chǎn)品幫助企業(yè)應(yīng)對(duì)AI時(shí)代的安全風(fēng)險(xiǎn)，并聯(lián)合CSA云安全聯(lián)盟大中華區(qū)、OWASP中國(guó)等權(quán)威機(jī)構(gòu)推動(dòng)大模型相關(guān)安全標(biāo)準(zhǔn)的落地。

大模型應(yīng)用加速 安全攻防全面升級(jí)

伴隨Deepseek帶來的深度推理的突破，企業(yè)應(yīng)用AI的熱情高漲，大模型正在加速滲透進(jìn)各行各業(yè)，為解決產(chǎn)業(yè)痛點(diǎn)帶來了全新的思路，但在安全從業(yè)者看來，這也意味著巨大的安全挑戰(zhàn)。

“人工智能技術(shù)的普遍應(yīng)用，實(shí)現(xiàn)了物理世界和數(shù)字世界的廣泛連接，也打破了傳統(tǒng)的數(shù)字安全的邊界。”李濱表示，傳統(tǒng)的數(shù)字安全普遍是在IT系統(tǒng)之內(nèi)，發(fā)生安全事故的后果主要是系統(tǒng)宕機(jī)、服務(wù)癱瘓，但是在AI時(shí)代，物理世界和數(shù)字世界高度融合，信息安全事故可能會(huì)蔓延到物理世界中，造成更大面積的影響。

此外，大模型還將帶來幾方面的安全挑戰(zhàn)，一是大模型賦能于攻擊側(cè)，李濱舉例，人工智能應(yīng)用于攻擊代碼和工具編寫等環(huán)節(jié)之后，攻擊者進(jìn)行漏洞利用的速度比2年之前提升了10倍以上，另外在一些常用的攻擊手段上，例如釣魚郵件、自動(dòng)化代碼攻擊方面的效率也有巨大的飛躍；二是大模型本體的安全問題，模型本體的安全缺陷，以及部署和應(yīng)用過程中不當(dāng)?shù)陌踩�配置，都有可能引入安全風(fēng)險(xiǎn)，包括AI幻覺、違規(guī)內(nèi)容、虛假信息、偏見歧視、隱私泄露、大模型惡意濫用等。

但是，作為一把“雙刃劍”，大模型同時(shí)也賦能于防御側(cè)，帶來攻防雙方的動(dòng)態(tài)平衡。例如，大模型極大地提升了安全管理和事件響應(yīng)處置的效率，例如過去5年以來互聯(lián)網(wǎng)上出現(xiàn)的安全事件中，約有20%都是由各類安全權(quán)限配不當(dāng)引起的，通過大模型的賦能，企業(yè)可以實(shí)現(xiàn)更優(yōu)化的安全策略管理；例如在告警分析上，企業(yè)的安全設(shè)備每天會(huì)產(chǎn)生海量告警，其中只有少數(shù)是真正的威脅，過去在這些告警分析上企業(yè)需要消耗大量人力，而大模型可以通過各類安全和專用的模型去對(duì)這類的數(shù)據(jù)進(jìn)行分析，快速發(fā)現(xiàn)已知和未知的安全風(fēng)險(xiǎn)。

李濱認(rèn)為，大模型目前還處在初期時(shí)代，未來隨著大模型逐步釋放出更大的生產(chǎn)力，會(huì)應(yīng)用在越來越多的地方，我們也需要有相應(yīng)的策略去應(yīng)對(duì)安全問題和風(fēng)險(xiǎn)，需要建立和AI共生的安全體系。

從技術(shù)到組織體系全面升級(jí) 構(gòu)建AI時(shí)代的動(dòng)態(tài)安全生態(tài)

大模型深入企業(yè)業(yè)務(wù)流程，它的安全問題不只是某個(gè)局部的安全對(duì)抗，而涉及整個(gè)安全體系的升級(jí)。李濱認(rèn)為，需要從技術(shù)層、管理層、合規(guī)層和倫理層四個(gè)層面構(gòu)建AI時(shí)代的動(dòng)態(tài)安全生態(tài)。

騰訊擁有自研大模型混元，并通過騰訊云向企業(yè)客戶提供大模型部署需要的基礎(chǔ)設(shè)施和云計(jì)算相關(guān)服務(wù)，同時(shí)騰訊也擁有面向C端用戶的大模型應(yīng)用“元寶”。可以說，騰訊在大模型的應(yīng)用覆蓋了從底層技術(shù)研究、企業(yè)服務(wù)到終端應(yīng)用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統(tǒng)性的框架，對(duì)整個(gè)人工智能以及大模型的安全進(jìn)行完備的風(fēng)險(xiǎn)分析，通過業(yè)務(wù)流和技術(shù)棧兩個(gè)維度，來分析人工智能在本體安全、運(yùn)行環(huán)境和基礎(chǔ)設(shè)施，應(yīng)用環(huán)境中和應(yīng)用環(huán)境周邊發(fā)生的一些風(fēng)險(xiǎn)缺陷。

在風(fēng)險(xiǎn)控制框架之下，騰訊也建立了大模型相關(guān)整體安全治理架構(gòu)，從數(shù)據(jù)采集、模型訓(xùn)練、代理部署到業(yè)務(wù)應(yīng)用的全流程，均滿足監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務(wù)。

數(shù)據(jù)安全是企業(yè)應(yīng)用大模型服務(wù)的一個(gè)“痛點(diǎn)”，對(duì)數(shù)據(jù)安全的擔(dān)憂直接影響了企業(yè)決定采取哪個(gè)模型本體、哪種部署方式。為了幫助企業(yè)解決這個(gè)問題，騰訊云也推出了跨模型數(shù)據(jù)安全和隱私保護(hù)框架，該框架覆蓋了數(shù)據(jù)采集的合規(guī)性以及數(shù)據(jù)基礎(chǔ)的保護(hù)，數(shù)據(jù)的分類、分級(jí)評(píng)估和治理，數(shù)據(jù)在訓(xùn)練和推理過程中的安全保護(hù)機(jī)制，以及數(shù)據(jù)輸入輸出環(huán)節(jié)中的保障機(jī)制的建立，覆蓋了大模型從采集、部署、訓(xùn)練、推理的全流程鏈條。

李濱重點(diǎn)提出，在內(nèi)容輸入和輸出環(huán)節(jié)，由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因，大模型可能會(huì)生成有風(fēng)險(xiǎn)的內(nèi)容，而騰訊天御基于多年內(nèi)容安全的能力，能幫助企業(yè)進(jìn)行大模型應(yīng)對(duì)這一安全隱患。

在攻防對(duì)抗與情報(bào)方面，騰訊云建立了大模型安全Red Team對(duì)抗機(jī)制，以騰訊的安全專家能力為基礎(chǔ)，建立針對(duì)大模型的安全測(cè)試方法，主動(dòng)發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險(xiǎn)，并依托這些安全研究成果，研發(fā)了專門針對(duì)大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢(shì)感知系統(tǒng)AI-SPM和大模型智能安全網(wǎng)關(guān)LLM-WAF，為企業(yè)大模型應(yīng)用進(jìn)行全生命周期保障護(hù)航。

此外，騰訊也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作。去月，世界數(shù)字技術(shù)院（WDTA）發(fā)布了一系列突破性成果，包括《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語言模型安全測(cè)試方法》兩項(xiàng)國(guó)際標(biāo)準(zhǔn)，這是國(guó)際組織首次就大模型安全領(lǐng)域發(fā)布國(guó)際標(biāo)準(zhǔn)，騰訊也是這兩項(xiàng)標(biāo)準(zhǔn)的起草單位之一。騰訊云還積極和CSA云安全聯(lián)盟大中華區(qū)在人工智能方向合作研究大模型安全評(píng)估方法，并參與《大模型供應(yīng)鏈安全要求》標(biāo)準(zhǔn)審核工作。