免费的三级毛片-免费的毛片视频-免费的看黄网站-免费的黄网站-免费的黄视频-免费的黄色片视频

會員 密碼 注冊 會員權(quán)益

大模型時代的安全命題:技術(shù)倫理、風(fēng)險管控與協(xié)同治理

時間:2025-07-15來源:全球數(shù)字經(jīng)濟(jì)大會 作者:

7月4日,由全球數(shù)字經(jīng)濟(jì)大會組委會主辦、中國信息通信研究院承辦的2025全球數(shù)字經(jīng)濟(jì)大會數(shù)字生態(tài)建設(shè)專題論壇在北京舉行。騰訊云李濱代表團(tuán)隊做了主題分享,深入解析大模型面臨的安全風(fēng)險與技術(shù)挑戰(zhàn),并系統(tǒng)分享構(gòu)建與AI共生的智能安全防護(hù)體系的實踐路徑與策略。

大會同步公布中國信通院2025年度第二期“磐安”優(yōu)秀案例遴選結(jié)果。憑借創(chuàng)新技術(shù)架構(gòu)與實戰(zhàn)成效,騰訊云以NDR產(chǎn)品能力為基礎(chǔ)打造的態(tài)勢感知全流量檢測與響應(yīng)項目案例,獲評綜合領(lǐng)域優(yōu)秀案例,成為數(shù)字生態(tài)安全建設(shè)的標(biāo)桿實踐。


1752563872940674.png


隨著AI技術(shù)的發(fā)展,機器已經(jīng)能夠超越圖靈測試的標(biāo)準(zhǔn),開始以更加人性化的方式與用戶進(jìn)行交流。以大模型生成技術(shù)為核心的人工智能正逐漸成為推動經(jīng)濟(jì)增長的新引擎,為解決各行各業(yè)的痛點提供了創(chuàng)新的解決方案。AI技術(shù)作為新的生產(chǎn)驅(qū)動力,正引領(lǐng)企業(yè)數(shù)字化轉(zhuǎn)型進(jìn)入“大模型時代”。

但 AI 熱潮背后,黑灰產(chǎn)暗流涌動,從個人隱私、企業(yè)資產(chǎn)到交通醫(yī)療等關(guān)鍵領(lǐng)域,AI 安全防線正面臨系統(tǒng)性沖擊。騰訊云安全總結(jié)了大模型企業(yè)應(yīng)用十大常見安全風(fēng)險,涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應(yīng)鏈風(fēng)險,以及自動化Agent權(quán)限濫用、模型推理被劫持等新型AI應(yīng)用威脅。這些風(fēng)險貫穿于企業(yè)應(yīng)用大模型的各個環(huán)節(jié),構(gòu)成關(guān)鍵挑戰(zhàn)。李濱指出,大模型安全風(fēng)險并非孤立存在,而是從數(shù)據(jù)采集、處理、模型訓(xùn)練、部署到最終應(yīng)用的整個AI技術(shù)生命周期中端到端傳導(dǎo)的。


1752563913777153.png


面對AI賦能的攻擊新范式,傳統(tǒng)安全防御體系已顯乏力,構(gòu)建適應(yīng)AI時代的新型防御體系,已成為數(shù)字安全領(lǐng)域的當(dāng)務(wù)之急。面對大模型的安全挑戰(zhàn),騰訊在大模型的應(yīng)用覆蓋了從底層技術(shù)研究、企業(yè)服務(wù)到終端應(yīng)用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”,騰訊安全建立了一套系統(tǒng)性的框架,對整個人工智能以及大模型的安全進(jìn)行完備的風(fēng)險分析,通過業(yè)務(wù)流和技術(shù)棧兩個維度,來分析人工智能在本體安全、運行環(huán)境和基礎(chǔ)設(shè)施,應(yīng)用環(huán)境中和應(yīng)用環(huán)境周邊發(fā)生的一些風(fēng)險缺陷。

在風(fēng)險控制框架之下,騰訊也建立了大模型相關(guān)整體安全治理架構(gòu),從數(shù)據(jù)采集、模型訓(xùn)練、代理部署到業(yè)務(wù)應(yīng)用的全流程,均滿足監(jiān)管要求,為企業(yè)提供安全、可控、可靠的服務(wù)。

圍繞大模型生命周期各階段風(fēng)險,騰訊構(gòu)建了包含五大重點的大模型安全防護(hù)整體架構(gòu),針對性制定安全防護(hù)措施與策略:一是聚焦邊界API與用戶輸入輸出安全,通過安全管控機制防范該邊界的注入攻擊等風(fēng)險,防止不當(dāng)內(nèi)容的輸入輸出及數(shù)據(jù)泄露;二是強化模型基礎(chǔ)設(shè)施安全防護(hù)與態(tài)勢管理;三是實施智能體行為與意圖安全管控;四是加強智能體與MCP的身份及特權(quán)防護(hù);五是推進(jìn)數(shù)據(jù)安全全流程治理。


1752563936877202.png


在模型應(yīng)用邊界安全方面,基于行業(yè)痛點騰訊研發(fā)LLM-WAF大模型防火墻。LLM-WAF提供多模型、多場景、高并發(fā)環(huán)境下的全鏈路防護(hù)能力,支持實時檢測并攔截針對大模型的算力濫用、提示詞攻擊及數(shù)據(jù)泄露風(fēng)險,助力企業(yè)構(gòu)建可信、穩(wěn)定、可持續(xù)的大模型服務(wù)生態(tài)。


1752563998112295.png


在大模型安全態(tài)勢管理方面,騰訊推出AI-SPM大模型安全態(tài)勢管理產(chǎn)品以應(yīng)對大模型專項安全治理場景。該系統(tǒng)通過網(wǎng)絡(luò)掃描和主機端檢測,提供資產(chǎn)識別、風(fēng)險檢測、攻擊示警等核心能力,幫助用戶進(jìn)行大模型安全專項治理,保護(hù)大模型基礎(chǔ)設(shè)施運行環(huán)境,及時發(fā)現(xiàn)和處置安全風(fēng)險。


1752564072765105.png


在數(shù)據(jù)與內(nèi)容安全上,數(shù)據(jù)層面是基于騰訊混元大模型,圍繞大模型的生命周期,根據(jù)不同階段的風(fēng)險制定對應(yīng)安全防護(hù)措施,通過數(shù)據(jù)分類分級、動態(tài)脫敏等技術(shù)保障數(shù)據(jù)安全;內(nèi)容安全上則是借助天御內(nèi)容風(fēng)控平臺,從大模型內(nèi)容安全綜合防控,接口輸入、內(nèi)容預(yù)處理、模型識別、策略輔助、平臺調(diào)度分析、人工標(biāo)注運營6個維度為大模型的訓(xùn)練和推理提供有效支撐。

在攻防對抗與情報方面,騰訊云安全建立了大模型安全Red Team對抗機制,基于騰訊安全專家服務(wù)團(tuán)隊,建立針對大模型的安全測試方法,主動發(fā)現(xiàn)大模型及生態(tài)存在的(漏洞)風(fēng)險,持續(xù)驗證大模型應(yīng)用的安全有效性。同時,在合法合規(guī)標(biāo)準(zhǔn)方面,騰訊云安全也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作,如參與起草《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》國際標(biāo)準(zhǔn)等,依托自研大模型混元為企業(yè)保駕護(hù)航。

騰訊以全局視角和實戰(zhàn)經(jīng)驗為基礎(chǔ),圍繞大模型全生命周期構(gòu)建起系統(tǒng)性安全治理框架,并通過LLM-WAF、AI-SPM、Red Team機制等核心技術(shù)手段,推動防護(hù)能力向縱深演進(jìn)。

未來,騰訊將繼續(xù)攜手各方力量,持續(xù)完善大模型安全標(biāo)準(zhǔn)與防護(hù)能力,共筑可信、可控、可持續(xù)的AI安全防線,讓人工智能真正成為驅(qū)動社會進(jìn)步的可靠引擎。




原標(biāo)題: / 編輯:
◆第一商業(yè)網(wǎng)版權(quán)與免責(zé)聲明
1、凡本網(wǎng)注明“摘自:本站原創(chuàng)”的所有作品,版權(quán)均屬第一商業(yè)網(wǎng)所有,未經(jīng)本網(wǎng)書面授權(quán)不得轉(zhuǎn)載、摘編、復(fù)制或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,被授權(quán)人應(yīng)在授權(quán)范圍內(nèi)使用,并注明“來源:第一商業(yè)網(wǎng)”。
違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
2、本網(wǎng)其他來源作品,均轉(zhuǎn)載自其他媒體,轉(zhuǎn)載目的在于傳播更多信息,豐富網(wǎng)絡(luò)文化,此類稿件不代表本網(wǎng)觀點。
3、任何單位或個人認(rèn)為本網(wǎng)站或本網(wǎng)站鏈接內(nèi)容可能涉嫌侵犯其合法權(quán)益,應(yīng)該及時向本網(wǎng)站書面反饋,并提供身份證明,權(quán)屬證明及詳細(xì)侵權(quán)情況證明,本網(wǎng)站在收到上述法律文件后,將會盡快移除被控侵權(quán)的內(nèi)容或鏈接。
4、如因作品內(nèi)容、版權(quán)和其他問題需要與本網(wǎng)聯(lián)系的,請在該事由發(fā)生之日起30日內(nèi)進(jìn)行。電話:020-38248250 傳真 020-38248296
Copyright©2025  第一商業(yè)網(wǎng)版權(quán)所有     www.hsmznbi.cn 
主站蜘蛛池模板: 羞羞影院午夜男女爽爽影院网站 | 四虎影视黄色 | 国产欧美亚洲精品第一页青草 | 96av视频在线观看 | 欧美一级在线视频 | 欧美日韩一二三区免费视频观看 | 女教师系列三上悠亚在线观看 | 97青草香蕉依人在线播放 | 男人的天堂在线观看视频不卡 | 好大好硬好深好爽想要吃奶 | 好大好硬视频 | 欧美灰丝袜丝交nylons | 美女班主任让我爽了一夜视频 | 国产在线精品成人一区二区三区 | 久久亚洲精品AV成人无码 | 欧美日韩国产中文字幕 | 青青热久久综合网伊人 | 亚洲AV久久久噜噜噜久久 | 麻豆婷婷 | 美女露尿口 | 好大好深受不了了快进来 | 国产亚洲精品第一综合另类 | 被夫上司侵犯了中文字幕 | 日本免费一区二区三区四区五六区 | 草大逼| 青草国内精品视频在线观看 | 国产香蕉97碰碰久久人人 | 欧美兽皇另类 | 亚洲女同一区二区 | ffee性xxⅹ另类老妇hd | 免费观看无人区完整版 | 久久久久久免费高清电影 | 万域之王动漫在线观看全集免费播放 | 日本肉体xxxx69xxxx | 日韩 欧美 国产 亚洲 中文 | 手机在线免费观看高清 | 91手机看片国产永久免费 | 9久热这里只有精品免费 | 女女性恋爱视频入口 | 免费一级特黄特色大片在线观看 | 国产麻豆91欧美一区二区 |