斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀次(ci)數：1468 編輯：系統管理員發布(bu)時間(jian)：2025-12-05 15:01

[字體：大中小]

想象這樣一個畫(hua)面，在(zai)一個普通的(de)(de)工作日(ri)，你坐進(jin)了心(xin)愛的(de)(de)座駕，隨口(kou)問到(dao)：“今日(ri)有什(shen)么(me)(me)新聞？”車載AI立馬啟動，下(xia)一秒，它開始娓(wei)娓(wei)道(dao)來(lai)——上到(dao)事關國計(ji)民生的(de)(de)政策，下(xia)到(dao)市井俚俗的(de)(de)民生八卦，流暢、自然、像朋友(you)聊天一樣貼心(xin)。但如(ru)果這番溝(gou)通中暗含著什(shen)么(me)(me)不(bu)該說的(de)(de)內容？比如(ru)敏感話題(ti)、虛假信息(xi)、甚至來(lai)自釣魚網站的(de)(de)惡意廣告......

這不是科幻片的橋(qiao)段，在(zai)智能(neng)座(zuo)艙加速(su)邁向“AI原生”的今天，每一(yi)輛搭載(zai)AI模(mo)型的智能(neng)座(zuo)駕都必(bi)須(xu)面對的現(xian)實考(kao)題。

作為(wei)智(zhi)能座艙領(ling)域的(de)(de)先(xian)行者，斑馬(ma)智(zhi)行聯合阿里云共同打造(zao)面向智(zhi)能座艙場景(jing)的(de)(de)AI安(an)(an)全(quan)審核(he)方案(an)，通(tong)過(guo)阿里云AI安(an)(an)全(quan)護欄的(de)(de)能力加持和云基礎設施強調的(de)(de)彈性吞吐力，該方案(an)已經成功應用(yong)于(yu)多個頭部品牌車(che)型(xing)中(zhong)，日均支(zhi)撐千(qian)萬級大模(mo)型(xing)安(an)(an)全(quan)審核(he)調用(yong)，為(wei)行業樹(shu)立了大模(mo)型(xing)內(nei)容安(an)(an)全(quan)與用(yong)戶(hu)體驗兼顧的(de)(de)新標(biao)桿。

斑馬智(zhi)行安(an)(an)全負責人評價到：“我(wo)們(men)與阿里云(yun)共同打造的這套(tao)安(an)(an)全護欄方(fang)案，不僅滿足(zu)了國家級(ji)合(he)規(gui)要求，更在(zai)真(zhen)實量產場景中驗證了其高(gao)性(xing)能、高(gao)可靠、可擴展的工程價值。這不僅是(shi)技(ji)術方(fang)案的勝利，更是(shi)AI安(an)(an)全治理體系(xi)在(zai)汽車行業的成功(gong)落地(di)。”

當(dang)大模型(xing)成為汽(qi)車標(biao)配(pei)

千人千面背后的安全隱患

回到文章最(zui)初的(de)場(chang)景，隨著(zhu)大模型(xing)和AI Agent的(de)迅速發(fa)展，智能(neng)座(zuo)艙(cang)里的(de)安全助手(shou)，早已不再(zai)是(shi)只會導(dao)航、會放歌的(de)“工具人(ren)”，在Multi-Agent技術的(de)加持下，它不僅(jin)能(neng)聯網(wang)搜索(suo)，能(neng)多輪(lun)對(dui)話(hua)，還能(neng)一鍵幫(bang)你定制行程(cheng)、分(fen)析新聞......但(dan)每一次看似普通的(de)交(jiao)互背后，都隱藏著(zhu)不容忽視(shi)的(de)安全風(feng)險：

用戶隨(sui)口一句“講個刺激(ji)的歷史(shi)故事”，會不(bu)會觸發不(bu)當內容？
AI從(cong)網上(shang)抓(zhua)取的(de)信息，是否混進了賭博、色(se)情或(huo)釣魚鏈接？
聯網搜索(suo)功能加持下，用(yong)戶輸入(ru)是否會(hui)觸發對惡意網站(zhan)的直接(jie)調(diao)用(yong)？

國家《信息安全技術生成式(shi)人工(gong)智(zhi)能(neng)(neng)服務安全基本要求》（TC260-003）中明確要求，需對(dui)風險進(jin)行(xing)識別(bie)與攔截(jie)。熟(shu)悉安全的(de)朋友可(ke)能(neng)(neng)會疑惑(huo)，內容安全審(shen)核技術已(yi)經發展了數十年，難(nan)道沒(mei)有直接可(ke)用的(de)成熟(shu)解決方(fang)案嗎？實際(ji)上：

一方面，為了保證用戶與模型交互(hu)過程的(de)流暢性，一句話往往被拆(chai)成十幾段(duan)流式(shi)輸出，傳統基于關鍵詞和規則(ze)的(de)專家模型，面對這類(lei)語義復雜、上下文強(qiang)依賴的(de)模型輸出時，最終結果往往是“看得見(jian)字，但不懂意”；
另一方面(mian)，如(ru)果全(quan)部依賴大模(mo)型審核，雖然理(li)解(jie)能力(li)強，但因推(tui)理(li)耗時長且成本高(gao)，難以(yi)滿足車載場景對實(shi)時性的嚴苛要求；

“既要快，又要準”——這正是斑馬智行與阿(a)里云聯(lian)合攻堅的核心命題。

阿里云AI安全護欄(lan)：

三大技術突破，重新定(ding)義車(che)載AI安全(quan)標準

阿(a)里(li)云(yun)AI安(an)全護(hu)欄（AI Guardrails）是云(yun)安(an)全團隊為(wei)人工(gong)智能(neng)系統設(she)計的安(an)全防(fang)護(hu)產品(pin)，防(fang)護(hu)對象覆蓋預(yu)訓練大模型、AI服務(wu)和AI Agent等不同業務(wu)形態。在智能(neng)座(zuo)艙場(chang)景(jing)，AI安(an)全護(hu)欄為(wei)斑馬(ma)智行提供了精準的風險檢測與主動防(fang)御能(neng)力，同時滿足(zu)車載場(chang)景(jing)對效率和效果的要求。

1.雙(shuang)引擎協同(tong)架構：毫(hao)秒級審核響應

不同于單一的審核策(ce)(ce)略(lve)，阿(a)里云AI安(an)全護(hu)欄采用“規則引擎+小模型+大模型”協同審核策(ce)(ce)略(lve)：

所(suo)有輸入/輸出文本(ben)實時切片后，由輕量(liang)級專家(jia)模型并行(xing)執行(xing)毫秒級初篩(shai)，快速(su)攔截明顯風險(xian)；

同時，重新編排大模型深度(du)審(shen)核(he)鏈路，利用(yong)多線程(cheng)智能(neng)化調度(du)；

最(zui)終(zhong)融(rong)合雙引擎結(jie)果，在(zai)不犧(xi)牲召回率的前提下(xia)，有(you)效降低了端(duan)到端(duan)審(shen)核延的響應(ying)時間，完(wan)美適配車(che)載用戶(hu)實時交互(hu)的流暢體驗，用戶(hu)感(gan)覺不到“檢(jian)查”的存在(zai)，安全卻始終(zhong)在(zai)線。

2.流式上下文關聯審核：短文本(ben)不再“裸(luo)奔”

為了保障(zhang)與(yu)客戶(hu)溝(gou)通的(de)實時性(xing)，大模型內容生成大多(duo)采(cai)用“邊(bian)生成，邊(bian)輸入”的(de)流(liu)式(shi)(shi)模式(shi)(shi)，一段回答可能(neng)會分為10次(ci)推送，單次(ci)切片可能(neng)僅10-20字，傳統審(shen)核模型因(yin)缺(que)乏上下文，面對這種(zhong)“碎(sui)片化表達(da)”，極易漏判(pan)。阿里云AI安全護欄采(cai)用“大模型流(liu)式(shi)(shi)審(shen)核方案”：

通過唯(wei)一(yi)標識(shi)關聯一(yi)次完整對話；
安全護欄自動聚合(he)同一會(hui)話中的(de)所有(you)切片，進行跨片段語義(yi)理解；
即使敏感內容分散(san)在多輪輸出中(zhong)，也能(neng)精準識(shi)別并(bing)攔截；

實測顯示，該方案(an)將短文本場景下的風險內容召(zhao)回率提升至98%以上，遠超傳統方案(an)。

3.聯網檢索風險實時(shi)攔截：堵(du)住Agent的“后門”

在支持聯網(wang)搜索的Agent場景(jing)中，用戶提(ti)問可能觸發對第(di)三方網(wang)頁的抓取，例(li)如：

用戶(hu)問一句：“幫我找附(fu)近評(ping)分最高(gao)的酒吧”，AI所(suo)搜索(suo)到的目標站(zhan)點可能是某(mou)個偽裝成酒吧推薦(jian)網頁(ye)的釣魚、賭博或色情網站(zhan)，將直接(jie)污(wu)染(ran)大(da)模型的輸入。阿里云AI安(an)全所(suo)具(ju)有的“URL風險(xian)檢測”模塊，則能快速應對：

對所(suo)有聯網請(qing)求中的第三方鏈接(jie)進行實(shi)時掃描；
精(jing)準識別色情信息、非法賭博、釣(diao)魚網站、虛假營(ying)銷等(deng)風險類型：
一旦(dan)命(ming)中高風(feng)險標簽(qian)，立即終止任務(wu)，防止有害信(xin)息流入大模型(xing)。

目前該(gai)能力已覆蓋(gai)智(zhi)能搜索、資訊推薦等(deng)多個高(gao)頻場景。

云基礎設(she)施彈性保障(zhang)：安全能力“隨需調用”

對(dui)于(yu)各大車企，定(ding)期(qi)的(de)促銷、活動(dong)、新車上市......往往都伴隨著(zhu)流量激(ji)增。尤其在智(zhi)能駕駛(shi)、智(zhi)能座艙等新興領域(yu)，首發熱度動(dong)輒帶來數倍于(yu)日常的(de)調用量，這(zhe)對(dui)任何產品都是一(yi)次“壓(ya)力(li)測試”，如果(guo)安全審核扛(kang)不住，輕(qing)則延遲卡頓、重(zhong)則全面宕機。

阿里(li)云AI安全(quan)護欄(lan)依托于(yu)阿里(li)云強大的基礎(chu)設施，為客(ke)(ke)戶提供可(ke)彈性拓展的安全(quan)防護力，支持(chi)客(ke)(ke)戶按需(xu)購買QPS彈性擴展包，最短7天起訂，已驗證可(ke)支持(chi)單(dan)項(xiang)目(mu)峰值600 QPS的穩定(ding)運行(xing)。

無(wu)論是平日通勤，還是發(fa)布會后的“搶車潮”，安全能力始終絲滑在線。(斑馬智(zhi)行)

掃(sao)(sao)一(yi)掃(sao)(sao)在手機打(da)開當(dang)前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

毛片一级毛片,欧美人禽杂交狂配在线观看,国产野外无码理论片,国内精品在线,少妇流白浆正在播放,6080yy伦理亚洲第一区,免费一看一级毛片孕妇视频,国产手机AV电影在线观看,黄色视频中文字幕,日韩情趣乱

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿