斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀(du)次數：1468 編輯：系統(tong)管理員發布時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象這樣一(yi)個畫面，在一(yi)個普通的工作日(ri)，你坐進了心愛的座駕，隨口(kou)問到(dao)：“今(jin)日(ri)有什(shen)(shen)么(me)新聞？”車載AI立馬啟(qi)動，下一(yi)秒，它開始娓(wei)娓(wei)道來——上到(dao)事關國計(ji)民生的政(zheng)策，下到(dao)市井俚(li)俗(su)的民生八卦(gua)，流暢、自然、像(xiang)朋(peng)友聊天一(yi)樣貼心。但如果這番溝(gou)通中暗(an)含著(zhu)什(shen)(shen)么(me)不該(gai)說的內容？比如敏感話題、虛假信(xin)息、甚(shen)至來自釣魚網站的惡意(yi)廣告......

這不是(shi)科幻片的橋段，在(zai)智(zhi)能座艙加速邁向“AI原生”的今天，每(mei)一輛搭載(zai)AI模(mo)型的智(zhi)能座駕都必須(xu)面對的現實考題。

作為智能(neng)座艙(cang)(cang)領域(yu)的先行者，斑馬智行聯(lian)合阿里(li)(li)云共同打造面(mian)向(xiang)智能(neng)座艙(cang)(cang)場景的AI安全(quan)審核方案，通過阿里(li)(li)云AI安全(quan)護欄的能(neng)力加持和云基礎設(she)施強(qiang)調(diao)的彈性吞吐力，該(gai)方案已經成功應用于多個頭(tou)部品牌車型(xing)中，日均支撐千萬級大模型(xing)安全(quan)審核調(diao)用，為行業樹立了(le)大模型(xing)內(nei)容安全(quan)與用戶體驗兼顧的新標桿。

斑馬智行(xing)(xing)安全負責人評價(jia)到(dao)：“我們與阿(a)里云共(gong)同(tong)打造的(de)這(zhe)(zhe)套安全護欄(lan)方(fang)案，不僅滿足了國(guo)家(jia)級合規要(yao)求，更在真實量產場景中(zhong)驗證了其高(gao)性能、高(gao)可靠、可擴展的(de)工程價(jia)值。這(zhe)(zhe)不僅是技術方(fang)案的(de)勝利，更是AI安全治理體(ti)系在汽(qi)車行(xing)(xing)業的(de)成(cheng)功落地(di)。”

當大模型成(cheng)為汽車標配

千人(ren)千面背(bei)后的安全隱患

回到文章最(zui)初的(de)(de)場景，隨著大模(mo)型(xing)和AI Agent的(de)(de)迅速發展，智能(neng)座艙里的(de)(de)安全(quan)助手，早已不(bu)再(zai)是只會導航、會放歌的(de)(de)“工(gong)具人(ren)”，在(zai)Multi-Agent技術的(de)(de)加持(chi)下(xia)，它不(bu)僅能(neng)聯(lian)網搜(sou)索(suo)，能(neng)多輪(lun)對話，還能(neng)一鍵幫你定制行程、分析新(xin)聞......但每一次看似(si)普(pu)通的(de)(de)交互背后，都隱藏著不(bu)容忽視的(de)(de)安全(quan)風險：

用戶隨口一句“講(jiang)個刺激的歷史故事”，會不會觸發不當內容？
AI從網上抓取的(de)信息，是否混(hun)進了賭博、色情或釣魚鏈接？
聯網搜索功能加持下(xia)，用(yong)戶輸入是否會觸發對惡意網站的直接調(diao)用(yong)？

國(guo)家《信息安(an)全(quan)(quan)(quan)技(ji)術生成式人工智能(neng)服務安(an)全(quan)(quan)(quan)基本要(yao)求(qiu)》（TC260-003）中明確要(yao)求(qiu)，需對風險進(jin)行識別與攔(lan)截。熟悉(xi)安(an)全(quan)(quan)(quan)的朋友可能(neng)會(hui)疑惑，內容安(an)全(quan)(quan)(quan)審核(he)技(ji)術已經(jing)發展了數十(shi)年，難道(dao)沒有直接可用的成熟解(jie)決方案嗎？實際上(shang)：

一方面(mian)，為了保證用戶與模(mo)(mo)型交互(hu)過程(cheng)的(de)流(liu)暢性(xing)，一句(ju)話往(wang)往(wang)被拆成十幾段流(liu)式輸出，傳統基于關鍵詞和規則的(de)專家模(mo)(mo)型，面(mian)對這類語義復雜、上下文強依賴(lai)的(de)模(mo)(mo)型輸出時，最終結果(guo)往(wang)往(wang)是“看得見字，但不懂意”；
另(ling)一方面，如果全部(bu)依賴大模型審核，雖(sui)然理解能力強，但(dan)因推(tui)理耗時長且成(cheng)本高，難以滿足車載(zai)場(chang)景對(dui)實(shi)時性的嚴苛要(yao)求；

“既要快，又要準”——這正是斑馬智行與阿(a)里云聯合攻堅的核(he)心命題。

阿里云AI安全(quan)護欄(lan)：

三(san)大技術突破，重新定義車載AI安全(quan)標準

阿(a)里云AI安全(quan)(quan)護欄（AI Guardrails）是云安全(quan)(quan)團隊(dui)為人工智(zhi)能(neng)系統(tong)設計的(de)安全(quan)(quan)防護產品，防護對象覆蓋預(yu)訓練大(da)模型、AI服務和AI Agent等不同業務形態。在(zai)智(zhi)能(neng)座(zuo)艙場景，AI安全(quan)(quan)護欄為斑(ban)馬智(zhi)行提(ti)供(gong)了精準的(de)風(feng)險檢測與主(zhu)動防御能(neng)力(li)，同時滿(man)足車載場景對效(xiao)率和效(xiao)果的(de)要求(qiu)。

1.雙引(yin)擎(qing)協同架構：毫秒級審核響應

不同于單一的審(shen)核(he)策略(lve)，阿里云AI安全(quan)護欄(lan)采用“規則引擎(qing)+小模型+大(da)模型”協同審(shen)核(he)策略(lve)：

所有(you)輸入/輸出文本(ben)實時切片后，由輕量級專家模型(xing)并行執行毫秒級初篩，快速攔截(jie)明顯風險(xian)；

同(tong)時，重新編排大(da)模型深度審核鏈(lian)路，利用多線程智能化(hua)調(diao)度；

最終融合雙引擎結果，在(zai)不犧牲召回(hui)率(lv)的前提下，有效降低了端到(dao)端審核延的響應時間，完美適配(pei)車載用戶(hu)實(shi)時交互的流暢體驗，用戶(hu)感(gan)覺(jue)不到(dao)“檢查”的存在(zai)，安全卻(que)始終在(zai)線。

2.流式上下文(wen)關(guan)聯審核：短文(wen)本(ben)不再(zai)“裸(luo)奔”

為(wei)了保障與客戶溝(gou)通的實時性，大模型(xing)內容(rong)生成(cheng)大多采用“邊生成(cheng)，邊輸入”的流式(shi)模式(shi)，一段回答可能(neng)會(hui)分為(wei)10次推送，單次切片(pian)可能(neng)僅10-20字，傳統審(shen)核模型(xing)因缺乏上下文，面對這種“碎片(pian)化表達”，極易(yi)漏判。阿里云AI安全護(hu)欄采用“大模型(xing)流式(shi)審(shen)核方案”：

通(tong)過(guo)唯一標識關聯一次完整對話；
安全護(hu)欄自動(dong)聚合同一會話中的所有切片(pian)，進行跨(kua)片(pian)段(duan)語義理解；
即使敏感(gan)內容(rong)分散在多輪輸出中，也能(neng)精準識別并(bing)攔截；

實測顯示，該方案將短文本場景下的風險內容召回率提升至98%以上，遠超傳(chuan)統方案。

3.聯網檢索風險實時攔(lan)截：堵住Agent的“后(hou)門”

在支持聯網搜索的(de)Agent場景中，用戶提問(wen)可能觸發(fa)對第(di)三方網頁的(de)抓取(qu)，例如：

用(yong)戶(hu)問(wen)一句：“幫我(wo)找(zhao)附近評分最(zui)高的(de)酒(jiu)吧(ba)”，AI所搜索到的(de)目(mu)標站(zhan)點可能是(shi)某個偽(wei)裝成酒(jiu)吧(ba)推薦網(wang)頁(ye)的(de)釣(diao)魚、賭博或色情網(wang)站(zhan)，將直接(jie)污(wu)染大模(mo)型的(de)輸(shu)入。阿里(li)云(yun)AI安全所具有(you)的(de)“URL風險(xian)檢測”模(mo)塊，則能快速應對：

對所(suo)有(you)聯網請求中的第三方鏈(lian)接進行(xing)實時掃(sao)描；
精(jing)準識別色情信息、非法(fa)賭博(bo)、釣魚網站、虛(xu)假營銷等風險類型：
一旦命中(zhong)高風(feng)險標(biao)簽，立即終止任務(wu)，防(fang)止有害(hai)信息(xi)流入大模型。

目前該能(neng)力已覆(fu)蓋智(zhi)能(neng)搜索、資(zi)訊(xun)推(tui)薦等多(duo)個高頻場(chang)景(jing)。

云基礎(chu)設施彈性保障：安全能力“隨(sui)需(xu)調用”

對(dui)于(yu)各大車企，定期的(de)促銷、活動、新車上市......往(wang)往(wang)都伴隨著(zhu)流量激增。尤其在智能駕(jia)駛、智能座(zuo)艙等新興領域(yu)，首(shou)發熱度動輒帶來數倍于(yu)日(ri)常(chang)的(de)調(diao)用(yong)量，這對(dui)任何產品都是(shi)一次“壓力測(ce)試”，如果(guo)安全審(shen)核(he)扛不住(zhu)，輕則(ze)延遲(chi)卡(ka)頓(dun)、重則(ze)全面宕(dang)機。

阿里云(yun)AI安全護(hu)欄依托于阿里云(yun)強大(da)的(de)基礎設(she)施，為客戶提供可(ke)彈性拓展的(de)安全防(fang)護(hu)力，支持客戶按需購買QPS彈性擴展包，最短7天起訂，已(yi)驗(yan)證可(ke)支持單(dan)項目峰值600 QPS的(de)穩(wen)定(ding)運行。

無論是(shi)平日(ri)通勤(qin)，還(huan)是(shi)發布會后的“搶車(che)潮(chao)”，安全能力(li)始(shi)終絲滑在線。(斑馬智行)

掃(sao)(sao)一掃(sao)(sao)在手機(ji)打開(kai)當(dang)前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

色天天爱爱网,欧美4tube日本video,日韩人妻AV无码一区二区,国产精品久久久久精品丰满,女人高潮aa视频免费观看,亚洲天然素人在线无码专区,九色自拍视频,一级A片色试看120秒在线观看,国外在线视频你懂的我鲁尔山,永久黄色视频

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿