2023 WAIC聚焦大模型時代AI安全:“產(chǎn)學(xué)研用”界共同發(fā)起AIGC可信倡議
封面新聞記者孟梅歐陽宏宇7月7日,2023世界人工智能大會(WAIC)“聚焦
(相關(guān)資料圖)
封面新聞記者 孟梅 歐陽宏宇
7月7日,2023世界人工智能大會(WAIC)“聚焦·大模型時代AIGC新浪潮—可信AI”論壇舉行,螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布AI安全檢測平臺“蟻鑒2.0”。蟻鑒2.0可實現(xiàn)用生成式AI能力檢測生成式AI模型,可識別數(shù)據(jù)安全、內(nèi)容安全、科技倫理三大類的數(shù)百種風(fēng)險,覆蓋表格、文本、圖像等多種數(shù)據(jù)和任務(wù)類型,是業(yè)內(nèi)首個實現(xiàn)產(chǎn)業(yè)級應(yīng)用的全數(shù)據(jù)類型AI安全檢測平臺。據(jù)了解,該產(chǎn)品還入選了本屆大會的“鎮(zhèn)館之寶”。
AIGC安全成為當(dāng)前人工智能研究發(fā)展的重要議題。中國科學(xué)院院士何積豐發(fā)表《可信人工智能展望》主題演講。他認(rèn)為,“不能再將人工智能視為簡單的技術(shù)工作,而是成為整個組織的變革引擎。可信人工智能要致力于保障數(shù)據(jù)安全可信、系統(tǒng)行為可追責(zé)、算法模型可解釋、網(wǎng)絡(luò)環(huán)境可信、法律倫理可信等問題?!?/p>
在該論壇上,螞蟻集團(tuán)同時宣布,“蟻鑒2.0”全面開放,面向全球開發(fā)者免費提供AIGC安全性、AI可解釋性、AI魯棒性三項檢測工具,可服務(wù)于數(shù)字金融、教育、文化、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場景。
據(jù)了解,“蟻鑒2.0”的兩項硬核能力,一是實現(xiàn)了用生成式能力檢測生成式模型。檢測標(biāo)準(zhǔn)覆蓋內(nèi)容安全、數(shù)據(jù)安全、倫理安全三大類,可對大模型生成式內(nèi)容完成包含個人隱私、意識形態(tài)、違法犯罪、偏見與歧視等數(shù)百個維度的風(fēng)險對抗檢測,并會生成檢測報告,幫助大模型更加有針對性地持續(xù)優(yōu)化。
螞蟻集團(tuán)大安全事業(yè)群技術(shù)部總裁李俊奎表示,“生成式大模型是一種‘深黑盒’技術(shù),‘蟻鑒2.0’通過智能博弈對抗技術(shù),模擬黑產(chǎn)以及自動化生成海量測試集,可實現(xiàn)「生成式機(jī)器人」對「AIGC生成式模型」的誘導(dǎo)式檢測計算,很像一個24小時不眠不休的‘安全黑客’在找茬大模型,從而找到大模型存在的弱點和安全問題所在。這種AI對AI的評測,也是教學(xué)相長。好比生成式考官考核生成式運動員,在對抗中雙方能力互相提升,進(jìn)一步提高整個行業(yè)的AI安全水位?!?/p>
另一項硬核能力是,“蟻鑒2.0”融入了可解釋性檢測工具。綜合AI技術(shù)和專家先驗知識,通過可視化、邏輯推理、因果推斷等技術(shù),從完整性、準(zhǔn)確性、穩(wěn)定性等7個維度及20余項評估指標(biāo),對AI系統(tǒng)的解釋質(zhì)量量化分析,幫助用戶更清晰驗證與優(yōu)化可解釋方案。
據(jù)了解,“蟻鑒2.0”集成了螞蟻近10年可信AI實踐、1000余項可信AI專利,支持零編碼測評。開發(fā)者通過API接口,將AI模型接入蟻鑒,就可以一鍵識別和挖掘模型漏洞。
螞蟻集團(tuán)認(rèn)為,人工智能的深度應(yīng)用,不僅對數(shù)據(jù)、算法、算力提出了更高要求,也對安全、隱私、倫理提出更多挑戰(zhàn)。在確保數(shù)據(jù)安全和隱私保護(hù)、健全人工智能倫理與安全的前提下,才能讓AI技術(shù)真正地釋放應(yīng)用價值。
此次論壇上,中國信通院、上海人工智能實驗室、武漢大學(xué)、螞蟻集團(tuán)等多家單位共同發(fā)起的《AIGC可信倡議》。該倡議得到數(shù)十家單位參與,圍繞人工智能可能引發(fā)的經(jīng)濟(jì)、安全、隱私和數(shù)據(jù)治理等問題,提出構(gòu)建AIGC可信發(fā)展的全球治理合作框架,采用安全可信的數(shù)據(jù)資源、技術(shù)框架、計算方法和軟件平臺等全面提升AIGC可信工程化能力,最大限度確保生成式AI安全、透明、可釋。
關(guān)鍵詞:
[ 相關(guān)文章 ]
封面新聞記者孟梅歐陽宏宇7月7日,2023世界人工智能大會(WAIC)“聚焦
7月7日,根據(jù)白鹿視頻報道,7月6日,遼寧沈陽一對夫妻14年前的異地戀日
中新網(wǎng)約翰內(nèi)斯堡7月7日電 (記者 王曦)南非豪滕省衛(wèi)生局7日通報,
央視網(wǎng)消息:7月7日,海關(guān)總署進(jìn)出口食品安全局負(fù)責(zé)人就國際原子能機(jī)構(gòu)
導(dǎo)讀:河南盜竊案的量刑標(biāo)準(zhǔn)是個人盜竊公私財物價值一千元以上的,處三
直奔基層、實地查看,隨機(jī)個別談話、無記名問卷調(diào)查……7月4日至5日,
產(chǎn)前、產(chǎn)中、產(chǎn)后全鏈條服務(wù),節(jié)本增收顯成效推開半掩的場院門,陣陣麥
【知情人稱李玟疑因窒息死亡家屬發(fā)聲】歌壇天后李玟于7月5日離世,據(jù)悉
2023年上半年泰安市住房公積金各項任務(wù)指標(biāo)全部超額完成,泰安市,貸款額
原來,吳某某為了提升自身賬號流量,想到此前“江西胡鑫宇事件”中,“
《珍檔》,是C視覺影像數(shù)據(jù)庫推出的一檔歷史影像欄目。在這里,您能閱
法治日報訊通訊員李國玲為全力鞏固戒毒康復(fù)成效,營造和諧穩(wěn)定社會環(huán)境
7月6日,富國可轉(zhuǎn)債A最新單位凈值為2 04元,累計凈值為2 04元,較前一
康弘藥業(yè)7月7日在互動平臺上稱,KH607是公司自主研發(fā)的化藥1類創(chuàng)新藥,
中國甘肅網(wǎng)7月7日訊據(jù)蘭州晨報報道(奔流新聞·蘭州晨報記者武永明)中
7月3日,廣東東韻船舶設(shè)計院與肇通船廠戰(zhàn)略合作協(xié)議簽約會在東莞舉行,
固定收益專題:上半年各地工業(yè)生產(chǎn)和土地市場分化對于城投的影響
IT之家7月7日消息,蘋果今天更新了TestFlight應(yīng)用程序,開始接納為visi
母女2人同時被拐到廣東,母親逃走回家再婚,女兒卻一直沒有下落,美鳳,
隨著氣溫不斷升高,以及各地家電消費補貼政策的助力,家用消暑類電器和
[ 相關(guān)新聞 ]
Copyright 2015-2022 時代醫(yī)院網(wǎng) 版權(quán)所有 備案號: 聯(lián)系郵箱: 514 676 113@qq.com