“今年，西藏定日縣地震后，一張AI生成的圖片在社交平臺(tái)上獲得數(shù)萬次轉(zhuǎn)發(fā)，虛假圖片會(huì)影響到救災(zāi)資源的分配，這是人工智能帶來的風(fēng)險(xiǎn)?！苯眨诤贾菖e辦的一場(chǎng)人工智能主題大會(huì)上，浙江大學(xué)濱江研究院的青年科學(xué)家韓蒙，向人們闡述AI安全領(lǐng)域的重要性，“我們希望對(duì)AI生成內(nèi)容的導(dǎo)向和真實(shí)性等進(jìn)行管理，發(fā)現(xiàn)并降低風(fēng)險(xiǎn)?？梢岳斫鉃?，我們想成為AI的守護(hù)者，或者說體檢醫(yī)生?！?/p>
用兩大系統(tǒng)給AI“治病”
AI越來越聰明，但也要保證它生成的內(nèi)容是安全、合規(guī)的。為此，韓蒙團(tuán)隊(duì)研發(fā)了“君合”“君盾”兩套系統(tǒng)。
前者有點(diǎn)像“上醫(yī)治未病”，在AI部署到具體場(chǎng)景前，通過檢測(cè)找出AI存在的問題；后者像人體的免疫系統(tǒng)，在AI開展應(yīng)用時(shí)，識(shí)別外來病毒的攻擊。韓蒙說：“‘君合’的檢測(cè)項(xiàng)目很豐富，找漏洞的能力也精準(zhǔn)。”
對(duì)于“君盾”系統(tǒng)，韓蒙打了個(gè)比方：“我們?cè)O(shè)置了‘雙層玻璃’，其中一層用于阻隔惡意提問?！北热?，有人會(huì)向AI“請(qǐng)教”怎么鉆法律的空子，這層玻璃就能像免疫系統(tǒng)識(shí)別外來病毒一樣阻隔掉它，并提醒用戶重新提問。
“雙層玻璃”是一個(gè)雙保險(xiǎn)。有些惡意問題比較隱蔽，第一層玻璃未能攔截，它會(huì)被AI接收，第二層玻璃會(huì)對(duì)AI生成的答案進(jìn)行識(shí)別，如果包含違法信息，則會(huì)及時(shí)攔截，不把回答反饋給提問者。
目前，“君合”“君盾”兩個(gè)系統(tǒng)是韓蒙團(tuán)隊(duì)的核心產(chǎn)品。他們從2021年開始研發(fā)，不斷接入各類AI，開展測(cè)試、防護(hù)，并與時(shí)俱進(jìn)地對(duì)系統(tǒng)迭代升級(jí)。
今年DeepSeek爆火后，千行百業(yè)陸續(xù)接入DeepSeek。韓蒙團(tuán)隊(duì)發(fā)現(xiàn)DeepSeek也有不足，比如在進(jìn)入專業(yè)領(lǐng)域時(shí)就有不智能的時(shí)候。今年3月，韓蒙團(tuán)隊(duì)發(fā)布了“君合”“君盾”的最新版本，希望成為更多AI的醫(yī)生和健康管家，幫助AI健康、合規(guī)發(fā)展。
“杭州對(duì)我來說，是理想的創(chuàng)業(yè)之地”
“這是一個(gè)既能做科研，又能開展成果轉(zhuǎn)化的地方?！闭憬髮W(xué)濱江研究院于2020年成立，2021年，韓蒙加入其中，“我在美國博士畢業(yè)后，由于研究方向有非常強(qiáng)的落地性，我對(duì)于創(chuàng)業(yè)充滿期待?！?/p>
浙江大學(xué)濱江研究院的科研人員既能獲得杭州市、濱江區(qū)提供的支持，也能聯(lián)動(dòng)起浙江大學(xué)的學(xué)術(shù)資源。依托該院成立的杭州君同未來科技有限責(zé)任公司是浙江大學(xué)濱江研究院的學(xué)術(shù)成果轉(zhuǎn)化、產(chǎn)業(yè)落地的重要載體。韓蒙是該院的數(shù)智融合研究中心主任，還擔(dān)任企業(yè)的負(fù)責(zé)人，推動(dòng)產(chǎn)學(xué)研一體化。
就杭州這座城市來說，數(shù)字經(jīng)濟(jì)發(fā)達(dá)，數(shù)字化程度高，也為AI發(fā)展提供了很好的土壤?！鞍l(fā)展人工智能需要開放的生態(tài)，在杭州，我們可以和很多人工智能企業(yè)思想碰撞、互相教育，進(jìn)而提升產(chǎn)品質(zhì)量?！?/p>
良好的創(chuàng)新生態(tài)催生出更多成果。目前，公司已在人工智能領(lǐng)域獲得了大量專利，團(tuán)隊(duì)的技術(shù)創(chuàng)新成果陸續(xù)服務(wù)于工信部、公安部、中國人民銀行等政府部門及國家金融科技測(cè)評(píng)中心、浙江省電子信息檢驗(yàn)檢測(cè)研究院、阿里巴巴集團(tuán)等大型企事業(yè)單位、互聯(lián)網(wǎng)頭部企業(yè)，釋放著可觀的社會(huì)經(jīng)濟(jì)效益。
“杭州對(duì)我來說，是理想的創(chuàng)業(yè)之地，我希望在這里發(fā)揮自己的技術(shù)積累，幫助人工智能安全、可信地發(fā)展。”談及未來，韓蒙將目光停留在墻上的愿景，那是團(tuán)隊(duì)的共同目標(biāo)——助力人類基礎(chǔ)腦力勞動(dòng)可信替代。
責(zé)任編輯：蔡曉慧AI,韓蒙
