風(fēng)起于青萍之末,浪成于微瀾之間!2023年初ChatGPT的推出,讓AI技術(shù)掀起了一波前所未有的發(fā)展與應(yīng)用熱潮,同時(shí)也不可避免地帶來(lái)的許多新的安全風(fēng)險(xiǎn),這些安全風(fēng)險(xiǎn)涵蓋了從網(wǎng)絡(luò)威脅、數(shù)據(jù)安全、隱私保護(hù)、倫理關(guān)切和監(jiān)管影響等各個(gè)方面。

2023年11月2日,由中國(guó)內(nèi)部審計(jì)協(xié)會(huì)、ISACA中國(guó)、谷安天下公司聯(lián)合舉辦的第三屆數(shù)字風(fēng)險(xiǎn)大會(huì)于在北京隆重開(kāi)幕。本次大會(huì)主題聚焦于“AI時(shí)代的數(shù)字風(fēng)險(xiǎn)挑戰(zhàn)與應(yīng)對(duì)”,邀請(qǐng)了眾多網(wǎng)絡(luò)安全與數(shù)字風(fēng)險(xiǎn)領(lǐng)域的研究學(xué)者、產(chǎn)業(yè)專家、用戶代表聚集一堂,從安全科技、風(fēng)險(xiǎn)控制和IT審計(jì)等多維度視角,全面探討了AI技術(shù)應(yīng)用的發(fā)展機(jī)遇和新型數(shù)字風(fēng)險(xiǎn)管理。

中國(guó)內(nèi)部審計(jì)協(xié)會(huì)副會(huì)長(zhǎng)兼秘書(shū)長(zhǎng)沈立強(qiáng)

在本次大會(huì)的主論壇上,中國(guó)內(nèi)部審計(jì)協(xié)會(huì)副會(huì)長(zhǎng)兼秘書(shū)長(zhǎng)沈立強(qiáng)代表大會(huì)主辦方致辭,他表示:AI技術(shù)的突破性進(jìn)展成為引領(lǐng)數(shù)字時(shí)代發(fā)展的新引擎。內(nèi)部審計(jì)作為組織內(nèi)部經(jīng)濟(jì)決策科學(xué)化、管理規(guī)范化,風(fēng)險(xiǎn)防控常態(tài)化的一項(xiàng)重要制度設(shè)計(jì),承擔(dān)著為各個(gè)組織實(shí)現(xiàn)高質(zhì)量發(fā)展保駕護(hù)航的重要使命。為進(jìn)一步推動(dòng)內(nèi)部審計(jì)的數(shù)字化轉(zhuǎn)型,企業(yè)組織應(yīng)該做好以下方面:一是要增強(qiáng)使命感,充分認(rèn)識(shí)到數(shù)字化轉(zhuǎn)型是實(shí)現(xiàn)高質(zhì)量發(fā)展的必然要求;二是要堅(jiān)持正確方法論,注重?cái)?shù)字化轉(zhuǎn)型的系統(tǒng)性、整體性、協(xié)同性和時(shí)效性;三是要勇于自我革命,著力加強(qiáng)內(nèi)部審計(jì)數(shù)字化轉(zhuǎn)型的能力建設(shè)。

ISACA全球首席戰(zhàn)略官Chris Dimitriadis

ISACA全球首席戰(zhàn)略官Chris Dimitriadis以遠(yuǎn)程方式為大會(huì)發(fā)表了主題為《數(shù)字信任護(hù)航AI安全》的視頻演講。他指出:AI正在改變各個(gè)行業(yè)的發(fā)展模式并支持業(yè)務(wù)創(chuàng)新,為新產(chǎn)品和新的服務(wù)模式的推出鋪平道路。AI技術(shù)應(yīng)用雖然存在風(fēng)險(xiǎn),但也可以使數(shù)字信任行業(yè)收益。在IT審計(jì)工作中應(yīng)用AI,能夠?qū)崟r(shí)審計(jì)完整的數(shù)據(jù)集,取代傳統(tǒng)的抽樣或定時(shí)審計(jì)。數(shù)字信任可以支持網(wǎng)絡(luò)安全識(shí)別、保護(hù)、檢測(cè)、響應(yīng)和恢復(fù),而AI監(jiān)控和增強(qiáng)技術(shù)運(yùn)營(yíng)作為一個(gè)整體,其實(shí)現(xiàn)方法將會(huì)更智能、更快捷、更全面。

中國(guó)內(nèi)部審計(jì)協(xié)會(huì)副會(huì)長(zhǎng)、北京國(guó)家會(huì)計(jì)學(xué)院教授 秦榮生

中國(guó)內(nèi)部審計(jì)協(xié)會(huì)副會(huì)長(zhǎng)、北京國(guó)家會(huì)計(jì)學(xué)院教授秦榮生發(fā)表了主題為《審計(jì)智能與智能審計(jì)》的演講,他指出:生成式AI改變了數(shù)據(jù)生成方式和數(shù)據(jù)生成規(guī)律,并顛覆數(shù)據(jù)庫(kù)的結(jié)構(gòu)以及數(shù)據(jù)分析方式。生成式AI產(chǎn)業(yè)應(yīng)該在繼續(xù)加強(qiáng)技術(shù)創(chuàng)新和應(yīng)用推廣的同時(shí),也要注重加強(qiáng)對(duì)生成式 AI 生成數(shù)據(jù)的審計(jì),保障生成式AI生成數(shù)據(jù)的真實(shí)和可信,研究審計(jì)生成式AI生成數(shù)據(jù)的實(shí)現(xiàn)路徑。隨著智能審計(jì)體系的構(gòu)建,人機(jī)共生將成為未來(lái)數(shù)智化審計(jì)工作的一部分。

中國(guó)建設(shè)銀行首席信息官金磐石

中國(guó)建設(shè)銀行首席信息官金磐石發(fā)表了主題為《AI 技術(shù)在銀行業(yè)數(shù)字化轉(zhuǎn)型中的應(yīng)用與挑戰(zhàn)》的主旨演講,并圍繞AI技術(shù)賦能建行數(shù)字化轉(zhuǎn)型和建行應(yīng)用AI技術(shù)的挑戰(zhàn)及應(yīng)對(duì)措施兩大方面展開(kāi)詳細(xì)說(shuō)明。據(jù)金磐石介紹:基于企業(yè)級(jí)人工智能平臺(tái),中國(guó)建設(shè)銀行已發(fā)布400多個(gè)模型服務(wù),支撐800多個(gè)業(yè)務(wù)場(chǎng)景。目前,中國(guó)建設(shè)銀行對(duì)AI技術(shù)應(yīng)用需求旺盛,實(shí)現(xiàn)了業(yè)技融合多維分析,能夠通過(guò)差異化推進(jìn)場(chǎng)景建設(shè)以及產(chǎn)品化建設(shè)敏捷賦能。

北京大學(xué)計(jì)算機(jī)學(xué)院教授博士生導(dǎo)師 陳鐘

北京大學(xué)計(jì)算機(jī)學(xué)院教授博士生導(dǎo)師陳鐘發(fā)表了《人工智能安全挑戰(zhàn)與治理》的主題演講。他表示:隨著互聯(lián)網(wǎng)技術(shù)演進(jìn)到賽博空間,涌現(xiàn)出更多的技術(shù)創(chuàng)新,比如人臉識(shí)別、生成式預(yù)訓(xùn)練大模型GPT、AI作畫(huà)、AI創(chuàng)作等。我國(guó)應(yīng)高度重視人工智能產(chǎn)業(yè)的發(fā)展與治理,只有數(shù)字信任才能加快新興技術(shù)的創(chuàng)新應(yīng)用、彌合國(guó)際/區(qū)域數(shù)字鴻溝。當(dāng)前亟需從可信數(shù)字身份出發(fā),借助密碼技術(shù)、區(qū)塊鏈、大數(shù)據(jù)、人工智能等技術(shù),打造面向數(shù)字經(jīng)濟(jì)時(shí)代的新型數(shù)字信任體系,為政府和企業(yè)的數(shù)字化轉(zhuǎn)型奠定數(shù)字安全基礎(chǔ)設(shè)施,賦能數(shù)字經(jīng)濟(jì)發(fā)展和智慧城市建設(shè)。

中國(guó)移動(dòng)通信集團(tuán)內(nèi)部審計(jì)部武漢分部總經(jīng)理張國(guó)宏

中國(guó)移動(dòng)通信集團(tuán)內(nèi)部審計(jì)部武漢分部總經(jīng)理張國(guó)宏在《運(yùn)用AI技術(shù)開(kāi)展數(shù)字化審計(jì)的探索與實(shí)踐》演講中表示:大道至簡(jiǎn),審計(jì)思維也需要化繁為簡(jiǎn)。中國(guó)移動(dòng)集團(tuán)內(nèi)部審計(jì)部充分利用公司在人工智能、云計(jì)算、大數(shù)據(jù)等方面的先進(jìn)技術(shù)儲(chǔ)備設(shè)計(jì)了覆蓋底座層、平臺(tái)層、工具層、產(chǎn)品層四個(gè)層次的“Al+審計(jì)”整體技術(shù)架構(gòu),實(shí)現(xiàn)“通用平臺(tái)+場(chǎng)景應(yīng)用”模式在審計(jì)領(lǐng)域的落地,為AI審計(jì)能力的快速構(gòu)建、高效運(yùn)行、深入應(yīng)用提供堅(jiān)實(shí)保障。

谷安天下董事長(zhǎng)陳偉

谷安天下董事長(zhǎng)陳偉發(fā)表了題為《新時(shí)期數(shù)智風(fēng)險(xiǎn)管控的思路與方法》的主題演講,并就新時(shí)期數(shù)智化風(fēng)險(xiǎn)的特點(diǎn)、AI安全與倫理的重要性、AI風(fēng)險(xiǎn)管理框架分析對(duì)比和適用AI風(fēng)險(xiǎn)管控思路方法展開(kāi)了詳細(xì)闡釋。陳偉指出,各類機(jī)構(gòu)在面對(duì)新型AI應(yīng)用帶來(lái)的風(fēng)險(xiǎn)時(shí),可根據(jù)國(guó)際上AI安全與倫理通用規(guī)則及國(guó)內(nèi)主管部門(mén)對(duì)科技倫理和AI安全的基本要求,開(kāi)展針對(duì)AI的安全風(fēng)險(xiǎn)評(píng)估,并在此基礎(chǔ)上建立適宜的AI安全風(fēng)險(xiǎn)控制框架,逐步推進(jìn)AI安全控制措施的落地實(shí)施。

火山引擎大模型安全平臺(tái)產(chǎn)品負(fù)責(zé)人 郭建新

火山引擎大模型安全平臺(tái)產(chǎn)品負(fù)責(zé)人郭建新發(fā)表了題為《基于云原生的大模型安全分析》的主題演講,對(duì)大模型的業(yè)務(wù)分析、安全需求、安全架構(gòu)、業(yè)務(wù)安全以及基于云原生的安全防護(hù)等內(nèi)容進(jìn)行了詳細(xì)介紹。郭建新表示:大模型技術(shù)在具體應(yīng)用時(shí)面臨模型輸出異常、對(duì)話機(jī)制異常、數(shù)據(jù)安全、大模型系統(tǒng)漏洞檢測(cè)等問(wèn)題。為了增強(qiáng)大模型的安全性,組織需要從防御者權(quán)限角度出發(fā),開(kāi)展數(shù)據(jù)質(zhì)量審查、基于端到端的模型增強(qiáng)、基于流程的模型增強(qiáng)。

在本次大會(huì)上,還發(fā)布了網(wǎng)絡(luò)安全和數(shù)字風(fēng)險(xiǎn)領(lǐng)域的多項(xiàng)研究成果,分別是由中國(guó)內(nèi)部審計(jì)協(xié)會(huì)、谷安天下聯(lián)合編寫(xiě)的《數(shù)智化審計(jì)調(diào)研報(bào)告》,由ISACA編寫(xiě)發(fā)布的《生成式AI應(yīng)用現(xiàn)狀及政策建議報(bào)告》和《2023年網(wǎng)絡(luò)安全現(xiàn)狀 ——?jiǎng)趧?dòng)力、資源和網(wǎng)絡(luò)運(yùn)營(yíng)的全球發(fā)展新態(tài)勢(shì)報(bào)告》,以及安全牛調(diào)研編寫(xiě)的《AI時(shí)代的安全風(fēng)險(xiǎn)與能力創(chuàng)新》研究報(bào)告。這些報(bào)告涵蓋了企業(yè)組織的IT審計(jì)、網(wǎng)絡(luò)安全、人才培養(yǎng)和AI應(yīng)用等熱點(diǎn)領(lǐng)域,對(duì)相關(guān)行業(yè)和領(lǐng)域的發(fā)展具有重要的指導(dǎo)和參考價(jià)值。

為了從應(yīng)用實(shí)踐角度關(guān)注AI技術(shù)的應(yīng)用風(fēng)險(xiǎn)和價(jià)值,本次大會(huì)特別設(shè)置了“數(shù)智化風(fēng)險(xiǎn)控制與IT審計(jì)”和“AI引領(lǐng)數(shù)字風(fēng)險(xiǎn)防護(hù)創(chuàng)新”兩場(chǎng)主題分論壇,一眾行業(yè)大咖針對(duì)各自主題發(fā)表了一系列精彩演講,以自身見(jiàn)解和深度經(jīng)驗(yàn)分享引發(fā)了現(xiàn)場(chǎng)觀眾的熱烈討論。

第三屆數(shù)字風(fēng)險(xiǎn)大會(huì)的舉辦,為行業(yè)搭建了一個(gè)思想碰撞和經(jīng)驗(yàn)分享的多層次平臺(tái),提出了在AI時(shí)代數(shù)字進(jìn)行風(fēng)險(xiǎn)管理的重要性和迫切性,引領(lǐng)行業(yè)走向更加安全和可持續(xù)的未來(lái)。據(jù)介紹,數(shù)字風(fēng)險(xiǎn)大會(huì)目前已經(jīng)成功舉辦了三屆,該會(huì)議旨在讓數(shù)字風(fēng)險(xiǎn)和網(wǎng)絡(luò)安全領(lǐng)域的思想領(lǐng)袖、行業(yè)主管、業(yè)內(nèi)學(xué)者、企業(yè)高層、技術(shù)專家聚集在一起,共同面對(duì)和探討當(dāng)下業(yè)界緊迫的數(shù)字風(fēng)險(xiǎn)問(wèn)題,同時(shí)推動(dòng)行業(yè)各方緊密合作,共同開(kāi)發(fā)全面的策略和前沿的解決方案,以有效地管理各種數(shù)字風(fēng)險(xiǎn)。

關(guān)鍵詞：