近年來(lái)，隨著機(jī)器學(xué)習(xí)以及神經(jīng)網(wǎng)絡(luò)的持續(xù)迭代和演進(jìn)，人工智能正朝著歷史性的時(shí)刻邁進(jìn)，特別是以ChatGPT為代表的生成式AI的出現(xiàn)，催生人工智能和更多應(yīng)用場(chǎng)景結(jié)合。但在AI技術(shù)推動(dòng)各行各業(yè)創(chuàng)新發(fā)展的同時(shí)，其所帶來(lái)的數(shù)據(jù)安全問(wèn)題也引起廣泛關(guān)注，如何在滿足業(yè)務(wù)基本需求的基礎(chǔ)上，強(qiáng)化數(shù)據(jù)保護(hù)能力，保障數(shù)據(jù)安全流動(dòng)，已經(jīng)成為各大企業(yè)當(dāng)前亟待解決的問(wèn)題。

【資料圖】

AI技術(shù)高速發(fā)展帶來(lái)數(shù)據(jù)安全新問(wèn)題

生成式AI依賴大量數(shù)據(jù)和大型模型，任何一個(gè)環(huán)節(jié)的安全疏漏，都可能會(huì)導(dǎo)致企業(yè)自身數(shù)據(jù)及隱私的泄露，或者產(chǎn)生不準(zhǔn)確甚至錯(cuò)誤的結(jié)果，甚至就算用戶正常使用，都有可能存在個(gè)人數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

今年年初，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開(kāi)發(fā)這一平臺(tái)的 OpenAI 公司處理意大利用戶信息，同時(shí)個(gè)人數(shù)據(jù)保護(hù)局開(kāi)始立案調(diào)查。OpenAI也向外界證實(shí)，部分ChatGPT Plus的確存在數(shù)據(jù)安全漏洞，可能泄露了服務(wù)訂閱用戶的個(gè)人隱私和支付信息。不只是國(guó)外，近期國(guó)內(nèi)各類(lèi)“AI 詐騙”案件也層出不窮，用戶缺乏警惕性，引起各界廣泛關(guān)注。

根據(jù)國(guó)際開(kāi)源安全組織OWASP報(bào)告顯示，大語(yǔ)言模型（LLM）應(yīng)用的安全威脅包括提示注入、數(shù)據(jù)泄露、沙箱隔離不足、未經(jīng)授權(quán)的執(zhí)行代碼、SSRF漏洞、過(guò)度依賴LLM生成的內(nèi)容、AI調(diào)整能力不足、錯(cuò)誤處理不當(dāng)、訓(xùn)練數(shù)據(jù)污染等十個(gè)風(fēng)險(xiǎn)。

AI技術(shù)快速發(fā)展的弊端浮出水面，敲響新技術(shù)帶來(lái)的新安全問(wèn)題警鐘，也讓AI本身的安全性變得愈發(fā)重要。中國(guó)科學(xué)院院士何積豐此前在《探索下一代安全智能》論壇上表示，以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長(zhǎng)向高質(zhì)量增長(zhǎng)轉(zhuǎn)變的全新發(fā)展階段，這對(duì)其自身安全性和可靠性提出更高要求，也衍生出新型風(fēng)險(xiǎn)與挑戰(zhàn)。

為此，在行業(yè)內(nèi)建立起一個(gè)更加可信可控的數(shù)字安全屏障刻不容緩。9月初，中國(guó)電信、螞蟻集團(tuán)、華為、百度、字節(jié)跳動(dòng)、西安電子科技大學(xué)、國(guó)家金融測(cè)評(píng)中心等30余家機(jī)構(gòu)作為首批發(fā)起單位，宣布成立“AI安全工作組”，致力于共同解決AI技術(shù)快速發(fā)展所帶來(lái)的安全難題。

九方財(cái)富守住“安全”底線

行業(yè)監(jiān)督固然重要，企業(yè)的自覺(jué)也不可或缺。

在金融行業(yè)，AI技術(shù)的應(yīng)用也越來(lái)越廣泛。領(lǐng)先的在線投資決策解決方案提供商九方財(cái)富（09636.HK），自2019年就開(kāi)始全面開(kāi)啟“數(shù)智化”轉(zhuǎn)型，期間推出了包括AI旺財(cái)、AI巡查官、AI監(jiān)測(cè)官、智能創(chuàng)造工坊，以及行業(yè)首個(gè)智能投顧數(shù)字人“九哥”在內(nèi)的眾多AI產(chǎn)品。

自成立以來(lái)，九方財(cái)富持續(xù)加大在數(shù)據(jù)安全領(lǐng)域的投入，并依據(jù)行業(yè)最高標(biāo)準(zhǔn)打造了自身數(shù)據(jù)安全體系。在用戶數(shù)據(jù)安全方面，九方財(cái)富堅(jiān)持制度建設(shè)和技術(shù)能力兩手抓，嚴(yán)格遵循相關(guān)法規(guī)開(kāi)展合法經(jīng)營(yíng)；在產(chǎn)品設(shè)計(jì)上，九方財(cái)富不斷探索新技術(shù)、新應(yīng)用，提升數(shù)據(jù)安全防護(hù)能力，全方位保障用戶數(shù)據(jù)安全。

九方財(cái)富多年來(lái)在數(shù)據(jù)、合規(guī)安全領(lǐng)域上的耕耘和沉淀，已經(jīng)成為了行業(yè)的典范。今年年初，九方財(cái)富旗下九方智投的案例順利編入了中國(guó)信通院發(fā)布的《數(shù)據(jù)安全管理實(shí)踐案例集》。隨后4月，九方智投又成功獲得了中國(guó)信通院頒發(fā)的“數(shù)據(jù)安全管理能力認(rèn)證(DSMC)”證書(shū)，成為證券投資咨詢行業(yè)首家獲頒該證書(shū)的企業(yè)。不僅如此，九方智投還獲得國(guó)際認(rèn)證機(jī)構(gòu)SGS頒發(fā)的ISO/IEC 27001信息安全管理體系標(biāo)準(zhǔn)及ISO/IEC 27701隱私管理體系標(biāo)準(zhǔn)雙認(rèn)證。

數(shù)據(jù)安全不僅影響著企業(yè)的穩(wěn)健發(fā)展，也直接影響到國(guó)家安全。為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，7月國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，此前4月，國(guó)家互聯(lián)網(wǎng)信息辦公室也發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》并公開(kāi)征求意見(jiàn)。九方財(cái)富（09636.HK）在數(shù)據(jù)安全管理上積極發(fā)揮帶頭作用，不僅是對(duì)廣大投資者的負(fù)責(zé)，也將對(duì)行業(yè)、國(guó)家數(shù)據(jù)安全產(chǎn)業(yè)的健康發(fā)展帶來(lái)積極有效的推動(dòng)作用。

（免責(zé)聲明：此文內(nèi)容為廣告，相關(guān)素材由廣告主提供，廣告主對(duì)本廣告內(nèi)容的真實(shí)性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，請(qǐng)自行核實(shí)相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。）

關(guān)鍵詞：