一. 人工智能爆炸才剛剛開始
雖然人工智能已經(jīng)“嶄露頭角”多年,我們?nèi)蕴幱谌媪私膺@項(xiàng)技術(shù)的早期階段。隨著關(guān)于人工智能的新知識(shí)不斷涌現(xiàn),領(lǐng)導(dǎo)者必須不斷學(xué)習(xí)人工智能創(chuàng)新知識(shí),以便在快速變化的時(shí)代有效指導(dǎo)決策。領(lǐng)導(dǎo)者還應(yīng)鼓勵(lì)自己的團(tuán)隊(duì),尤其是安全和數(shù)據(jù)保護(hù)領(lǐng)域的人員,盡可能多地了解人工智能,以熟悉黑客將如何利用人工智能進(jìn)行犯罪行為。在不斷演變的以人工智能為驅(qū)動(dòng)的威脅環(huán)境中,需要采取全員參與的方法來應(yīng)對(duì)即將到來的威脅。
二. 輕松獲取人工智工具能讓不法分子有機(jī)可乘
隨著人工智能的發(fā)展,很多企業(yè)面臨的一個(gè)關(guān)鍵挑戰(zhàn)是有效制定和執(zhí)行人工智能道德政策和負(fù)責(zé)任的使用準(zhǔn)則。例如,員工必須了解何時(shí)允許使用 ChatGPT 等生成式人工智能聊天機(jī)器人,以及使用該技術(shù)所需的數(shù)據(jù)共享可能會(huì)導(dǎo)致的例如機(jī)密信息泄露等有害結(jié)果。
不幸的是,黑客沒有義務(wù)遵守同樣的道德準(zhǔn)則。因此,輕松獲取人工智能工具有助于黑客在攻擊中占據(jù)上風(fēng)。例如,壞人現(xiàn)在可以使用生成式人工智能來創(chuàng)建更高效的勒索軟件,或利用 WormGPT 等不受約束的語言模型來實(shí)現(xiàn)更復(fù)雜的網(wǎng)絡(luò)釣魚攻擊。
三. 人工智能讓攻擊更不容易被察覺
如果沒有人工智能,勒索軟件攻擊需要攻擊者具備深入的知識(shí),才能手動(dòng)枚舉網(wǎng)絡(luò)、找到更多目標(biāo)并進(jìn)行傳播。通常情況下,黑客是專業(yè)人士,但可能會(huì)因?yàn)槿藶殄e(cuò)誤而被拖慢速度。人工生成的威脅對(duì) IT 專業(yè)人員來說更容易識(shí)別,預(yù)編程的自治解決方案可以識(shí)別警告信號(hào),從而預(yù)防或阻止即將到來的攻擊。
然而,人工智能運(yùn)行的攻擊更容易躲避檢測(cè),使攻擊以更快的速度和更高的精度通過網(wǎng)絡(luò)傳播。聊天機(jī)器人還可以創(chuàng)建更接近人類的網(wǎng)絡(luò)釣魚計(jì)劃,從而誘使員工無意中向黑客提供網(wǎng)絡(luò)訪問權(quán)限。
鑒于上述現(xiàn)實(shí),Veritas建議,首席信息安全官應(yīng)采取積極主動(dòng)的方法,平衡人工智能技術(shù)應(yīng)用與數(shù)據(jù)安全隱私。以下是幾種有助于組織實(shí)現(xiàn)微秒平衡的關(guān)鍵策略:
1.評(píng)估數(shù)據(jù)隱私和保護(hù)并實(shí)施指南:CISO應(yīng)仔細(xì)評(píng)估用于訓(xùn)練模型的數(shù)據(jù),并確保遵守相關(guān)行業(yè)法規(guī)和相關(guān)公司政策。對(duì)敏感信息進(jìn)行匿名化或假名化并應(yīng)用嚴(yán)格的訪問控制來保護(hù)用戶數(shù)據(jù)免遭未經(jīng)授權(quán)的訪問或?yàn)E用至關(guān)重要。與法律和人力資源團(tuán)隊(duì)合作制定預(yù)測(cè)文本技術(shù)使用的合規(guī)指南也很重要。
2.保護(hù)模型訓(xùn)練和部署:保護(hù)用于訓(xùn)練和部署預(yù)測(cè)文本模型的基礎(chǔ)設(shè)施是關(guān)鍵舉措。實(shí)施強(qiáng)大的安全控制,包括加密、安全協(xié)議和訪問管理,以保護(hù)底層系統(tǒng)并防止未經(jīng)授權(quán)的修改或篡改模型。
3.加強(qiáng)用戶意識(shí)并獲得同意:教育用戶了解預(yù)測(cè)文本技術(shù)的影響和功能。清楚地傳達(dá)數(shù)據(jù)收集和使用的目的以及所涉及的潛在風(fēng)險(xiǎn),使用戶能夠就選擇加入或退出預(yù)測(cè)文本功能做出明智的決定。
4.與供應(yīng)商和研究人員合作:與技術(shù)供應(yīng)商和研究人員合作,隨時(shí)了解與預(yù)測(cè)文本技術(shù)相關(guān)的最新進(jìn)展、安全補(bǔ)丁和最佳實(shí)踐。積極協(xié)作有助于更有效地應(yīng)對(duì)新出現(xiàn)的安全和隱私挑戰(zhàn)。
5.發(fā)展事件響應(yīng)和持續(xù)監(jiān)控能力:制定針對(duì)預(yù)測(cè)文本技術(shù)的事件響應(yīng)計(jì)劃。監(jiān)控系統(tǒng)日志、用戶反饋和異常檢測(cè)機(jī)制,及時(shí)識(shí)別任何潛在的安全事件或隱私泄露。建立流程以及時(shí)響應(yīng)此類事件,緩解潛在影響,確保將對(duì)用戶和數(shù)據(jù)的影響降至最低。
毫無疑問,人工智能作為科技領(lǐng)域的一大趨勢(shì)正在重塑網(wǎng)絡(luò)威脅格局。未來企業(yè)必須高度重視AI帶來的威脅,并采取相應(yīng)的措施來應(yīng)對(duì)。隨著人工智能技術(shù)的不斷發(fā)展和應(yīng)用,領(lǐng)導(dǎo)者需要時(shí)刻關(guān)注新技術(shù)的發(fā)展,不斷學(xué)習(xí)新的知識(shí)和技能,以應(yīng)對(duì)不斷演變的威脅。同時(shí),強(qiáng)化數(shù)據(jù)隱私保護(hù)和管理措施也是企業(yè)的當(dāng)務(wù)之急,確保數(shù)據(jù)安全不被侵犯。只有全面、系統(tǒng)地應(yīng)對(duì)這些挑戰(zhàn),企業(yè)才能穩(wěn)固數(shù)據(jù)安全,保障穩(wěn)定的發(fā)展和運(yùn)營。
關(guān)于 Veritas
Veritas Technologies是安全多云數(shù)據(jù)管理領(lǐng)域的領(lǐng)導(dǎo)者。超過八萬家企業(yè)級(jí)客戶, 包括91%的全球財(cái)富100強(qiáng)企業(yè),均依靠Veritas確保其數(shù)據(jù)的保護(hù)、可恢復(fù)性和合規(guī)性。Veritas在規(guī)模化的可靠性方面享有盛譽(yù),可為企業(yè)提供抵御勒索軟件等網(wǎng)絡(luò)攻擊威脅所需的韌性。Veritas通過統(tǒng)一的平臺(tái),支持超過800種數(shù)據(jù)源,100多種操作系統(tǒng)以及1400多種存儲(chǔ)設(shè)備。在云級(jí)技術(shù)的支持下,Veritas現(xiàn)正在實(shí)踐其數(shù)據(jù)自治戰(zhàn)略,在降低運(yùn)營成本的同時(shí),實(shí)現(xiàn)更大價(jià)值。
Veritas中國官方網(wǎng)站 https://www.veritas.com/zh/cn/
Veritas官方微信平臺(tái):VERITAS_CHINA(VERITAS中文社區(qū))
