根據(jù)Gartner數(shù)據(jù)，到2027年超過(guò)40%的人工智能相關(guān)數(shù)據(jù)泄露將由跨境不當(dāng)使用生成式人工智能(GenAI)引起。
用戶(hù)對(duì)GenAI技術(shù)的應(yīng)用范圍和速度超過(guò)了數(shù)據(jù)治理和安全措施的發(fā)展，由于支持這些技術(shù)所需的集中計(jì)算能力有限，引發(fā)了人們對(duì)數(shù)據(jù)本地化的擔(dān)憂。
Gartner副總裁分析師Joerg Fritsch表示：“由于監(jiān)管不足，經(jīng)常會(huì)發(fā)生意外的跨境數(shù)據(jù)傳輸，特別是當(dāng)GenAI在沒(méi)有明確描述或公告的情況下集成到現(xiàn)有產(chǎn)品中時(shí)。”“組織注意到員工使用GenAI工具生成的內(nèi)容發(fā)生了變化。雖然這些工具可用于批準(zhǔn)的業(yè)務(wù)應(yīng)用程序，但如果向未知位置托管的AI工具和API發(fā)送敏感提示，則會(huì)帶來(lái)安全風(fēng)險(xiǎn)。”
全球人工智能標(biāo)準(zhǔn)化差距導(dǎo)致運(yùn)營(yíng)效率低下
人工智能和數(shù)據(jù)治理缺乏一致的全球最佳實(shí)踐和標(biāo)準(zhǔn)，導(dǎo)致市場(chǎng)碎片化，迫使企業(yè)制定針對(duì)特定地區(qū)的戰(zhàn)略，從而加劇了挑戰(zhàn)。這可能會(huì)限制他們?cè)谌蚍秶鷥?nèi)擴(kuò)展運(yùn)營(yíng)并從人工智能產(chǎn)品和服務(wù)中受益的能力。
Fritsch說(shuō)：“由于本地化的人工智能政策，管理數(shù)據(jù)流和保持質(zhì)量的復(fù)雜性可能會(huì)導(dǎo)致運(yùn)營(yíng)效率低下。”“組織必須投資于先進(jìn)的人工智能治理和安全，以保護(hù)敏感數(shù)據(jù)并確保合規(guī)性。這一需求可能會(huì)推動(dòng)人工智能安全、治理和合規(guī)服務(wù)市場(chǎng)的增長(zhǎng)，以及提高人工智能流程透明度和控制力的技術(shù)解決方案。”
在人工智能治理成為全球任務(wù)之前，組織必須采取行動(dòng)
Gartner預(yù)測(cè)，到2027年，人工智能治理將成為全球所有主權(quán)人工智能法律法規(guī)的要求。
Fritsch說(shuō)：“無(wú)法整合所需治理模型和控制的組織可能會(huì)發(fā)現(xiàn)自己處于競(jìng)爭(zhēng)劣勢(shì)，尤其是那些缺乏快速擴(kuò)展現(xiàn)有數(shù)據(jù)治理框架的資源的組織。”
為了降低人工智能數(shù)據(jù)泄露的風(fēng)險(xiǎn)，特別是跨境濫用GenAI的風(fēng)險(xiǎn)，并確保合規(guī)性，Gartner建議企業(yè)采取以下幾項(xiàng)戰(zhàn)略行動(dòng)：
加強(qiáng)數(shù)據(jù)治理：組織必須確保遵守國(guó)際法規(guī)，并通過(guò)擴(kuò)展數(shù)據(jù)治理框架來(lái)包括人工智能處理數(shù)據(jù)的指導(dǎo)方針，從而監(jiān)控意外的跨境數(shù)據(jù)傳輸。這涉及將數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評(píng)估納入定期隱私影響評(píng)估。
建立治理委員會(huì)：成立委員會(huì)以加強(qiáng)人工智能監(jiān)督，并確保有關(guān)人工智能部署和數(shù)據(jù)處理的透明溝通。這些委員會(huì)需要負(fù)責(zé)技術(shù)監(jiān)督、風(fēng)險(xiǎn)和合規(guī)管理以及溝通和決策報(bào)告。
加強(qiáng)數(shù)據(jù)安全：使用先進(jìn)技術(shù)、加密和匿名化來(lái)保護(hù)敏感數(shù)據(jù)。例如，驗(yàn)證特定地理區(qū)域的可信執(zhí)行環(huán)境，并在數(shù)據(jù)必須離開(kāi)這些區(qū)域時(shí)應(yīng)用高級(jí)匿名技術(shù)，如差分隱私。
投資TRiSM產(chǎn)品：規(guī)劃和分配針對(duì)人工智能技術(shù)量身定制的信任、風(fēng)險(xiǎn)和安全管理(TRiSM)產(chǎn)品和功能的預(yù)算。這包括人工智能治理、數(shù)據(jù)安全治理、即時(shí)過(guò)濾和編輯以及非結(jié)構(gòu)化數(shù)據(jù)的合成生成。Gartner預(yù)測(cè)，到2026年，應(yīng)用人工智能TRiSM控制的企業(yè)將減少至少50%的不準(zhǔn)確或非法信息，從而減少錯(cuò)誤決策。
