根據(jù)Gartner數(shù)據(jù)，到2027年超過40%的人工智能相關(guān)數(shù)據(jù)泄露將由跨境不當(dāng)使用生成式人工智能(GenAI)引起。

　　用戶對GenAI技術(shù)的應(yīng)用范圍和速度超過了數(shù)據(jù)治理和安全措施的發(fā)展，由于支持這些技術(shù)所需的集中計算能力有限，引發(fā)了人們對數(shù)據(jù)本地化的擔(dān)憂。

　　Gartner副總裁分析師Joerg Fritsch表示：“由于監(jiān)管不足，經(jīng)常會發(fā)生意外的跨境數(shù)據(jù)傳輸，特別是當(dāng)GenAI在沒有明確描述或公告的情況下集成到現(xiàn)有產(chǎn)品中時。”“組織注意到員工使用GenAI工具生成的內(nèi)容發(fā)生了變化。雖然這些工具可用于批準(zhǔn)的業(yè)務(wù)應(yīng)用程序，但如果向未知位置托管的AI工具和API發(fā)送敏感提示，則會帶來安全風(fēng)險。”

　　全球人工智能標(biāo)準(zhǔn)化差距導(dǎo)致運營效率低下

　　人工智能和數(shù)據(jù)治理缺乏一致的全球最佳實踐和標(biāo)準(zhǔn)，導(dǎo)致市場碎片化，迫使企業(yè)制定針對特定地區(qū)的戰(zhàn)略，從而加劇了挑戰(zhàn)。這可能會限制他們在全球范圍內(nèi)擴展運營并從人工智能產(chǎn)品和服務(wù)中受益的能力。

　　Fritsch說：“由于本地化的人工智能政策，管理數(shù)據(jù)流和保持質(zhì)量的復(fù)雜性可能會導(dǎo)致運營效率低下。”“組織必須投資于先進(jìn)的人工智能治理和安全，以保護(hù)敏感數(shù)據(jù)并確保合規(guī)性。這一需求可能會推動人工智能安全、治理和合規(guī)服務(wù)市場的增長，以及提高人工智能流程透明度和控制力的技術(shù)解決方案。”

　　在人工智能治理成為全球任務(wù)之前，組織必須采取行動

　　Gartner預(yù)測，到2027年，人工智能治理將成為全球所有主權(quán)人工智能法律法規(guī)的要求。

　　Fritsch說：“無法整合所需治理模型和控制的組織可能會發(fā)現(xiàn)自己處于競爭劣勢，尤其是那些缺乏快速擴展現(xiàn)有數(shù)據(jù)治理框架的資源的組織。”

　　為了降低人工智能數(shù)據(jù)泄露的風(fēng)險，特別是跨境濫用GenAI的風(fēng)險，并確保合規(guī)性，Gartner建議企業(yè)采取以下幾項戰(zhàn)略行動：

　　加強數(shù)據(jù)治理：組織必須確保遵守國際法規(guī)，并通過擴展數(shù)據(jù)治理框架來包括人工智能處理數(shù)據(jù)的指導(dǎo)方針，從而監(jiān)控意外的跨境數(shù)據(jù)傳輸。這涉及將數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評估納入定期隱私影響評估。

　　建立治理委員會：成立委員會以加強人工智能監(jiān)督，并確保有關(guān)人工智能部署和數(shù)據(jù)處理的透明溝通。這些委員會需要負(fù)責(zé)技術(shù)監(jiān)督、風(fēng)險和合規(guī)管理以及溝通和決策報告。

　　加強數(shù)據(jù)安全：使用先進(jìn)技術(shù)、加密和匿名化來保護(hù)敏感數(shù)據(jù)。例如，驗證特定地理區(qū)域的可信執(zhí)行環(huán)境，并在數(shù)據(jù)必須離開這些區(qū)域時應(yīng)用高級匿名技術(shù)，如差分隱私。

　　投資TRiSM產(chǎn)品：規(guī)劃和分配針對人工智能技術(shù)量身定制的信任、風(fēng)險和安全管理(TRiSM)產(chǎn)品和功能的預(yù)算。這包括人工智能治理、數(shù)據(jù)安全治理、即時過濾和編輯以及非結(jié)構(gòu)化數(shù)據(jù)的合成生成。Gartner預(yù)測，到2026年，應(yīng)用人工智能TRiSM控制的企業(yè)將減少至少50%的不準(zhǔn)確或非法信息，從而減少錯誤決策。