根據(jù)Gartner數(shù)據(jù)，到2027年超過40%的人工智能相關數(shù)據(jù)泄露將由跨境不當使用生成式人工智能(GenAI)引起。

　　用戶對GenAI技術的應用范圍和速度超過了數(shù)據(jù)治理和安全措施的發(fā)展，由于支持這些技術所需的集中計算能力有限，引發(fā)了人們對數(shù)據(jù)本地化的擔憂。

　　Gartner副總裁分析師Joerg Fritsch表示：“由于監(jiān)管不足，經(jīng)常會發(fā)生意外的跨境數(shù)據(jù)傳輸，特別是當GenAI在沒有明確描述或公告的情況下集成到現(xiàn)有產(chǎn)品中時。”“組織注意到員工使用GenAI工具生成的內容發(fā)生了變化。雖然這些工具可用于批準的業(yè)務應用程序，但如果向未知位置托管的AI工具和API發(fā)送敏感提示，則會帶來安全風險。”

　　全球人工智能標準化差距導致運營效率低下

　　人工智能和數(shù)據(jù)治理缺乏一致的全球最佳實踐和標準，導致市場碎片化，迫使企業(yè)制定針對特定地區(qū)的戰(zhàn)略，從而加劇了挑戰(zhàn)。這可能會限制他們在全球范圍內擴展運營并從人工智能產(chǎn)品和服務中受益的能力。

　　Fritsch說：“由于本地化的人工智能政策，管理數(shù)據(jù)流和保持質量的復雜性可能會導致運營效率低下。”“組織必須投資于先進的人工智能治理和安全，以保護敏感數(shù)據(jù)并確保合規(guī)性。這一需求可能會推動人工智能安全、治理和合規(guī)服務市場的增長，以及提高人工智能流程透明度和控制力的技術解決方案。”

　　在人工智能治理成為全球任務之前，組織必須采取行動

　　Gartner預測，到2027年，人工智能治理將成為全球所有主權人工智能法律法規(guī)的要求。

　　Fritsch說：“無法整合所需治理模型和控制的組織可能會發(fā)現(xiàn)自己處于競爭劣勢，尤其是那些缺乏快速擴展現(xiàn)有數(shù)據(jù)治理框架的資源的組織。”

　　為了降低人工智能數(shù)據(jù)泄露的風險，特別是跨境濫用GenAI的風險，并確保合規(guī)性，Gartner建議企業(yè)采取以下幾項戰(zhàn)略行動：

　　加強數(shù)據(jù)治理：組織必須確保遵守國際法規(guī)，并通過擴展數(shù)據(jù)治理框架來包括人工智能處理數(shù)據(jù)的指導方針，從而監(jiān)控意外的跨境數(shù)據(jù)傳輸。這涉及將數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評估納入定期隱私影響評估。

　　建立治理委員會：成立委員會以加強人工智能監(jiān)督，并確保有關人工智能部署和數(shù)據(jù)處理的透明溝通。這些委員會需要負責技術監(jiān)督、風險和合規(guī)管理以及溝通和決策報告。

　　加強數(shù)據(jù)安全：使用先進技術、加密和匿名化來保護敏感數(shù)據(jù)。例如，驗證特定地理區(qū)域的可信執(zhí)行環(huán)境，并在數(shù)據(jù)必須離開這些區(qū)域時應用高級匿名技術，如差分隱私。

　　投資TRiSM產(chǎn)品：規(guī)劃和分配針對人工智能技術量身定制的信任、風險和安全管理(TRiSM)產(chǎn)品和功能的預算。這包括人工智能治理、數(shù)據(jù)安全治理、即時過濾和編輯以及非結構化數(shù)據(jù)的合成生成。Gartner預測，到2026年，應用人工智能TRiSM控制的企業(yè)將減少至少50%的不準確或非法信息，從而減少錯誤決策。