在這種環(huán)境下，企業(yè)必須投資并構(gòu)建強(qiáng)大的AI治理框架，這些框架不能僅僅是指導(dǎo)方針，還必須具備強(qiáng)制執(zhí)行實(shí)踐的力度，然而，安永最近的一項研究發(fā)現(xiàn)，AI的應(yīng)用速度遠(yuǎn)遠(yuǎn)超過了AI治理的發(fā)展，這項研究涵蓋了21個國家的975名高層管理人員，結(jié)果顯示，75%的受訪者使用GenAI，但只有三分之一的人建立了相應(yīng)的責(zé)任控制機(jī)制。
總體而言，實(shí)施AI的企業(yè)正日益面臨多方面的嚴(yán)峻挑戰(zhàn)：
• AI計劃是否在以保持競爭優(yōu)勢的速度推進(jìn)?
• AI計劃是否提供了可衡量的價值?
• 是否能夠通過有企業(yè)的AI治理框架來管理風(fēng)險和合規(guī)問題?
自然，前兩個問題受到了更多關(guān)注，導(dǎo)致第三個問題被忽視。在AI治理本身尚不完善的背景下，大多數(shù)企業(yè)面臨的另一個關(guān)鍵問題是數(shù)據(jù)治理與AI治理之間缺乏協(xié)調(diào)。根據(jù)我與財富500強(qiáng)企業(yè)合作的經(jīng)驗，盡管所有人都明白數(shù)據(jù)是所有AI形式的生命線，但即使是那些已經(jīng)實(shí)施了安全且負(fù)責(zé)任的AI實(shí)踐的企業(yè)，也往往對數(shù)據(jù)治理和AI治理采取孤立的方法。
數(shù)據(jù)治理
大多數(shù)企業(yè)已經(jīng)實(shí)施了數(shù)據(jù)治理工具，有時甚至是多個工具，以管理企業(yè)的數(shù)據(jù)質(zhì)量、數(shù)據(jù)血緣、數(shù)據(jù)安全和數(shù)據(jù)保留需求，然而，由于幾十年來一直試圖跟上新興技術(shù)解決方案的步伐，從關(guān)系型數(shù)據(jù)庫管理系統(tǒng)(RDBMS)到數(shù)據(jù)倉庫再到數(shù)據(jù)湖，大多數(shù)大型企業(yè)都缺乏跨多個領(lǐng)域的單一數(shù)據(jù)源，數(shù)據(jù)激增使得數(shù)據(jù)管理和治理變得更加困難，數(shù)據(jù)延遲是另一個影響需要實(shí)時數(shù)據(jù)的用例的問題，在急于投身AI熱潮的過程中，企業(yè)往往使用存在諸多問題的當(dāng)前數(shù)據(jù)狀態(tài)，因此無法充分實(shí)現(xiàn)AI投資的價值。
AI治理
如前所述，大多數(shù)企業(yè)尚未實(shí)施強(qiáng)大的AI治理框架。那些已經(jīng)實(shí)施了某種形式的AI治理的企業(yè)，則通過AI卓越中心(AI COE)采取集中式方法。在大多數(shù)情況下，這些卓越中心由首席AI官(CAIO)管理。首席AI官往往關(guān)注模型治理、偏見、幻覺、越獄等問題，而不是底層數(shù)據(jù)，因為數(shù)據(jù)通常由首席數(shù)據(jù)官管理。
這種碎片化的方法具有法律、監(jiān)管、安全和倫理方面的隱患，企業(yè)需要應(yīng)對以下問題：
• AI系統(tǒng)使用的數(shù)據(jù)是否可靠?
• 模型是否符合法律和倫理要求?
• 部署的AI解決方案是否遵守各司法管轄區(qū)的隱私法律?
• 對GenAI和智能體系統(tǒng)的使用是否有足夠的控制?
• 當(dāng)受到質(zhì)疑時，這些系統(tǒng)能否解釋其決策?
對于在多個地區(qū)運(yùn)營、面臨不同隱私法律、法規(guī)以及AI領(lǐng)域新興且未知的監(jiān)管環(huán)境的全球企業(yè)而言，風(fēng)險極高。高層管理人員往往對這些風(fēng)險有更深刻的認(rèn)識，但可能不完全了解潛在原因，如AI和數(shù)據(jù)治理的孤立方法。
統(tǒng)一AI和數(shù)據(jù)治理方法的必要性
鑒于當(dāng)前狀況及其相關(guān)挑戰(zhàn)，企業(yè)應(yīng)轉(zhuǎn)向AI和數(shù)據(jù)治理的統(tǒng)一方法，這種方法不僅有助于釋放AI投資的價值，還能確保合規(guī)并降低風(fēng)險，以下是一種實(shí)現(xiàn)這一目標(biāo)的實(shí)用方法。
數(shù)據(jù)優(yōu)先設(shè)計
與傳統(tǒng)的AI治理方法(側(cè)重于模型或工具)不同，企業(yè)應(yīng)關(guān)注所有AI的起點(diǎn)：數(shù)據(jù)，通過將數(shù)據(jù)視為AI的生命線，企業(yè)可以從基礎(chǔ)層面治理AI，利用數(shù)據(jù)的質(zhì)量、敏感性和生命周期來動態(tài)評估和控制風(fēng)險——甚至在模型訓(xùn)練之前就進(jìn)行。
自適應(yīng)、分層治理框架
企業(yè)應(yīng)采用自適應(yīng)治理方法，利用實(shí)時風(fēng)險分類和分層，這使企業(yè)能夠在風(fēng)險較高的領(lǐng)域(如個人身份信息(PII)、個人健康信息(PHI)、自主行動)實(shí)施更強(qiáng)的控制，而在創(chuàng)新速度至關(guān)重要的領(lǐng)域則實(shí)施較輕的控制——在不影響安全性的前提下，以業(yè)務(wù)速度進(jìn)行治理。
利用GenAI提高數(shù)據(jù)質(zhì)量
GenAI的潛力可用于解決多個數(shù)據(jù)問題，如：
• 數(shù)據(jù)分類
• 數(shù)據(jù)清洗
• 元數(shù)據(jù)管理
投資數(shù)據(jù)管道和數(shù)據(jù)運(yùn)維
企業(yè)的數(shù)據(jù)管道和集成往往存在問題，導(dǎo)致可靠性和性能問題。隨著企業(yè)開始在實(shí)時用例中使用AI，數(shù)據(jù)管道問題往往會導(dǎo)致這些用例的結(jié)果不佳。企業(yè)應(yīng)投資構(gòu)建強(qiáng)大的數(shù)據(jù)集成和管道，并提高這些管道的可觀測性。
AI驅(qū)動的治理
構(gòu)建自我學(xué)習(xí)的治理智能體，以監(jiān)控不斷演變的風(fēng)險、監(jiān)管變化和模型行為，跨越不同用例和地區(qū)，這些智能體可以自主觸發(fā)警報、建議控制措施并調(diào)整政策，將治理轉(zhuǎn)變?yōu)橐粋€活的、智能的系統(tǒng)，而非手動、靜態(tài)的清單。
中央領(lǐng)導(dǎo)但分散執(zhí)行
設(shè)計一個中央領(lǐng)導(dǎo)的治理模型，實(shí)現(xiàn)本地化執(zhí)行——非常適合多地區(qū)或多業(yè)務(wù)單元的企業(yè)。它確保在整個企業(yè)中保持一致的管控，同時允許本地靈活性，這是全球公司在應(yīng)對監(jiān)管碎片化時的關(guān)鍵需求。
擴(kuò)大AI治理委員會
AI治理委員會應(yīng)擴(kuò)大成員范圍，超越傳統(tǒng)的IT和業(yè)務(wù)部門代表，應(yīng)有法律、隱私、合規(guī)、信息安全、第三方管理和人力資源部門的代表，這種多樣性將確保AI政策不僅考慮技術(shù)和業(yè)務(wù)優(yōu)先級，還考慮法律、倫理和社會因素，以及對企業(yè)內(nèi)外利益相關(guān)者的影響。
統(tǒng)一方法的益處
強(qiáng)大的AI和數(shù)據(jù)治理方法對于實(shí)現(xiàn)負(fù)責(zé)任的AI至關(guān)重要，其益處體現(xiàn)在多個方面：
隱私
隱私是建立利益相關(guān)者信任和避免聲譽(yù)風(fēng)險的關(guān)鍵。在GenAI廣泛使用的背景下，最常見的擔(dān)憂是私人數(shù)據(jù)被用于訓(xùn)練模型，且缺乏保護(hù)措施。利用增強(qiáng)隱私的工具(如匿名化)構(gòu)建強(qiáng)大的數(shù)據(jù)治理框架，將為AI奠定堅實(shí)基礎(chǔ)，有助于確保遵守隱私法規(guī)并提高品牌信任度。
網(wǎng)絡(luò)安全
隨著AI和智能體的迅速采用，企業(yè)內(nèi)的網(wǎng)絡(luò)安全團(tuán)隊面臨著巨大的挑戰(zhàn)，需要應(yīng)對這一新興威脅。嵌入網(wǎng)絡(luò)安全的AI治理框架可確保企業(yè)在快速創(chuàng)新的同時，不會增加自身脆弱性。
監(jiān)管準(zhǔn)備
隨著AI領(lǐng)域的飛速發(fā)展，監(jiān)管環(huán)境也在努力跟上步伐。聯(lián)邦、州以及美國以外的其他國家的監(jiān)管機(jī)構(gòu)都在努力制定政策，以促進(jìn)創(chuàng)新而非抑制創(chuàng)新。擁有AI治理框架的企業(yè)在適應(yīng)不斷變化的監(jiān)管環(huán)境方面將更具優(yōu)勢。
第三方風(fēng)險
企業(yè)與多個第三方(如供應(yīng)商和分包商)合作，這些第三方已開始在其產(chǎn)品和服務(wù)中廣泛使用AI。將第三方管理(TPM)功能納入企業(yè)的AI治理體系，并向第三方管理團(tuán)隊傳授風(fēng)險和緩解策略，將減少摩擦，并通過有效合作促進(jìn)增長。
治理：業(yè)務(wù)推動者，而非成本中心
總之，上述統(tǒng)一的AI治理方法是一種范式轉(zhuǎn)變：從碎片化控制轉(zhuǎn)向統(tǒng)一監(jiān)督，從合規(guī)導(dǎo)向轉(zhuǎn)向風(fēng)險導(dǎo)向，從靜態(tài)框架轉(zhuǎn)向自我學(xué)習(xí)治理，這種方法將使治理成為業(yè)務(wù)推動者，而非成本中心，這還將帶來戰(zhàn)略優(yōu)勢，提高信任度，并增強(qiáng)AI計劃的長期可擴(kuò)展性。
