Cloudera亞太地區(qū)高級(jí)副總裁 林萬(wàn)發(fā)

　　隨著企業(yè)紛紛借助AI技術(shù)革新運(yùn)營(yíng)流程，數(shù)據(jù)隱私問(wèn)題正變得日益復(fù)雜且關(guān)鍵。其中，代理式AI(Agentic AI)作為一種能夠自主執(zhí)行任務(wù)而無(wú)需人工干預(yù)的技術(shù)，正逐漸成為焦點(diǎn)。顧名思義，代理式AI具備“代理”能力，能夠獨(dú)立決策并采取行動(dòng)。IDC預(yù)測(cè)，到 2026 年，將有50%的中國(guó) 500 強(qiáng)企業(yè)的數(shù)據(jù)團(tuán)隊(duì)通過(guò)使用AI智能體(AI Agent)來(lái)實(shí)現(xiàn)數(shù)據(jù)準(zhǔn)備和分析。

　　如今，AI智能體已在多個(gè)行業(yè)中得到廣泛應(yīng)用。在金融領(lǐng)域，AI智能體能夠自主實(shí)時(shí)監(jiān)控市場(chǎng)趨勢(shì)、解讀交易信號(hào)、調(diào)整投資策略并降低風(fēng)險(xiǎn)。在公共部門，AI智能體通過(guò)簡(jiǎn)化補(bǔ)助金資格評(píng)估等流程，提升政府工作效率和績(jī)效水平，同時(shí)為公民提供個(gè)性化服務(wù)。

　　然而，盡管AI智能體帶來(lái)了諸多便利，但其對(duì)大量個(gè)人身份數(shù)據(jù)的依賴也引發(fā)了嚴(yán)重的隱私問(wèn)題，加劇了消費(fèi)者對(duì)企業(yè)管理個(gè)人信息方式的不信任。尤其是在醫(yī)療和金融服務(wù)等高度依賴個(gè)人數(shù)據(jù)的關(guān)鍵領(lǐng)域，隨著代理式AI的普及，這一問(wèn)題將變得更加嚴(yán)峻。

　　根據(jù)益普索(Ipsos)的了解亞洲研究，盡管人們對(duì)AI技術(shù)充滿期待，但對(duì)AI、數(shù)字隱私和安全的擔(dān)憂也在增加。亞太地區(qū)70%的消費(fèi)者對(duì)企業(yè)采集信息的方式表示擔(dān)憂，在新加坡，這一比例更是高達(dá)81%。企業(yè)需認(rèn)識(shí)到，制定并實(shí)施強(qiáng)有力的數(shù)據(jù)隱私政策不應(yīng)是事后補(bǔ)救措施，而應(yīng)成為可持續(xù)和負(fù)責(zé)任創(chuàng)新的基石。

　　區(qū)分和保護(hù)關(guān)鍵信息

　　保護(hù)消費(fèi)者信任的第一步，也是最為關(guān)鍵的一步，是確保關(guān)鍵信息和個(gè)人身份信息(PII)的安全。AI對(duì)所有數(shù)據(jù)一視同仁，如果沒(méi)有設(shè)定適當(dāng)?shù)膮?shù)，數(shù)據(jù)將被盲目使用。因此，若在缺乏健全保障措施的情況下部署AI智能體，敏感信息將面臨被濫用的風(fēng)險(xiǎn)。

　　企業(yè)應(yīng)投資于安全且受控的數(shù)據(jù)平臺(tái)，采用全面的加密和通證化策略。這些措施應(yīng)被統(tǒng)一應(yīng)用于所有本地和云數(shù)據(jù)環(huán)境，以及各種存儲(chǔ)解決方案。通過(guò)建立針對(duì)數(shù)據(jù)泄露和惡意攻擊的強(qiáng)大防御體系，企業(yè)能夠在保障數(shù)據(jù)安全的同時(shí)，安全地應(yīng)用AI技術(shù)。

　　滿足數(shù)據(jù)治理和安全要求

　　隨著各國(guó)政府正在為保護(hù)公民數(shù)據(jù)隱私權(quán)而加強(qiáng)監(jiān)管，企業(yè)遵守當(dāng)?shù)厥袌?chǎng)規(guī)則和數(shù)據(jù)主權(quán)法律的難度也在增加。而代理式AI的普及進(jìn)一步加劇了這一挑戰(zhàn)，因其系統(tǒng)通常需要訪問(wèn)歷史數(shù)據(jù)和跨境數(shù)據(jù)才能高效運(yùn)行。

　　為解決這一問(wèn)題，企業(yè)需采用細(xì)粒度的數(shù)據(jù)治理方法并輔以零信任架構(gòu)，即一種默認(rèn)不信任任何用戶或系統(tǒng)的安全模式。這涉及到準(zhǔn)確識(shí)別特定客戶數(shù)據(jù)的位置、采取適當(dāng)?shù)目刂拼胧⒕邆渖稍敿?xì)的審計(jì)報(bào)告的能力。

　　此外，為滿足監(jiān)管機(jī)構(gòu)的要求和消費(fèi)者的期望，企業(yè)還需建立數(shù)據(jù)刪除或匿名化機(jī)制。Cloudera Shared Data Experience等功能能夠在整合安全與治理的同時(shí)，確保正確的人員在正確的時(shí)間以正確的理由訪問(wèn)相應(yīng)的信息。

　　將隱私和信任融入業(yè)務(wù)的全鏈條

　　在采用代理式AI的過(guò)程中，建立信任和透明的文化對(duì)于管理數(shù)據(jù)使用預(yù)期和創(chuàng)新的道德邊界至關(guān)重要。在管理層面上，企業(yè)應(yīng)采用“隱私設(shè)計(jì)”(Privacy by Design)原則，確保隱私在一開(kāi)始就融入產(chǎn)品、服務(wù)和系統(tǒng)中，尤其是針對(duì)AI模型。對(duì)于消費(fèi)者而言，培養(yǎng)“信任但要核實(shí)”的思維模式，是了解企業(yè)如何收集和使用數(shù)據(jù)的關(guān)鍵。

　　隨著AI智能體越來(lái)越多地參與到涉及消費(fèi)者數(shù)據(jù)的決策過(guò)程，企業(yè)需將透明度作為數(shù)據(jù)處理的重點(diǎn)。提高透明度不僅有助于建立信任，還能降低企業(yè)聲譽(yù)和長(zhǎng)期發(fā)展所面臨的風(fēng)險(xiǎn)。

　　建立信任和保持透明度已成為企業(yè)不可忽視的責(zé)任。在代理式AI時(shí)代，成功的關(guān)鍵在于平衡創(chuàng)新與責(zé)任，確保數(shù)據(jù)隱私始終是可持續(xù)發(fā)展的基石。