Cloudera亞太地區(qū)高級副總裁 林萬發(fā)

　　隨著企業(yè)紛紛借助AI技術(shù)革新運營流程，數(shù)據(jù)隱私問題正變得日益復(fù)雜且關(guān)鍵。其中，代理式AI(Agentic AI)作為一種能夠自主執(zhí)行任務(wù)而無需人工干預(yù)的技術(shù)，正逐漸成為焦點。顧名思義，代理式AI具備“代理”能力，能夠獨立決策并采取行動。IDC預(yù)測，到 2026 年，將有50%的中國 500 強企業(yè)的數(shù)據(jù)團隊通過使用AI智能體(AI Agent)來實現(xiàn)數(shù)據(jù)準備和分析。

　　如今，AI智能體已在多個行業(yè)中得到廣泛應(yīng)用。在金融領(lǐng)域，AI智能體能夠自主實時監(jiān)控市場趨勢、解讀交易信號、調(diào)整投資策略并降低風(fēng)險。在公共部門，AI智能體通過簡化補助金資格評估等流程，提升政府工作效率和績效水平，同時為公民提供個性化服務(wù)。

　　然而，盡管AI智能體帶來了諸多便利，但其對大量個人身份數(shù)據(jù)的依賴也引發(fā)了嚴重的隱私問題，加劇了消費者對企業(yè)管理個人信息方式的不信任。尤其是在醫(yī)療和金融服務(wù)等高度依賴個人數(shù)據(jù)的關(guān)鍵領(lǐng)域，隨著代理式AI的普及，這一問題將變得更加嚴峻。

　　根據(jù)益普索(Ipsos)的了解亞洲研究，盡管人們對AI技術(shù)充滿期待，但對AI、數(shù)字隱私和安全的擔(dān)憂也在增加。亞太地區(qū)70%的消費者對企業(yè)采集信息的方式表示擔(dān)憂，在新加坡，這一比例更是高達81%。企業(yè)需認識到，制定并實施強有力的數(shù)據(jù)隱私政策不應(yīng)是事后補救措施，而應(yīng)成為可持續(xù)和負責(zé)任創(chuàng)新的基石。

　　區(qū)分和保護關(guān)鍵信息

　　保護消費者信任的第一步，也是最為關(guān)鍵的一步，是確保關(guān)鍵信息和個人身份信息(PII)的安全。AI對所有數(shù)據(jù)一視同仁，如果沒有設(shè)定適當?shù)膮?shù)，數(shù)據(jù)將被盲目使用。因此，若在缺乏健全保障措施的情況下部署AI智能體，敏感信息將面臨被濫用的風(fēng)險。

　　企業(yè)應(yīng)投資于安全且受控的數(shù)據(jù)平臺，采用全面的加密和通證化策略。這些措施應(yīng)被統(tǒng)一應(yīng)用于所有本地和云數(shù)據(jù)環(huán)境，以及各種存儲解決方案。通過建立針對數(shù)據(jù)泄露和惡意攻擊的強大防御體系，企業(yè)能夠在保障數(shù)據(jù)安全的同時，安全地應(yīng)用AI技術(shù)。

　　滿足數(shù)據(jù)治理和安全要求

　　隨著各國政府正在為保護公民數(shù)據(jù)隱私權(quán)而加強監(jiān)管，企業(yè)遵守當?shù)厥袌鲆?guī)則和數(shù)據(jù)主權(quán)法律的難度也在增加。而代理式AI的普及進一步加劇了這一挑戰(zhàn)，因其系統(tǒng)通常需要訪問歷史數(shù)據(jù)和跨境數(shù)據(jù)才能高效運行。

　　為解決這一問題，企業(yè)需采用細粒度的數(shù)據(jù)治理方法并輔以零信任架構(gòu)，即一種默認不信任任何用戶或系統(tǒng)的安全模式。這涉及到準確識別特定客戶數(shù)據(jù)的位置、采取適當?shù)目刂拼胧⒕邆渖稍敿毜膶徲媹蟾娴哪芰Α?/p>

　　此外，為滿足監(jiān)管機構(gòu)的要求和消費者的期望，企業(yè)還需建立數(shù)據(jù)刪除或匿名化機制。Cloudera Shared Data Experience等功能能夠在整合安全與治理的同時，確保正確的人員在正確的時間以正確的理由訪問相應(yīng)的信息。

　　將隱私和信任融入業(yè)務(wù)的全鏈條

　　在采用代理式AI的過程中，建立信任和透明的文化對于管理數(shù)據(jù)使用預(yù)期和創(chuàng)新的道德邊界至關(guān)重要。在管理層面上，企業(yè)應(yīng)采用“隱私設(shè)計”(Privacy by Design)原則，確保隱私在一開始就融入產(chǎn)品、服務(wù)和系統(tǒng)中，尤其是針對AI模型。對于消費者而言，培養(yǎng)“信任但要核實”的思維模式，是了解企業(yè)如何收集和使用數(shù)據(jù)的關(guān)鍵。

　　隨著AI智能體越來越多地參與到涉及消費者數(shù)據(jù)的決策過程，企業(yè)需將透明度作為數(shù)據(jù)處理的重點。提高透明度不僅有助于建立信任，還能降低企業(yè)聲譽和長期發(fā)展所面臨的風(fēng)險。

　　建立信任和保持透明度已成為企業(yè)不可忽視的責(zé)任。在代理式AI時代，成功的關(guān)鍵在于平衡創(chuàng)新與責(zé)任，確保數(shù)據(jù)隱私始終是可持續(xù)發(fā)展的基石。