麥肯錫的一份報(bào)告顯示，78%的企業(yè)表示至少在一個(gè)業(yè)務(wù)職能中使用了AI，這意味著你所在企業(yè)對(duì)AI的使用已不再是唯一的擔(dān)憂。

如今，風(fēng)險(xiǎn)暴露的邊界已延伸至合作伙伴和供應(yīng)商對(duì)AI的使用。主要問(wèn)題在于：他們是否在你未察覺(jué)的情況下，將AI嵌入到運(yùn)營(yíng)中，直到出現(xiàn)問(wèn)題你才有所發(fā)現(xiàn)?供應(yīng)商的聊天機(jī)器人處理敏感數(shù)據(jù)不當(dāng)、算法輸出結(jié)果存在偏見(jiàn)，或是合作伙伴用你的信息訓(xùn)練其模型，這些情況都可能引發(fā)監(jiān)管處罰和聲譽(yù)受損。除非你的合同對(duì)這些情況有所預(yù)見(jiàn)，否則責(zé)任很可能轉(zhuǎn)嫁到你身上。

為防范此類風(fēng)險(xiǎn)，企業(yè)可以(也應(yīng)當(dāng))采取以下措施：

• 要求披露AI的使用地點(diǎn)和方式

• 限制自身數(shù)據(jù)被輸入外部模型的方式

• 要求對(duì)高風(fēng)險(xiǎn)決策進(jìn)行人工監(jiān)督

• 將錯(cuò)誤或偏見(jiàn)產(chǎn)生的責(zé)任歸咎于供應(yīng)商

這些不僅僅是法律細(xì)節(jié)，它們是企業(yè)在管理自身范圍外AI風(fēng)險(xiǎn)的第一道防線。

1. AI使用披露

你無(wú)法管理你看不到的事物。要求供應(yīng)商正式披露在其服務(wù)提供過(guò)程中AI的使用地點(diǎn)和方式。這包括顯而易見(jiàn)的工具(如聊天機(jī)器人)以及生產(chǎn)力套件、自動(dòng)化分析和第三方插件中的嵌入式功能。

若沒(méi)有披露，你可能在毫不知情的情況下依賴AI生成的工作成果——這無(wú)疑是一場(chǎng)合規(guī)噩夢(mèng)，尤其是在你于多個(gè)司法管轄區(qū)運(yùn)營(yíng)的情況下。

這并非假設(shè)性的漏洞。盡管近80%的企業(yè)都在使用AI，但麥肯錫報(bào)告稱，只有21%的企業(yè)全面繪制并記錄了其AI應(yīng)用場(chǎng)景。企業(yè)內(nèi)部缺乏可見(jiàn)性凸顯了“影子AI”輕易滲透工作流程的容易程度，也凸顯了要求供應(yīng)商提高透明度的重要性。

應(yīng)采取的行動(dòng)

明確規(guī)定披露必須是主動(dòng)的，而不僅僅是在被要求時(shí)才進(jìn)行。例如，在歐洲，歐盟《AI法案》已要求在面向客戶的角色中使用AI時(shí)需保持此類透明度。

2. 數(shù)據(jù)使用限制

你的數(shù)據(jù)是你最寶貴的資產(chǎn);一旦數(shù)據(jù)脫離你的掌控，你可能并不清楚其使用方式。許多AI供應(yīng)商希望利用客戶數(shù)據(jù)來(lái)訓(xùn)練和完善其模型。除非你的第三方合同明確限制這一點(diǎn)，否則敏感信息可能會(huì)進(jìn)入你無(wú)法管控的系統(tǒng)，甚至嵌入到使競(jìng)爭(zhēng)對(duì)手受益的模型中。AI應(yīng)用場(chǎng)景缺乏透明度，使得你幾乎不可能知道自己的數(shù)據(jù)是否被用于你從未同意的方式。

應(yīng)采取的行動(dòng)

明確規(guī)定你的數(shù)據(jù)不得用于訓(xùn)練外部模型、不得納入供應(yīng)商的產(chǎn)品或服務(wù)，也不得與其他客戶共享。要求所有數(shù)據(jù)處理行為均符合最嚴(yán)格的適用隱私法律(如《通用數(shù)據(jù)保護(hù)條例》《健康保險(xiǎn)流通與責(zé)任法案》《加州消費(fèi)者隱私法案》等)，并明確規(guī)定這些義務(wù)在合同終止后仍然有效。

3. 人工監(jiān)督要求

AI可以加速工作流程并降低成本，但也會(huì)帶來(lái)不可忽視的風(fēng)險(xiǎn)。人工監(jiān)督確保自動(dòng)化輸出在上下文中得到正確解讀、審查是否存在偏見(jiàn)，并在系統(tǒng)出錯(cuò)時(shí)進(jìn)行糾正。沒(méi)有人工監(jiān)督，企業(yè)可能會(huì)過(guò)度依賴AI的效率，而忽視其盲點(diǎn)。監(jiān)管框架也朝著同一方向發(fā)展：例如，根據(jù)歐盟《AI法案》，高風(fēng)險(xiǎn)AI系統(tǒng)必須具備經(jīng)記錄的人工監(jiān)督機(jī)制。

跳過(guò)人工監(jiān)督的后果已經(jīng)顯現(xiàn)。在美國(guó)，Workday正面臨平等就業(yè)機(jī)會(huì)委員會(huì)的訴訟——截至2025年9月仍未解決——該訴訟指控其AI驅(qū)動(dòng)的招聘軟件基于種族、年齡和殘疾對(duì)求職者進(jìn)行歧視。盡管所指控的偏見(jiàn)源于供應(yīng)商的系統(tǒng)，但該案件是根據(jù)聯(lián)邦就業(yè)法提起的，這意味著依賴Workday工具的雇主并不能免于承擔(dān)責(zé)任。

這對(duì)第三方合同是一個(gè)重要教訓(xùn)：當(dāng)供應(yīng)商的AI做出有缺陷或有偏見(jiàn)的決策時(shí)，監(jiān)管機(jī)構(gòu)和法院不僅會(huì)關(guān)注技術(shù)提供商，還會(huì)關(guān)注在其運(yùn)營(yíng)中使用該工具的企業(yè)。

應(yīng)采取的行動(dòng)

在與供應(yīng)商的合同中明確具體的監(jiān)督要求，例如要求合格的招聘人員審查AI驅(qū)動(dòng)的招聘建議。同樣重要的是，應(yīng)建立內(nèi)部流程以確保這些審查切實(shí)發(fā)生。

4. 輸出錯(cuò)誤或偏見(jiàn)的責(zé)任

當(dāng)AI出錯(cuò)時(shí)，代價(jià)可能高昂——從聲譽(yù)受損到監(jiān)管罰款。關(guān)鍵問(wèn)題在于誰(shuí)承擔(dān)責(zé)任。如果沒(méi)有明確條款，默認(rèn)情況下可能是你的企業(yè)負(fù)責(zé)賠償，即使問(wèn)題源于供應(yīng)商的AI工具。

許多供應(yīng)商試圖限制自身風(fēng)險(xiǎn)。研究表明，88%的AI技術(shù)提供商對(duì)其責(zé)任設(shè)定上限，通常不超過(guò)一個(gè)月的訂閱費(fèi)。雖然這些數(shù)據(jù)來(lái)自AI軟件合同，但它反映了一個(gè)更廣泛的現(xiàn)實(shí)：除非你在協(xié)議中明確要求，否則第三方合作伙伴不太可能對(duì)AI驅(qū)動(dòng)的錯(cuò)誤承擔(dān)實(shí)質(zhì)性責(zé)任。這種責(zé)任錯(cuò)位很重要。監(jiān)管機(jī)構(gòu)和法院通常會(huì)首先關(guān)注使用該工具的企業(yè)，而非提供該工具的供應(yīng)商。

應(yīng)采取的行動(dòng)

協(xié)商責(zé)任條款，明確涵蓋AI驅(qū)動(dòng)的問(wèn)題，包括歧視性輸出、違反監(jiān)管規(guī)定以及財(cái)務(wù)或運(yùn)營(yíng)建議中的錯(cuò)誤。避免使用通用的賠償條款。相反，應(yīng)在合同中單獨(dú)設(shè)立AI特定責(zé)任條款，并規(guī)定與潛在影響相匹配的補(bǔ)救措施。

AI合同作為AI治理的第一道防線

隨著供應(yīng)商將AI更深入地嵌入其服務(wù)中，責(zé)任、偏見(jiàn)和數(shù)據(jù)濫用問(wèn)題很容易成為你的問(wèn)題。此處概述的條款提供了保護(hù)起點(diǎn)，但并非故事的結(jié)局。你的合同必須與內(nèi)部監(jiān)督協(xié)同工作，包括維護(hù)AI清單、培訓(xùn)員工以及制定負(fù)責(zé)任使用的明確政策。

監(jiān)管機(jī)構(gòu)正在迅速行動(dòng)，訴訟開(kāi)始檢驗(yàn)責(zé)任歸屬，供應(yīng)商將繼續(xù)將責(zé)任轉(zhuǎn)嫁給客戶。能夠蓬勃發(fā)展的企業(yè)將是那些將合同視為更廣泛AI風(fēng)險(xiǎn)框架一部分的企業(yè)——而非事后才考慮的因素。通過(guò)在協(xié)議中嵌入披露、數(shù)據(jù)保護(hù)、監(jiān)督和責(zé)任條款，你為業(yè)務(wù)未來(lái)構(gòu)建了保護(hù)屏障，無(wú)論技術(shù)如何演變。