全球范圍調(diào)查數(shù)據(jù) 近50%人不相信企業(yè)會(huì)合乎道德使用AI

如今AI熱潮火到天際，全球各大IT企業(yè)都在積極布局，Salesforce最近對(duì)來自25個(gè)國(guó)家的1.4萬名企業(yè)買家和消費(fèi)者進(jìn)行了調(diào)查，發(fā)現(xiàn)企業(yè)在采用人工智能技術(shù)的“競(jìng)賽”中，可能以客戶信任為代價(jià)。

調(diào)查顯示，雖然客戶普遍對(duì)AI應(yīng)用持開放態(tài)度，以獲取更好體驗(yàn)，但近50%的受訪者不信任企業(yè)會(huì)合乎道德地使用AI。

調(diào)查重點(diǎn)是企業(yè)在推行新型生成AI時(shí)需解決的主要問題，以向客戶提供最佳AI體驗(yàn)并保持業(yè)務(wù)增長(zhǎng)。對(duì)“信任”的理解很復(fù)雜，在AI中信任植根于遵循個(gè)人權(quán)利、隱私和非歧視等倫理原則。調(diào)查中，76%的人信任企業(yè)提升產(chǎn)品和服務(wù)，但近50%不信任它們會(huì)合乎道德地使用AI。

受訪者最擔(dān)心的問題是缺乏透明度和人工驗(yàn)證AI輸出，超過80%的人要求人工驗(yàn)證。僅37%的人信任AI提供與人一樣準(zhǔn)確的響應(yīng)。企業(yè)買家對(duì)AI的信心較高，73%的企業(yè)買家對(duì)企業(yè)使用AI提升體驗(yàn)持開放態(tài)度，而只有51%的消費(fèi)者這樣認(rèn)為。

調(diào)查建議企業(yè)提高AI使用透明度和結(jié)果驗(yàn)證，49%的受訪者希望獲得更多選擇權(quán)，決定AI在接觸中的應(yīng)用方式。其他建議包括:業(yè)內(nèi)標(biāo)準(zhǔn)、征求客戶反饋、培訓(xùn)數(shù)據(jù)集、公開算法等。

在受訪者中，企業(yè)買家對(duì)人工智能的態(tài)度比消費(fèi)者更加樂觀，其中73% 的人表示他們?cè)敢馄髽I(yè)使用這項(xiàng)技術(shù)來獲得更好的體驗(yàn)。相比之下，只有51% 的消費(fèi)者持相同觀點(diǎn)。

有趣的是，自2022年生成式人工智能（能夠在幾秒鐘內(nèi)生成新內(nèi)容）出現(xiàn)以來，總體情緒似乎仍然有所下降。Salesforce 表示，去年，多達(dá)82% 的企業(yè)買家和65% 的消費(fèi)者愿意使用人工智能來獲得更好的體驗(yàn)。

在供應(yīng)商方面，樂觀情緒繼續(xù)保持高漲，大多數(shù)處于客戶參與前沿的專業(yè)人士（從 IT 和營(yíng)銷到銷售和服務(wù)團(tuán)隊(duì)）表示，生成式人工智能將幫助他們的公司更好地為客戶服務(wù)。