全球范圍調(diào)查數(shù)據(jù) 近50%人不相信企業(yè)會合乎道德使用AI

如今AI熱潮火到天際，全球各大IT企業(yè)都在積極布局，Salesforce最近對來自25個國家的1.4萬名企業(yè)買家和消費者進行了調(diào)查，發(fā)現(xiàn)企業(yè)在采用人工智能技術(shù)的“競賽”中，可能以客戶信任為代價。

調(diào)查顯示，雖然客戶普遍對AI應(yīng)用持開放態(tài)度，以獲取更好體驗，但近50%的受訪者不信任企業(yè)會合乎道德地使用AI。

調(diào)查重點是企業(yè)在推行新型生成AI時需解決的主要問題，以向客戶提供最佳AI體驗并保持業(yè)務(wù)增長。對“信任”的理解很復(fù)雜，在AI中信任植根于遵循個人權(quán)利、隱私和非歧視等倫理原則。調(diào)查中，76%的人信任企業(yè)提升產(chǎn)品和服務(wù)，但近50%不信任它們會合乎道德地使用AI。

受訪者最擔心的問題是缺乏透明度和人工驗證AI輸出，超過80%的人要求人工驗證。僅37%的人信任AI提供與人一樣準確的響應(yīng)。企業(yè)買家對AI的信心較高，73%的企業(yè)買家對企業(yè)使用AI提升體驗持開放態(tài)度，而只有51%的消費者這樣認為。

調(diào)查建議企業(yè)提高AI使用透明度和結(jié)果驗證，49%的受訪者希望獲得更多選擇權(quán)，決定AI在接觸中的應(yīng)用方式。其他建議包括:業(yè)內(nèi)標準、征求客戶反饋、培訓(xùn)數(shù)據(jù)集、公開算法等。

在受訪者中，企業(yè)買家對人工智能的態(tài)度比消費者更加樂觀，其中73% 的人表示他們愿意企業(yè)使用這項技術(shù)來獲得更好的體驗。相比之下，只有51% 的消費者持相同觀點。

有趣的是，自2022年生成式人工智能（能夠在幾秒鐘內(nèi)生成新內(nèi)容）出現(xiàn)以來，總體情緒似乎仍然有所下降。Salesforce 表示，去年，多達82% 的企業(yè)買家和65% 的消費者愿意使用人工智能來獲得更好的體驗。

在供應(yīng)商方面，樂觀情緒繼續(xù)保持高漲，大多數(shù)處于客戶參與前沿的專業(yè)人士（從 IT 和營銷到銷售和服務(wù)團隊）表示，生成式人工智能將幫助他們的公司更好地為客戶服務(wù)。