神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。

編者按：人工智能作為如今的一大風(fēng)口正日新月異地發(fā)展著。雖然我們已然接受了人工智能，但并未對(duì)其有著深入的了解，而且我們對(duì)人工智能的反應(yīng)也存在矛盾之處。人類真的能與人工智能和諧相處嗎？展望未來，科技行業(yè)從業(yè)者需要像關(guān)注技術(shù)本身一樣，關(guān)注人類對(duì)人工智能的反應(yīng)。本文來自編譯，希望對(duì)您有所啟發(fā)。

(資料圖)

[Source illustration： PM Images/Getty Images]

過去的一年見證了人工智能領(lǐng)域的飛躍。數(shù)百萬人突然開始與人工智能聊天機(jī)器人 ChatGPT 進(jìn)行類似人與人的對(duì)話，并使用 Lensa 等應(yīng)用程序制作機(jī)器生成的肖像。ChatGPT 最近還通過了一位教授的 MBA 考試。一位計(jì)算機(jī)科學(xué)家甚至用人工智能，為一整本兒童書籍創(chuàng)作了文本和插圖。

人工智能也正在接管我們的工作場(chǎng)所。它通過將日常任務(wù)自動(dòng)化，以及綜合和匯總信息，使人們的工作更加容易。雖然一些員工對(duì)效率的提高表示歡迎，但也有人擔(dān)心有一天科技可能會(huì)完全取代他們。甚至有人猜測(cè)，最近科技公司的裁員潮，可能與人力資源等部門的任務(wù)日益自動(dòng)化有關(guān)。專家們還擔(dān)心人工智能會(huì)被用來監(jiān)視員工，以及擔(dān)心人工智能會(huì)通過學(xué)習(xí)人類言論，來重現(xiàn)一些糟糕的偏見。

人工智能技術(shù)的每一次進(jìn)步，都與古老的人類心理學(xué)發(fā)生著碰撞，導(dǎo)致我們以復(fù)雜且往往相互矛盾的方式做出反應(yīng)。我們喜歡可穿戴設(shè)備 Fitbits 和智能手表，但討厭保險(xiǎn)公司利用這些數(shù)據(jù)來定價(jià)或預(yù)測(cè)我們的健康結(jié)果。我們?yōu)槟切┛梢詭椭鷼埣踩酥匾姽饷骰蛑匦滦凶叩奈磥砜萍级鴼g呼，但對(duì)軍方使用同樣的技術(shù)來創(chuàng)造超級(jí)士兵的想法感到反感。我們經(jīng)常把短期的技術(shù)采用和其長期的后果看作是不同的事情，而它們實(shí)際上是一個(gè)硬幣的兩面。

這意味著，我們的心理沖動(dòng)和認(rèn)知偏見使自己很容易采用新技術(shù)，而隨著時(shí)間的推移，這些新技術(shù)會(huì)創(chuàng)造一個(gè)我們可能并不喜歡的未來。在過去的 20 年里，我們張開雙臂擁抱 Facebook 和 Twitter 等社交媒體平臺(tái)。直到現(xiàn)在，我們才意識(shí)到這些平臺(tái)可能會(huì)影響我們的世界觀、傳播錯(cuò)誤信息和仇恨言論，甚至?xí)绊戇x舉結(jié)果——但為時(shí)已晚了。

作為南加州大學(xué)馬歇爾商學(xué)院（USC Marshall School of Business）的行為科學(xué)家，我在自己的研究中看到了這些矛盾。當(dāng)研究人們?nèi)绾嗡伎夹录夹g(shù)以及如何與新技術(shù)互動(dòng)時(shí)，我驚訝地發(fā)現(xiàn)，人們對(duì)人工智能的反應(yīng)是多么矛盾和不一致，而且我們經(jīng)常未能充分考慮到后果。

例如，我和合作者進(jìn)行了兩組關(guān)于“工作場(chǎng)所人工智能”的研究。在其中一項(xiàng)研究中，我們發(fā)現(xiàn)，當(dāng)監(jiān)控由自主技術(shù)而不是人工進(jìn)行時(shí)，員工會(huì)更愿意在工作中被監(jiān)控——考慮到人們對(duì)被他人評(píng)判（或控制）的根深蒂固的恐懼，這是有道理的。在監(jiān)控過程中把人的因素剔除，會(huì)讓我們覺得沒有被他人評(píng)判得很厲害，因此我們有更大的自主權(quán)。

然而，在第二組關(guān)于“招聘和晉升決策”的研究中，我們發(fā)現(xiàn)員工更喜歡由人類做出決定。盡管人工智能的決策和結(jié)果是相同的，但人們認(rèn)為算法不太公平，并質(zhì)疑其考慮定性信息或上下文信息的能力。相反，我們希望能夠向另一個(gè)人講述自己的故事，而且相信他們能夠更好地理解其中的細(xì)微差別，并給我們一個(gè)公正的評(píng)價(jià)——但這也可能會(huì)導(dǎo)致我們拒絕那些有可能糾正人類偏見的算法。

這些下意識(shí)的反應(yīng)值得注意，因?yàn)檫@表明，我們對(duì)技術(shù)的感知和反應(yīng)方式可能與技術(shù)本身一樣重要。隨著人工智能變得越來越強(qiáng)大，我們不僅要投資技術(shù)設(shè)計(jì)，還要提高我們自己的“技術(shù)商”（相對(duì)于“智商”而言，指我們對(duì)技術(shù)的理解和做出明智決定的能力）。

簡(jiǎn)而言之，我們需要更好地客觀評(píng)估技術(shù)在生活中的利與弊。目前，我們的反應(yīng)取決于人工智能的呈現(xiàn)方式，以及我們與生俱來的認(rèn)知偏見和心理上的合理化。例如，我們會(huì)優(yōu)先考慮刷 Snapchat、TikTok 或 Instagram 帶來的多巴胺沖擊，而不是這些平臺(tái)對(duì)隱私或情感健康潛在的長期負(fù)面影響。這種現(xiàn)象被稱為“雙曲線貼現(xiàn)”（我們的心理傾向是選擇眼前的滿足，而不是等待未來更大的利益）。

規(guī)范和期望也很重要。如果你注冊(cè)成為一名 Uber 司機(jī)，那么你會(huì)期望你的路線由機(jī)器分配，你的評(píng)分由算法監(jiān)控，這都是交易的一部分。相比之下，一個(gè)突然得知自己將被算法管理的辦公室職員可能會(huì)對(duì)此更加猶豫和懷疑。但是以上這二者明明都是人工智能在工作場(chǎng)所的應(yīng)用實(shí)例，人們明明沒有理由相信，一種監(jiān)視形式會(huì)比另一種更有害。

人們對(duì)技術(shù)的反應(yīng)也因其用途而異。在上述研究中，我們發(fā)現(xiàn)，當(dāng)公司使用人工智能監(jiān)控?cái)?shù)據(jù)，為員工提供有用的反饋時(shí)，比用這些數(shù)據(jù)來評(píng)估員工的表現(xiàn)更容易被員工接受，即使在這兩種情況下追蹤的是同樣的數(shù)據(jù)。我們經(jīng)常沒有意識(shí)到的是，一項(xiàng)技術(shù)的“理想應(yīng)用”和“非理想應(yīng)用”往往是齊頭并進(jìn)的。

那么，我們?cè)撛趺崔k呢？為了進(jìn)行我們迫切需要的關(guān)于人工智能的智能社會(huì)對(duì)話，我們需要更深入地了解人類心理是如何驅(qū)動(dòng)我們采用技術(shù)的，以及技術(shù)是如何反過來塑造我們的心理的。背景和框架如何影響我們對(duì)一項(xiàng)新技術(shù)的反應(yīng)？哪些認(rèn)知偏見妨礙了我們對(duì)人工智能的清晰認(rèn)識(shí)？對(duì)人工智能的依賴會(huì)如何改變我們理解世界和與世界互動(dòng)的方式？

這些話題還沒有得到充分的研究，但我很高興看到，像我在南加州大學(xué)尼利道德領(lǐng)導(dǎo)與決策中心（Neely Center for Ethical Leadership and Decision Making）的同事們這樣的研究人員，用他們的研究加速了我們的理解。學(xué)者們不僅在關(guān)注科技的危害，還在研究我們?cè)撊绾卫蒙缃幻襟w和虛擬現(xiàn)實(shí)等技術(shù)，來促進(jìn)人類的長期繁榮。

展望未來，科技領(lǐng)導(dǎo)者需要像關(guān)注技術(shù)本身的設(shè)計(jì)一樣，關(guān)注人類心理對(duì)人工智能的反應(yīng)。同樣，采用人工智能的經(jīng)理和公司也應(yīng)該考慮員工的反應(yīng)，并讓他們了解情況，而不是突然實(shí)施新技術(shù)。建立和維持信任是至關(guān)重要的。

隨著人工智能的加速發(fā)展，人類的未來正處于再平衡之中。我們的選擇和行動(dòng)的后果是巨大的。讓我們認(rèn)真對(duì)待這一責(zé)任，把人工智能作為一個(gè)復(fù)雜的謎題來對(duì)待，而不是孤立地看待謎題的“好”或“壞”的部分。我們必須提高自己的“技術(shù)商”，以確保與人工智能建立更積極的關(guān)系，并最終創(chuàng)造一個(gè)更美好的未來。

譯者：Jane

關(guān)鍵詞：