3月29日，未來(lái)生命研究所(Future of Life Institute)發(fā)布了一封公開(kāi)信，呼吁所有人工智能(AI)實(shí)驗(yàn)室暫停一切大規(guī)模人工智能系統(tǒng)的訓(xùn)練，至少停止六個(gè)月，這些系統(tǒng)比目前最先進(jìn)的GPT-4更強(qiáng)大。我和其他一些業(yè)內(nèi)知名人士一起簽署了這封“暫停信”，其中包括埃隆·馬斯克(Elon Musk)和史蒂夫·沃茲尼亞克(Steve Wozniak)。我不知道呼吁有沒(méi)有用，但我相信前方確實(shí)有危險(xiǎn)，以下是為什么我這么說(shuō)的原因。

一段時(shí)間以來(lái)，我一直都在擔(dān)心人工智能對(duì)社會(huì)的影響，我指的不是超級(jí)智能人工智能突然接管世界這種人類面臨的長(zhǎng)期存亡風(fēng)險(xiǎn)，而是人工智能被用來(lái)操縱社會(huì)的短期風(fēng)險(xiǎn)，即通過(guò)人工智能有意影響我們接收的信息，并決定這些信息如何在人群中傳播。這種風(fēng)險(xiǎn)在過(guò)去12個(gè)月里迅速上升，原因是兩種重疊技術(shù)的重大性能提升，這兩種技術(shù)通常被稱為“生成式AI”和“對(duì)話式AI”。下面我來(lái)談?wù)勛约簽槭裁磳?duì)這兩種技術(shù)感到擔(dān)憂。

生成式AI指的是大型語(yǔ)言模型(LLM)根據(jù)人類要求創(chuàng)造原創(chuàng)內(nèi)容的能力?，F(xiàn)在，人工智能生成的內(nèi)容包括圖像、藝術(shù)作品、視頻、散文、詩(shī)歌、計(jì)算機(jī)軟件、音樂(lè)和科學(xué)類文章等。在過(guò)去，生成式內(nèi)容讓人嘆為觀止，但沒(méi)有人會(huì)把它誤認(rèn)為是人類的創(chuàng)造。這一切在過(guò)去12個(gè)月里發(fā)生了變化。人工智能系統(tǒng)突然能夠創(chuàng)造出可以輕易欺騙我們的東西，讓我們相信這些東西要么真的是人類創(chuàng)造的，要么是真實(shí)的視頻或在現(xiàn)實(shí)世界中捕捉到的照片。這種能力目前正在被大規(guī)模部署，給社會(huì)帶來(lái)了許多重大風(fēng)險(xiǎn)。

(相關(guān)資料圖)

就業(yè)市場(chǎng)面臨的風(fēng)險(xiǎn)最顯而易見(jiàn)。由于LLM系統(tǒng)創(chuàng)造的東西讓人嘆為觀止，專業(yè)人士現(xiàn)在將LLM系統(tǒng)稱為“能與人類競(jìng)爭(zhēng)的智能”，可以取代內(nèi)容創(chuàng)作者。從藝術(shù)家和作家到計(jì)算機(jī)程序員和金融分析師，一大批職業(yè)都會(huì)受到影響。事實(shí)上，Open AI、OpenResearch和賓夕法尼亞大學(xué)的一項(xiàng)新研究通過(guò)比較GPT-4能力和工作要求，探索了人工智能對(duì)美國(guó)勞動(dòng)力市場(chǎng)的影響。該研究的作者估計(jì)，20%的美國(guó)勞動(dòng)力中至少有50%的工作將受到GPT-4的影響，高收入工作將受到更大的影響。

就業(yè)市場(chǎng)面臨的這一近在眼前的威脅令人擔(dān)憂，但這不是我簽署“暫停信”的原因。我的擔(dān)憂是，人工智能生成的內(nèi)容看起來(lái)和感覺(jué)起來(lái)都是真實(shí)的，而且經(jīng)常給人很有權(quán)威的印象，但它實(shí)際上很容易犯事實(shí)性錯(cuò)誤。如何確保這些將成為勞動(dòng)力主要組成部分的系統(tǒng)不會(huì)從傳播小錯(cuò)誤變成傳播瘋狂的捏造內(nèi)容，目前沒(méi)有確切的標(biāo)準(zhǔn)或管理機(jī)構(gòu)，我們需要時(shí)間來(lái)制定保護(hù)措施，并由監(jiān)管機(jī)構(gòu)來(lái)確保保護(hù)措施落到實(shí)處。

接下來(lái)一個(gè)顯而易見(jiàn)的風(fēng)險(xiǎn)是，心懷不軌的人可能會(huì)故意創(chuàng)作出帶有事實(shí)性錯(cuò)誤的內(nèi)容，被用于有意傳播錯(cuò)誤信息、虛假信息和徹頭徹尾的謊言。這一風(fēng)險(xiǎn)一直都存在，但生成式人工智能所能觸及的范圍是過(guò)去不曾有過(guò)的，我們的世界非常容易因此充斥著看起來(lái)很權(quán)威但完全是捏造的內(nèi)容。這種情況已經(jīng)在Deepfake這類AI換臉工具上得到了體現(xiàn)，公眾人物可以在看起來(lái)非常逼真的視頻中做任何事或說(shuō)任何話。隨著人工智能變得越來(lái)越嫻熟，公眾將無(wú)法區(qū)分真假。我們需要水印系統(tǒng)和其他技術(shù)來(lái)區(qū)分真實(shí)的內(nèi)容和人工智能生成的內(nèi)容。要制定和落實(shí)這些保護(hù)措施，同樣需要時(shí)間。

對(duì)話式人工智能系統(tǒng)帶來(lái)了一系列獨(dú)特的風(fēng)險(xiǎn)。這種形式的生成式人工智能可以通過(guò)文本聊天和語(yǔ)音聊天與用戶進(jìn)行實(shí)時(shí)對(duì)話。這些系統(tǒng)最近已經(jīng)發(fā)展到人工智能可以與人類進(jìn)行連貫的對(duì)話，并隨著時(shí)間的推移跟蹤對(duì)話過(guò)程和上下文。這些技術(shù)是我最擔(dān)心的，因?yàn)樗鼈円肓艘环N監(jiān)管機(jī)構(gòu)沒(méi)有準(zhǔn)備好的全新的影響力運(yùn)動(dòng)形式——對(duì)話影響力。

每個(gè)銷售人員都知道，說(shuō)服別人買東西或相信某個(gè)東西的最好方法是與他們交談，這樣你就可以闡述自己的觀點(diǎn)，觀察他們的反應(yīng)，然后調(diào)整策略來(lái)應(yīng)對(duì)他們的抗拒或擔(dān)憂。隨著GPT-4的發(fā)布，現(xiàn)在很明顯，人工智能系統(tǒng)將能夠讓用戶參與真實(shí)的實(shí)時(shí)對(duì)話，作為一種有針對(duì)性的影響形式。我擔(dān)心的是，第三方使用API或插件將促銷目標(biāo)傳遞到看似自然的對(duì)話中，毫無(wú)提防的用戶將被操縱購(gòu)買他們不想要的產(chǎn)品，注冊(cè)他們不需要的服務(wù)，或者相信不真實(shí)的信息。

我稱之為“人工智能操縱問(wèn)題”。在很長(zhǎng)一段時(shí)間里，這只是一個(gè)理論上的風(fēng)險(xiǎn)，但現(xiàn)在的技術(shù)可以部署個(gè)性化的對(duì)話影響力活動(dòng)，根據(jù)用戶的價(jià)值觀、興趣和背景來(lái)定位用戶，以推動(dòng)銷售、宣傳或誤導(dǎo)信息。

事實(shí)上，我擔(dān)心人工智能驅(qū)動(dòng)的對(duì)話影響力將成為人類有史以來(lái)最強(qiáng)大的有針對(duì)性的說(shuō)服形式。我們需要時(shí)間來(lái)落實(shí)保護(hù)措施。就我個(gè)人而言，我認(rèn)為可能需要制定法相關(guān)規(guī)，禁止或嚴(yán)格限制使用人工智能介導(dǎo)的對(duì)話影響力。

因此，我在“暫停信”上簽了名，因?yàn)槲仪宄乜吹搅巳斯ぶ悄芟到y(tǒng)帶來(lái)的新風(fēng)險(xiǎn)的蔓延速度非?？?，從業(yè)內(nèi)研究人員和行業(yè)專業(yè)人士到監(jiān)管機(jī)構(gòu)和政策制定者，都沒(méi)有時(shí)間去適應(yīng)。

這封信會(huì)管用嗎？我不清楚人工智能行業(yè)是否會(huì)同意暫停六個(gè)月，但這封信已經(jīng)引起了人們對(duì)這個(gè)問(wèn)題的關(guān)注。就我個(gè)人而言，我認(rèn)為我們需要盡可能多地敲響警鐘，以喚醒監(jiān)管機(jī)構(gòu)、政策制定者和行業(yè)領(lǐng)導(dǎo)者，他們需要采取行動(dòng)，這項(xiàng)技術(shù)進(jìn)入市場(chǎng)的速度比我經(jīng)歷過(guò)的任何事都要快，這也是為什么我們必須暫停適應(yīng)一下。我們需要一些時(shí)間。

本文作者系Unanimous AICEO、Responsible Metaverse Alliance首席科學(xué)家和XR Safety Initiative全球技術(shù)顧問(wèn)。

關(guān)鍵詞：