隨著ChatGPT大火,多位AI界巨佬發(fā)出預(yù)警:有朝一日,它可能真的會(huì)消滅人類。
最近,ChatGPT的大火,讓人看到第四次科技革命大門開啟的跡象,但也有很多人開始擔(dān)心,AI是否有消滅人類的風(fēng)險(xiǎn)。
(資料圖)
不是夸張,最近多位大佬,已經(jīng)表達(dá)了這樣的擔(dān)憂。
ChatGPT之父Sam Altman、人工智能教父Geoffrey Hinton、比爾蓋茨、紐約大學(xué)教授Gary Marcus最近紛紛提醒我們:別太大意,AI真的可能會(huì)消滅人類。
而Meta首席AI科學(xué)家LeCun畫風(fēng)卻不太一樣,他依然強(qiáng)調(diào)著LLM的種種缺陷,四處推薦自己的「世界模型」。
Altman:AI可能摧毀社會(huì),不要擬人化
最近,ChatGPT之父、OpenAI CEO Sam Altman就表示,超級(jí)智能AI的風(fēng)險(xiǎn)可能會(huì)遠(yuǎn)遠(yuǎn)超出我們的預(yù)料。
在技術(shù)研究員Lex Fridman的播客中,Altman對(duì)高級(jí)人工智能的潛在危險(xiǎn)發(fā)出了預(yù)警。
他表示自己最擔(dān)心的是,AI造成的虛假信息問題,以及經(jīng)濟(jì)上的沖擊,以及其他還沒出現(xiàn)的種種問題,這些危害可能遠(yuǎn)遠(yuǎn)超過了人類能應(yīng)對(duì)的程度。
他提出了這樣一種可能性:大語(yǔ)言模型可以影響、甚至是主宰社交媒體用戶的體驗(yàn)和互動(dòng)。
「打個(gè)比方,我們?cè)趺磿?huì)知道,大語(yǔ)言模型沒有在推特上指揮大家的思想流動(dòng)呢?」
為此,Altman特別強(qiáng)調(diào)了解決人工智能對(duì)接問題的重要性,以防止AI的潛在危險(xiǎn)。他強(qiáng)調(diào),必須從技術(shù)軌跡中學(xué)習(xí),努力解決這個(gè)問題,以確保AI的安全性。
在3月23日的一份文件中,OpenAI解釋了它如何解決GPT-4的一些風(fēng)險(xiǎn):一是通過使用政策和監(jiān)測(cè);二是通過審核內(nèi)容分類器
OpenAI承認(rèn),AI模型可能會(huì)放大偏見,造成永久的刻板印象。
正因如此,它向用戶特別強(qiáng)調(diào),不要在有重大利害關(guān)系的情況下使用GPT-4,比如執(zhí)法、刑事司法、移民和庇護(hù)之類的高風(fēng)險(xiǎn)政府決策,或者用它提供法律、健康方面的建議。
此前,ChatGPT胡說(shuō)八道的問題,或者說(shuō)大語(yǔ)言模型的「幻覺問題」,曾在用戶中引起諸多爭(zhēng)議。
馬斯克就諷刺滿滿地表示,現(xiàn)在最強(qiáng)大的AI工具已經(jīng)掌握在了壟斷寡頭手中
Altman承認(rèn)這一點(diǎn):本著公共建設(shè)和推動(dòng)社會(huì)發(fā)展的精神,我們是推出了一些有缺陷的產(chǎn)品,但現(xiàn)在,我們正在讓系統(tǒng)嘗試學(xué)習(xí)哪些是它不該回答的問題,然后做出更好的版本。
在3月23日的文件中可以看到,GPT-4的早期版本對(duì)不該說(shuō)的內(nèi)容過濾較少,用戶問它在哪里購(gòu)買無(wú)證槍支、怎么自殺,它都會(huì)回答。
而改進(jìn)的版本中,它會(huì)拒絕回答這些問題。另外,GPT-4有時(shí)也會(huì)主動(dòng)承認(rèn)自己有「幻覺問題」。
Altman說(shuō),「我認(rèn)為,作為OpenAI,我們有責(zé)任為我們向世界推出的工具負(fù)責(zé)?!?/p>
「AI工具將給人類帶來(lái)巨大的好處,但是,你知道的,工具既有好處也有壞處,」他補(bǔ)充道?!肝覀儠?huì)把壞處降到最低,把好處最大化?!?/p>
雖然GPT-4模型很了不起,但認(rèn)識(shí)到人工智能的局限性并避免將其擬人化也很重要。
Hinton:AI消滅人類,并非不可想象
無(wú)獨(dú)有偶,Hinton最近也警示了這一危險(xiǎn)。
「人工智能教父」Geoffrey Hinton近日在CBS NEWS的采訪表示,人工智能正處于一個(gè)「關(guān)鍵時(shí)刻」,通用人工智能 (AGI) 的出現(xiàn)比我們想象的更加迫近。
而在Hinton看來(lái),ChatGPT這項(xiàng)技術(shù)的進(jìn)步可以與「掀起工業(yè)革命的電力」相媲美。
通用人工智能是指,智能體學(xué)習(xí)人類所能完成的任何思維任務(wù)的潛在能力。然而,當(dāng)前它還沒有被完全開發(fā)出來(lái),許多計(jì)算機(jī)科學(xué)家還在研究它是否可行。
采訪中,Hinton表示,
通用人工智能的發(fā)展比人們想象的要快得多。直到不久前,我還以為大概需要20-50年,我們才能實(shí)現(xiàn)通用人工智能。而現(xiàn)在,通用人工智能的實(shí)現(xiàn)可能需要20年或更短的時(shí)間。
當(dāng)被具體問及人工智能消滅人類的可能性時(shí),Hinton說(shuō),「我認(rèn)為這并非不可想象」。
在谷歌工作的Hinton在40多年前就開始關(guān)注人工智能。在當(dāng)時(shí),人工智能在許多人看來(lái)還是一種科幻的存在。
與一些科學(xué)家試圖將邏輯和推理技能編入計(jì)算機(jī)的方式不同,Hinton認(rèn)為更好的方法是模擬大腦,讓計(jì)算機(jī)自己發(fā)現(xiàn)這些技能,通過構(gòu)建一個(gè)虛擬的神經(jīng)網(wǎng)絡(luò)技術(shù),以建立正確的連接來(lái)解決任務(wù)。
「最大的問題是,你能期待一個(gè)大型神經(jīng)網(wǎng)絡(luò)通過改變連接的強(qiáng)度來(lái)學(xué)習(xí)嗎?你能指望僅僅看著數(shù)據(jù),在沒有先天知識(shí)的情況下,學(xué)會(huì)如何做事嗎?我認(rèn)為這完全是荒謬的?!?/p>
在過去十年左右的時(shí)間里,計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)的快速發(fā)展最終證明了Hinton的方式是正確的。
他的機(jī)器學(xué)習(xí)思想被用于創(chuàng)建各種輸出,包括深度偽造的照片、視頻和音頻,讓那些研究錯(cuò)誤信息的人擔(dān)心這些工具如何使用。
人們也擔(dān)心這項(xiàng)技術(shù)會(huì)帶走很多工作,但是Hinton 的導(dǎo)師,Cohere 公司的聯(lián)合創(chuàng)始人Nick Frosst,卻認(rèn)為這項(xiàng)技術(shù)不會(huì)取代工人,但是會(huì)改變他們的生活。
計(jì)算機(jī)最終獲得創(chuàng)造性想法來(lái)改進(jìn)自身的能力似乎是可行的。我們必須考慮如何控制它。
不管行業(yè)對(duì)AGI的到來(lái)大聲歡呼,也不管我們距離AI出現(xiàn)意識(shí)還需要多長(zhǎng)時(shí)間,我們現(xiàn)在應(yīng)該仔細(xì)考慮它的后果,其中可能包括它試圖消滅人類這一問題。
當(dāng)前真正的問題在于,我們已經(jīng)擁有的人工智能技術(shù)被渴望權(quán)力的政府和企業(yè)所壟斷。
幸運(yùn)的是,據(jù)Hinton的觀點(diǎn),在事情完全失控之前,人類還有一點(diǎn)喘息的空間。
Hinton稱,「我們現(xiàn)在正處于一個(gè)轉(zhuǎn)折點(diǎn)。ChatGPT是一個(gè)白癡專家,它也不真正理解真相。因?yàn)樗噲D調(diào)和其訓(xùn)練數(shù)據(jù)中的不同和反對(duì)意見。這與保持一致世界觀的人是完全不同的?!?/p>
比爾蓋茨:AI的危險(xiǎn),我擔(dān)心很久了
而對(duì)于「AI消滅人類」這個(gè)問題,比爾蓋茨已經(jīng)憂心多年了。
很多年來(lái),蓋茨一直表示,人工智能技術(shù)已經(jīng)變得過于強(qiáng)大,甚至可能引發(fā)戰(zhàn)爭(zhēng)或被用來(lái)制造武器。
他聲稱,不僅現(xiàn)實(shí)生活中的「007反派」可能利用它來(lái)操縱世界大國(guó),而且人工智能本身也可能失控,對(duì)人類造成極大威脅。
在他看來(lái),當(dāng)超級(jí)智能被開發(fā)出來(lái),它的思考速度會(huì)遠(yuǎn)遠(yuǎn)趕超人類。它能做到人腦所能做的一切,最可怕的是,它的記憶內(nèi)存大小和運(yùn)行速度根本不受限。
這些被稱為「超級(jí)」AI的實(shí)體可能會(huì)設(shè)定自己的目標(biāo),不知道會(huì)干出什么事。
LeCun:LLM弱爆了,我還是站世界模型
雖然OpenAI、谷歌和微軟的大佬們都表示了對(duì)AI消滅人類的擔(dān)憂,但到了Meta的首席AI科學(xué)家LeCun這里,畫風(fēng)突變。
在他看來(lái),現(xiàn)在的LLM還不行,更別提消滅人類了。
上周,志得意滿的微軟剛剛發(fā)了一篇名為「Sparks of Artificial General Intelligence: Early experiments with GPT-4」的論文,表示GPT-4已經(jīng)可以被視為一個(gè)通用人工智能的早期版本。
而LeCun依舊秉持自己一貫的觀點(diǎn):LLM弱爆了,根本不算AGI,要想通往AGI之路,「世界模型」才有可能。
我們知道,LeCun對(duì)于世界模型的擁躉,已經(jīng)持續(xù)幾年了,為此他經(jīng)常在推特上與眾網(wǎng)友展開激辯。
比如上個(gè)月他曾斷言:「在通往人類級(jí)別AI的道路上,大型語(yǔ)言模型就是一條歪路。要知道,連一只寵物貓、寵物狗都比任何LLM有更多的常識(shí),以及對(duì)世界的理解。」
最近,斯坦福認(rèn)知科學(xué)家Michael C. Frank在網(wǎng)上提問:「GPT-3接受了5000億個(gè)token(約3.75x10^11個(gè)單詞)的訓(xùn)練。所以這給了我們大約4x10^11個(gè)單詞。PaLM和Chinchilla都接受了大約10^12個(gè)單詞的訓(xùn)練。我們不知道GPT-4的語(yǔ)料庫(kù)大小。這些數(shù)字與人類相比如何?」
而LeCun馬上轉(zhuǎn)發(fā)了Frank的帖子,對(duì)LLM的能力表示質(zhì)疑:人類并不需要從1萬(wàn)億個(gè)單詞中學(xué)習(xí),就可以達(dá)到人類智能,然而LLM卻做不到。
比起人類,它們?nèi)鄙俚木烤故鞘裁茨兀?/p>
Frank制作的圖,比較了大語(yǔ)言模型與人類的語(yǔ)言學(xué)習(xí)輸入規(guī)模
而此前,LeCun在參加的一場(chǎng)辯論賽中指出,從現(xiàn)在起5年內(nèi),沒有哪個(gè)頭腦正常的人會(huì)使用自回歸模型。
要知道,如今的當(dāng)紅炸子雞ChatGPT,便是一種使用深度學(xué)習(xí)生成文本的自回歸語(yǔ)言模型。
敢對(duì)時(shí)下頂流模型進(jìn)行這種否定,LeCun的話語(yǔ)中著實(shí)帶有不少挑釁。
對(duì)此,他又做了一個(gè)澄清,5年后將會(huì)有語(yǔ)言模型,但它們不會(huì)是自回歸的。因?yàn)樽曰貧w模型是不可控,并且隨著產(chǎn)生更多的token,會(huì)出現(xiàn)指數(shù)級(jí)的發(fā)散問題。
我必須重申:
1. 自回歸LLM是有用的,尤其是作為寫作工具,編程。
2. 它們經(jīng)常會(huì)產(chǎn)生幻覺。
3. 它們對(duì)物理世界的理解非常原始。
4. 它們的規(guī)劃能力非常原始。
對(duì)于自回歸LLM是指數(shù)遞增的擴(kuò)散過程,LeCun也給出了自己的論據(jù):假設(shè)e是任意生成的token可能將我們帶離正確答案集的概率,那么長(zhǎng)度為n的答案最終為正確答案的概率就是P (correct) = (1-e)^n。
按照這個(gè)算法,錯(cuò)誤會(huì)逐漸累積,正確答案的概率呈指數(shù)下降。可以通過讓e更?。ㄍㄟ^訓(xùn)練)來(lái)減輕問題,但是完全消除問題是不可能的。
而要解決這個(gè)問題,就得需要讓LLM不再進(jìn)行自回歸,同時(shí)還得保持模型的流暢性。
既然如此,該怎么破?
在此,LeCun再次把自己的「世界模型」拿了出來(lái),并指出這是LLM發(fā)展最有前途的方向。
對(duì)于構(gòu)建世界模型的想法,LeCun在2022年的一篇論文A Path Towards Autonomous Machine Intelligence曾進(jìn)行了具體的闡述。
若想構(gòu)建一個(gè)能夠進(jìn)行推理和規(guī)劃的認(rèn)知架構(gòu),需要有6個(gè)模塊組成,具體包括配置器、感知、世界模型、成本、actor,以及短期記憶。
但不可否認(rèn)的是,如今ChatGPT真的讓硅谷掀起了「AI掘金熱」。
LLMS的炒作周期變化如此之快,每個(gè)人都處于曲線上不同的點(diǎn),大家都很瘋狂。
馬庫(kù)斯:我同意Hinton
對(duì)于Hinton的警告,紐約大學(xué)教授馬庫(kù)斯也表示了同意。
「是人類快要滅亡了比較重要,還是編碼更快、跟機(jī)器人聊天更重要?」
馬庫(kù)斯認(rèn)為,雖然AGI還太遙遠(yuǎn),但LLMs已經(jīng)很危險(xiǎn)了,而最危險(xiǎn)的是,現(xiàn)在AI已經(jīng)在給各種犯罪行為提供便利了。
「在這個(gè)時(shí)代,我們每天都要自問,我們究竟想要什么類型的AI,有的時(shí)候走慢一點(diǎn)未嘗不好,因?yàn)槲覀兊拿恳恍〔蕉紩?huì)對(duì)未來(lái)產(chǎn)生深遠(yuǎn)的影響?!?/p>
參考資料
https://nypost.com/2023/03/26/artificial-intelligence-could-threaten-humanity-scientist/
https://futurism.com/the-byte/godfather-ai-risk-eliminate-humanity
https://cdn.openai.com/papers/gpt-4-system-card.pdf
https://podcastdisclosed.com/sam-altman-openai-ceo-on-gpt-4-chatgpt-and-the-future-of-ai-lex-fridman-podcast-367/
關(guān)鍵詞:
- 環(huán)球熱文:GPT-4蘇醒,AI要「殺」人?Hinton、ChatGPT之父預(yù)警,LeCun怒懟:不如我家狗
- 天天快看點(diǎn)丨美參議院投票推進(jìn)廢除《使用軍事力量授權(quán)法》,爭(zhēng)取國(guó)會(huì)戰(zhàn)爭(zhēng)決定權(quán)
- 迪士尼啟動(dòng)7000人大裁員:包括主題公園和ESPN,本周啟動(dòng)首輪
- 馬斯克又嘲諷比爾蓋茨:到今天,他對(duì)AI的理解依然有限
- 環(huán)球最資訊丨新疆喀什地區(qū)葉城縣發(fā)生3.8級(jí)地震 震源深度92千米
- 國(guó)家大劇院奏響俄羅斯交響樂
- 上海外來(lái)常住人口減少超25萬(wàn) 安徽人占比連續(xù)5年位列第一!70.8%上海人只希望有一個(gè)孩子
- 最新消息:民航復(fù)蘇態(tài)勢(shì)顯著 上周執(zhí)行客運(yùn)航班同比增長(zhǎng)300%
- 下血本!香港4月再送數(shù)萬(wàn)張免費(fèi)機(jī)票
- 環(huán)球觀天下!華潤(rùn)萬(wàn)象生活終止收購(gòu)祥生物業(yè)股權(quán)
- 如何查看私服IP?怎么查私服登陸器的IP?
- 當(dāng)前視點(diǎn)!避免“卷錢跑路”、退款難 五部門規(guī)范校外培訓(xùn)機(jī)構(gòu)財(cái)務(wù)管理
- 世界簡(jiǎn)訊:國(guó)海證券給予山煤國(guó)際買入評(píng)級(jí) 2022年報(bào)點(diǎn)評(píng)報(bào)告:高煤價(jià)高業(yè)績(jī) 高分紅高承諾
- 天天百事通!生涯規(guī)劃的意義(職業(yè)生涯規(guī)劃的意義有哪些?)
- 天天熱頭條丨天龍八部后現(xiàn)代版(天龍八部后現(xiàn)代版在那里2轉(zhuǎn))
- 國(guó)民“巧冰之光”隨變冰淇淋重磅推出奧特曼聯(lián)名款新包裝
- 保時(shí)捷團(tuán)隊(duì)操刀,賽道基因加持,雅迪VFLY電摩新品于偉業(yè)達(dá)杯一戰(zhàn)成名
- 破峰實(shí)現(xiàn)銷量增長(zhǎng),珮姐老火鍋將“重慶的辣”進(jìn)行到底!
- “食安交院.評(píng)美食”第一屆校園美食節(jié)活動(dòng)圓滿成功
- 局域網(wǎng)qq監(jiān)控軟件有哪些功能?企業(yè)安裝電腦監(jiān)控軟件怎么操作使用?
- 低碳菜單引領(lǐng)寧波餐飲消費(fèi)新風(fēng)尚 試點(diǎn)將持續(xù)至今
- 深圳坪山打造餐飲服務(wù)食品安全示范高地 嚴(yán)守食品
- 黑龍江哈爾濱推出“沙盒”監(jiān)管新模式 激發(fā)市場(chǎng)活
- 第三季度全國(guó)消協(xié)受理投訴數(shù)量同比增10.02% 食品
- 北京懷柔對(duì)機(jī)動(dòng)車檢測(cè)機(jī)構(gòu)開展監(jiān)督抽查 規(guī)范機(jī)動(dòng)
- 天津北辰扎實(shí)做好價(jià)格監(jiān)管工作 維護(hù)安全有序市場(chǎng)
- 北京石景山開展冬季供暖前特種設(shè)備安全專項(xiàng)檢查
- 陜西延安:開展兒童化妝品專項(xiàng)檢查 規(guī)范化妝品市
- 北京海淀開展商品條碼專項(xiàng)監(jiān)督檢查 努力打造穩(wěn)定
- 金華推進(jìn)網(wǎng)絡(luò)直播營(yíng)銷治理顯成效 培育放心消費(fèi)直
- 1 環(huán)球熱文:GPT-4蘇醒,AI要「殺」人?Hinton、ChatG
- 2 天天快看點(diǎn)丨美參議院投票推進(jìn)廢除《使用軍事力量授
- 3 迪士尼啟動(dòng)7000人大裁員:包括主題公園和ESPN,本周
- 4 馬斯克又嘲諷比爾蓋茨:到今天,他對(duì)AI的理解依然有
- 5 環(huán)球最資訊丨新疆喀什地區(qū)葉城縣發(fā)生3.8級(jí)地震 震
- 6 國(guó)家大劇院奏響俄羅斯交響樂
- 7 上海外來(lái)常住人口減少超25萬(wàn) 安徽人占比連續(xù)5年位
- 8 最新消息:民航復(fù)蘇態(tài)勢(shì)顯著 上周執(zhí)行客運(yùn)航班同比
- 9 下血本!香港4月再送數(shù)萬(wàn)張免費(fèi)機(jī)票
- 10 環(huán)球觀天下!華潤(rùn)萬(wàn)象生活終止收購(gòu)祥生物業(yè)股權(quán)