神譯局是36氪旗下編譯團隊，關注科技、商業(yè)、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。

(資料圖片)

編者按：人工智能的發(fā)展日新月異，有人認為，既然像 ChatGPT 這樣會自己寫代碼和編程的 AI 已經被開發(fā)出來了，人類就不再有學習編程的需要了。但人工智能的代碼雖然是人類寫出來的，可經過訓練之后的人工智能卻發(fā)展到了并不能總是為人類所理解，人們常常只能盡量對其進行解釋。代碼是機器的語言，我們有越多的人能夠理解這種語言，就越有可能繼續(xù)成為機器革命的創(chuàng)作者，而不是其解釋者。本文來自編譯，是國外網站上的一則讀者來信及編輯部回信，希望對您有所啟發(fā)。

ILLUSTRATION: SHEN HOU

我不會編程，并且因此很沮喪，因為現在有這么多的書、課程和夏訓練營，有這么多的學習機會。我想，如果我能學會編程，學會“機器語言”，就能更好地理解機器革命。我應該試一試嗎？”——Decoder

親愛的 Decoder：

你想學習“機器語言”的愿望讓我想起了特德·姜（Ted Chiang）的短篇小說《人類科學的進化》（The Evolution of Human Science）。這個故事想象了這樣一個未來：幾乎所有的學術學科都被超級智能的“超能力者”主導，他們對世界的理解遠遠超過人類專家。這些超能力者的科學報告（雖然表面上是用人類語言寫的，發(fā)表在公開的科學期刊上）在技術上非常復雜和深奧，以至于人類科學家?guī)缀醵祭斫獠涣?。人類科學家已經被降級為類似神學家的角色，試圖解釋對自己來說晦澀難懂的文本，就像中世紀的哲學家來解讀上帝的意志一樣。這些科學家不是在進行原創(chuàng)性研究，而是在實踐解釋學的藝術。

曾經有一段時間，編程被認為是最有前途的技能之一，它可以讓一個人成為技術精英，決定人類的未來。特德·姜的故事首次發(fā)表于 2000 年，他預見到了編程這種知識技能的局限性，這是有先見之明的。在深度學習和其他形式的高級人工智能等領域，許多技術專家已經看起來更像神學家或煉金術士了，而不是現代意義上的“專家”：盡管他們編寫了最初的代碼，但卻往往無法解釋自己的程序在數據集上訓練時產生的高層次技能。[2016年，DeepMind 的首席研究科學家大衛(wèi)·西爾弗（David Silver）說，他無法解釋自己設計的 AlphaGo 程序是如何制定制勝策略的：“它是自己發(fā)現和制定出這一策略的，”西爾弗說，“是通過它自己的反思和分析過程發(fā)現的?！盷

與此同時，像 GPT-3 或 GitHub 的 Copilot 這樣的算法已經學會了自己寫代碼，這引發(fā)了關于軟件開發(fā)人員的爭論，他們的職業(yè)曾經被認為是即將到來的自動化海嘯中的一個平靜島嶼，但可能很快就會發(fā)生改變，并引發(fā)對“自我編程”的恐懼。人工智能的自我進化引起了人們對技術日益不透明的擔憂。畢竟，人工智能有一個公認的趨勢，那就是發(fā)現特異的解決方案，并發(fā)明出違反人類直覺的特殊語言。許多人已經開始懷疑：當人類不再能閱讀代碼時會發(fā)生什么？

我提到這一切，Decoder，是為了幫你認清嚴酷的現實，而不是貶低你的野心，我認為你的野心是值得稱贊的。無論如何，對程序員過時的普遍擔憂在我看來是危言聳聽，而且為時過早。自動化代碼已經以某種形式存在了幾十年（回想一下 20 世紀 90 年代生成 HTML 和 CSS 的網絡編輯器），即使是最先進的編碼算法，目前也容易出現簡單的錯誤，需要大量的人工監(jiān)督。在我看來，你并不是想把編程作為一種職業(yè)，而是被一種更深層次的好奇心所驅使。也許你正在考慮業(yè)余愛好者的創(chuàng)造性樂趣，比如為開源項目做貢獻，或者為你經常使用的程序中的簡單錯誤提出修正建議。或者，你希望通過編程將自己工作中的繁瑣環(huán)節(jié)自動化。如果我沒理解錯你的問題的話，你最想要的是對支撐現代生活的語言有一個更全面的了解。

有一個令人信服的理由是，編碼現在是一種基本的文化形式，當涉及到理解我們所處的更大的意識環(huán)境時，對數據結構、算法和編程語言的掌握，與閱讀和寫作一樣重要。當然，對業(yè)余愛好者的不信任是很自然的。業(yè)余開發(fā)人員經常被詬病，因為他們掌握了編程語言的語法，卻沒有創(chuàng)造成功產品所需的遠見和眼光。但是，這種專業(yè)知識的模糊也可以被看作是一種謙遜的修養(yǎng)。業(yè)余知識的一個好處是，它往往會激發(fā)人們的好奇心，因為它讓新手覺得自己知道的東西太少。在一個精簡、用戶友好界面的時代，人們很容易只看技術的表面價值，而不考慮隱藏在表面之下的動機和議程。但是，你對底層結構了解得越多，就會有越多的基本問題困擾你：代碼是如何轉化為電脈沖的？軟件設計如何微妙地改變用戶體驗？像開放獲取、共享和數字公地等原則的潛在價值是什么？例如，對于普通用戶來說，社交平臺的設計似乎是為了將你與朋友聯(lián)系起來，并傳遞有用的信息。然而，了解一個網站是如何構建的，不可避免地會導致人們更加批判性地思考其功能是如何設計的，以最大限度地吸引用戶的注意力，創(chuàng)建強大的數據跟蹤，并在社交圖譜中盈利。

最終，這些知識有可能讓我們免受宿命論的影響。那些了解程序是如何構建的、以及為什么要構建的人，不太可能接受既定的程序設計的必然性。你談到了機器革命，但值得一提的是，歷史上最著名的革命（那些由人類發(fā)起的革命）都是大眾文化與技術創(chuàng)新相結合的結果。比如，印刷機的發(fā)明和新識字的公眾對書籍的需求，為宗教改革以及發(fā)生在法國和美國的革命奠定了基礎。一旦相當一部分民眾能夠自己閱讀了，他們就會開始質疑神職人員和國王的權威，以及統(tǒng)治假設的必然性。

目前，一些技術專家正在權衡我們最緊迫的道德問題（關于數據公正、自動化和人工智能價值），他們經常強調需要進行更大規(guī)模的公開辯論，但當公眾缺乏對相關技術的基本知識時，具體和細微的對話就很難進行。（例如，只需看一眼美國眾議院小組委員會最近舉行的聽證會，就可以看出立法者對他們試圖監(jiān)管的技術的理解有多差。）正如《紐約時報》科技作家凱文·盧斯（Kevin Roose）所觀察到的那樣，先進的人工智能模型正在“關起門來”開發(fā)，好奇的外行越來越多地被迫通過深奧的報告來了解其內部工作原理，或者相信專家的解釋?！爱斢嘘P（這些技術）的信息被公開時，”他寫道，“通常要么被企業(yè)公關淡化，要么被淹沒在高深莫測的科學論文中?！?/p>

特德·姜的故事告訴我們人類要保持“在行內圈子里”，同時也告訴我們要確保自己的圈子足夠大。當人工智能越來越精通我們的語言，以人類的方式閱讀、寫作和交談的能力越來越讓人類驚嘆不已的時候，我們理解編程語言的需求就變得更加迫切了。我們有越多的人能夠理解這種語言，就越有可能繼續(xù)成為機器革命的創(chuàng)作者，而不是其解釋者。

此致,

Cloud

譯者：Jane

關鍵詞：