[[338796]]

早在2017年就曾有研究人員問道：“到2040年人工智能會寫出大部分代碼嗎?”如今，OpenAI的GPT-3已被beta測試人員使用，已經可以用任何語言編寫代碼了，機器主導的編碼幾乎就在我們眼前。

GPT-3已接受了數千億字或者甚至是整個互聯網的訓練，這就是為什么它可以用CSS、JSX、Python編碼。GPT-3不需要對多種語言任務進行訓練，其訓練數據已包羅萬象。反而是當給定瑣碎的指示時，網絡會將自己限制在手頭的任務上。

GPT-n的演變

GPT通過將監督學習與無監督的預訓練(或使用無監督步驟的參數作為監督的起點)配對，在語言任務中達到了最先進的水平。與其后繼者相比，GPT很小，它只在幾千本書和一臺8GPU機器上進行訓練。

GPT-2大幅擴大了規模，包含了10倍的參數，并提供了超過10倍的訓練數據。盡管如此，數據集仍然相對有限，它被專門訓練為“來自Reddit的鏈接，它至少收到了3個karma。”GPT-2被描述為一個“變色龍一樣”的合成文本生成器，但它不像下游任務中的問答總結或翻譯一樣是最先進的。

GPT-3在人工智能領域中是里程碑式的存在，在一系列的任務中達到了最先進的水平，其主要突破是不再需要對特定任務進行微調。就尺寸而言，其模型再一次大幅擴大，達到1750億個參數，是其上一代的116倍。

GPT-3根本不需要訓練(一個零次學習的例子)，其本來就令人印象深刻的性能在一次或兩次學習之后黯然失色。

發展或滅亡

現在情況是：Beta測試人員正在使用GPT-3生成工作代碼，這需要一些瑣碎的知識。從按鈕到數據表，甚至重建谷歌的主頁，這些都可以通過零次學習完成。

除了人工智能的快速發展，其他兩個主要的技術趨勢正在加劇這樣一個現實，未來編程工作將變得不再是“鐵飯碗”：無代碼和自動機器學習。

無代碼分析：讓每個人都成為數據科學家

無代碼是指使任何人更容易構建新產品的可視化工具，無論是網站、設計、數據分析還是模型。Word Press、Wix和Shopify是典型的無代碼工具，這使數百萬人不再需要雇用開發人員或設計師，自己就能夠做事情。

第二種趨勢是AutoML，即自動機器學習，這大大縮短了人工智能生產所需的時間。

AutoML會成為數據科學家的終結嗎?

類似Apteo的工具順應了這些趨勢，使人們無需具備編碼技能都能夠部署人工智能模型。GPT-3則將引發無代碼和自動機器學習的又一波浪潮，許多潛在的雇主會選擇這些工具，而不是雇傭昂貴的程序員。

當然，技術含量最低的程序員將最先離開，而專家就像在任何領域一樣，將享受更長時間的工作保障。

不僅僅是代碼——GPT-3已應用于任何語言任務

要將GPT-3引導到特定的語言任務，只需向它提供希望實現的示例。你可以直接用GPT-3寫代碼，也可以直接寫詩歌、音樂媒體評論或任何其他文本。

例如，如果想生成一篇新聞文章，可以輸入一個正標題，如“聯合衛理公會同意歷史分裂”和一個副標題，如“那些反對同性婚姻的人將形成自己的派別”。

輸入這些，GPT-3產生以下結果：

華盛頓郵報稱，經過兩天的激烈辯論，聯合衛理公會已經同意了這一歷史性的分裂——這一分裂預計將以創建一個新的教派結束，這個教派 “在神學和社會方面都是保守的”。大多數出席5月教會年度大會的代表投票支持加強禁止LGBTQ神職人員的任命并制定新的規則，將對主持同性婚禮的神職人員“予以處罰”。但是那些反對這些措施的人有一個新計劃：他們稱將在2020年形成一個單獨的教派，其教會稱為基督教衛理公會教派……

這段文字騙過了88%的人，只有12%的人認為這是由人工智能寫的。

就像人類一樣，GPT-3還可以根據例句學習生詞。例如，給定語境：“Burringo”是一輛加速速度非常快的汽車。GPT-3的輸出是：在我們的車庫里有一輛Burringo，我父親每天開它去上班。

這些結果令人印象極其深刻。人工智能正在不可避免的進化當中，對當前性能的任何批評都將化為其快速迭代中的泡影。

不僅僅是語言——GPT應用于圖像

GPT不僅可以寫代碼和編寫任何東西，還可以生成圖像。相同的模型體系結構可以在像素序列而非文本編碼上進行訓練，從而生成新的圖像而非文本。事實上，它非常擅長這樣做，甚至可以和頂級CNN競爭。

這表明，GPT(及其后繼者)不僅有可能在某一天取代編碼器，其多功能性甚至使其具有取代整個行業的潛力。

GPT-3令人驚嘆的性能讓許多人相信我們正前所未有地接近超級智能，或者至少，人工智能生成的代碼比我們想象的更接近，它能產生有創造性、有洞察力、有深度甚至是美麗的內容，未來已來。

本文轉載自微信公眾號「 讀芯術」，可以通過以下二維碼關注。轉載本文請聯系讀芯術公眾號。