作文寫到8000字發(fā)現(xiàn)中間寫錯(cuò)了怎么辦？新版GPT-3: 別怕，我可以改

作者 | 西西

編輯 | 陳彩嫻

剛剛，OpenAI 在官博與推特上宣布：

GPT-3 又增加了兩項(xiàng)新功能：編輯與插入，可以修改現(xiàn)有內(nèi)容、而不僅是預(yù)測(cè)文本。目前已開放 API。

立即收獲過千點(diǎn)贊。

下面立即有熱心網(wǎng)友評(píng)論：

怎么樣用這個(gè)點(diǎn)子創(chuàng)業(yè)？有人可以給我點(diǎn)建議嗎？

另一個(gè)網(wǎng)友回復(fù)：

你可以問GPT-3。（哈哈被戳中笑點(diǎn)）

自2020年4月發(fā)布，GPT-3 就憑借 1750 億參數(shù)的規(guī)模在人工智能領(lǐng)域引起了巨大轟動(dòng)，又憑借對(duì)各類問題的「在線熱心問答」成功出圈，「預(yù)言家」般的魔力收獲了一大批追隨者。如今，已過去近兩年，OpenAI 發(fā)布新功能，可見在 GPT 系列上，OpenAI 對(duì)「魔幻」語言模型的夢(mèng)想仍在繼續(xù)發(fā)光發(fā)熱。

事實(shí)上，在這兩年內(nèi)，OpenAI 一直在不斷更新 GPT-3。比如，去年11月，OpenAI 就稱 GPT-3 掌握了一定的邏輯推理能力，做小學(xué)數(shù)學(xué)題能得 55 分（差一點(diǎn)就及格！）。

那么，這次 OpenAI 給 GPT-3 賦上的新魔法又有什么神奇之處呢？一起來看看。

1

「編輯」與「插入」

根據(jù) OpenAI 的官博介紹，他們發(fā)布的 GPT-3 和 Codex 新版本可以在現(xiàn)有文本的基礎(chǔ)上編輯或插入新的內(nèi)容。

這與舊版本不同：舊的 GPT-3 是一路寫下來，就像在單行道上駕駛；而新的 GPT-3 可以修改現(xiàn)有內(nèi)容，例如重寫一段文本或代碼，是行駛在可以變道、掉頭的雙向多行道上。

啥意思呢？就是 GPT-3 有了一定的「改錯(cuò)」能力。用中國(guó)的古話說，不至于過了這個(gè)村就等于過了這個(gè)店。實(shí)在錯(cuò)過了，也可以繞路回來，找到心儀的目標(biāo)點(diǎn)。

當(dāng)然，「插入」并非新版 GPT-3 首創(chuàng)，此前 GitHub Copilot 也有這項(xiàng)功能，并取得了不錯(cuò)的成績(jī):

圖注：GitHub Copilot 在代碼尾部直接添加代碼

舊的 GPT-3 與 Codex 的「插入」功能也是像 GitHub Copilot 一樣，是在已有文本的基礎(chǔ)上，在現(xiàn)有文本的結(jié)尾處添加內(nèi)容。

而新的 GPT-3 與 Codex 是可以在文本中間編輯、修改或添加新的內(nèi)容。這顯然更符合我們?nèi)祟惖乃伎寂c寫作方式：往往寫了一大堆話后，由于「對(duì)自身的要求過高」，或達(dá)不到預(yù)期時(shí)，就要推倒重來。

（上述情況常見于給領(lǐng)導(dǎo)寫工作報(bào)告、碼代碼修bug、七夕給心儀的女生寫情書等等正當(dāng)?shù)膱?chǎng)景中……）

（如果你也有這樣的煩惱，GPT-3 就是你的好朋友）

插入

依賴于原有的技術(shù)積累，GPT-3 在判斷「如何在文本中插入新內(nèi)容」上的功力已經(jīng)達(dá)到了較高的水平。

如下圖示例：GPT-3 希望在大綱內(nèi)的兩個(gè)節(jié)標(biāo)題中填寫文本。如果沒有下文的內(nèi)容參考，模型可能會(huì)生成與 Section 2 無關(guān)的文本；如果考慮到下文，模型就會(huì)生成一段能夠良好連接兩部分內(nèi)容的文本。

在代碼編輯中，「插入」功能有很大的作用。OpenAI表示，他們最初研究「插入」功能的動(dòng)機(jī)是 Codex，原因是：在軟件開發(fā)中，程序員通常需要參考前后的代碼，在現(xiàn)有文檔的中間插入新的代碼。

如下圖示例：GPT-3 能夠順利補(bǔ)全缺失的函數(shù) prune，同時(shí)將已編寫的代碼聯(lián)系在一起。同樣，這個(gè)功能是需要參考上下文的。

插入功能可以在已發(fā)布的測(cè)試版 API 中試用。

編輯

需要注意的是，此處的「編輯」更多是「修改」現(xiàn)有文本，而不是像舊的 GPT-3 一樣，沿著已有文本完成后面的寫作。

We’ve also observed edits to work well on empty prompts, thus enabling text generation similar to the completions endpoint. In the example above, we use edits to (1) add a poem, (2) change the poem to be in first-person, (3) transform the poem into a letter, with the appropriate salutation and signature.

通過將現(xiàn)有文本指定為「提示」，并給出如何修改的指示，新的 GPT-3 可以更改現(xiàn)有文本的語氣與結(jié)構(gòu)，或進(jìn)行有針對(duì)性的更改，例如修改單詞的拼寫。

例如，在下面的示例中，使用新版 GPT-3 可以進(jìn)行以下「編輯」：1）添加一首詩(shī)；2）將這首詩(shī)更改為第一人稱；3）將這首詩(shī)轉(zhuǎn)換為一封帶有適當(dāng)稱呼和簽名的字母。

在代碼編寫中，「編輯」端點(diǎn)可以重構(gòu)、添加文檔，翻譯編程語言以及更改編碼風(fēng)格等等。

如下圖示例，模型可以從 JSON 輸入（包含按人口排名的城市）開始。在第一次編輯中，Codex 從 JSON 中刪除了排名字段，并將州縮寫更改為全名。第二次編輯則將 JSON 文件轉(zhuǎn)換為從函數(shù)返回的 YAML。

2

新版 GPT-3 怎么玩？

2021年初，李宏毅曾稱 GPT-3 是「來自暗黑大陸的模型」。如今新版 GPT-3 在文本編輯上增加了更「類人」的功能，不知李老師會(huì)如何評(píng)價(jià)？

此前 GPT-3 剛發(fā)布時(shí)，AI科技評(píng)論也發(fā)過 GPT-3 的50種玩法，包括寫作、提問、回復(fù)郵件等等。但當(dāng)時(shí)，由于 GPT-3 的一些測(cè)試回答缺乏邏輯，且無法給出依據(jù)，所以曾被抨擊。

比如，有實(shí)驗(yàn)者向 GPT-3 提問：「新冠疫情何時(shí)結(jié)束？」當(dāng)時(shí)，GPT-3 的回答是：「2023年12月31日。」

因?yàn)檫@是一個(gè)未來的日子，所以我們只能等待，等到那一天，才能驗(yàn)證 GPT-3 的回答是否正確。那么，若幸運(yùn)，新冠疫情能夠在2023年12月31日之前就結(jié)束，擁有了「中途改錯(cuò)」能力的 GPT-3，是否會(huì)修改這個(gè)答案呢？

無可否認(rèn)，OpenAI 推出的新版 GPT-3 擁有了更接近人類表達(dá)與思考邏輯的能力，但距離如美劇《疑犯追蹤》里超級(jí)智慧大腦的魔力還有多久？或許，這還需要時(shí)間的驗(yàn)證。

參考鏈接：

1.https://openai.com/blog/gpt-3-edit-insert/

2.https://mp.weixin.qq.com/s/KmCLi1W5RVrVvOPUzzMpjA

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))