<mark id="oztn4"></mark>
0
今天，麻省理工科技評論的一篇文章再次把 OpenAI 推上輿論的風頭浪尖。
作為由鋼鐵直男Elon Musk和YC創始人Sam Altman等人共同創立的項目，OpenAI盡管成立只有4年的時間，但已經成長為在AI研究領域媲美于Google、Facebook、亞馬遜、DeepMind等最優秀研究機構的存在。
但是最近一年，OpenAI卻備受批評，先是發布最強“通用”NLP模型GPT-2而不開源；再而是接受微軟10億美元投資，從而轉為“有限盈利”企業違背初心.......種種跡象表明，OpenAI 與4年前馬斯克所聲明的那個“人工智能非營利組織”已然不同。
（雷鋒網）
那么OpenAI 的現狀到底如何？針對這一問題，麻省理工科技評論的記者Karen Hao 前后花了六個月的時間，做了36次采訪，揭露出了OpenAI的真實面貌。Karen 發現 OpenAI似乎放棄了其先前的開放性和透明性承諾；換句話說，競爭的壓力正在侵蝕“理想主義”。
上次OpenAI讓大眾眼前一亮研究還是它在2019年發布的最強“通用”NLP模型GPT-2，從那之后，也就是其轉型為“有限盈利”企業這將近一年的時間，這種能夠帶來突破性的研究的“光環”已經從OpenAI身上漸漸退去。
（雷鋒網）
當時還是非營利組織的OpenAI憲章第一條還是“首要信托責任是人類”（primary fiduciary duty is to humanity）。這個神圣的信條也使他與其他頂級AI研究機構區分開來。
“為每個人而不是股東創造價值”的條款讓OpenAI匯集了一群世界頂級研究員，包括首席技術官原支付公司Stripe的格雷格·布羅克曼（Greg Brockman）；研究總監是Ilya Sutskever；另外還有從頂尖人才中選拔出來的七名頂尖人才，他們共同組成了OpenAI的核心技術團隊。
然而，盡管有馬斯克等人在最初注資的10億美元，但AI研究是一個太過耗費資源的領域。據OpenAI的CTO 布羅克曼介紹，大概每過3~4個月，研究所需的計算資源就會增加一倍。為了保證研究有效進行，就必須有足夠的資金匹配這一指數級別的增長，這就需要在忠于使命的同時，能有一個能夠迅速積累資金的新組織模式。
于是在去年，OpenAI轉變為“有限盈利”企業。在那之后，OpenAI的高層重新建立了薪酬結構，根據任務承擔來發放薪資。OpenAI為其員工設計了激烈競爭與不斷增加的壓力。
這種方式，確實給它帶來了更多的資金，但也破壞了其最初開放、透明、協作的精神。其實早在2018年的4月份，OpenAI在重新發布公司章程時候就有了轉換公司模式的苗頭，那份章程除了重新闡明了實驗室的核心價值之外，還巧妙地用語言道出了新的需求——對資金的需求。
OpenAI會議室，圖片來源：麻省理工科技評論
轉換之后，員工和領導都有一個過渡期，員工對外界不斷的批評感到沮喪，而領導層的擔心也在逐漸破壞OpenAI的影響力和招聘優秀人才的能力。
其實破壞實驗室影響力的因素不光是“盈利企業”這一項。
和其他公司一樣，OpenAI同樣存在多樣性的缺乏，根據實驗室的發言人介紹，女性員工不足四分之一，在接近120名員工中，絕大多數是白人或亞洲人。多樣性和包容性是影響一個團隊進步的長遠因素，雖然OpenAI在這方也做出了許多努力，顯然還遠遠不夠。
在總體運行戰略方面也有許多可圈可點之處，比如現在的研究總監Amodei將實驗室的戰略分為兩部分：第一部分是如何實現高地AI的功能，不同的研究團隊對這個策略的理解不同，例如語言團隊認為，可以讓機器通過單純的語言學習重塑對世界的理解；機器人團隊則認為智能的發展需要突破物理的限制。
實驗室戰略的第二部分是如何讓AI系統變得更加安全，如何讓它正確反映人類的價值觀.....
很明顯，實驗室的兩個策略似乎都在為實現AGI而努力。
但是最大的問題正如Amodei所述：“我們不知道AGI是什么樣子”。
這就意味著策略的建立存在很多雜亂無章的地方：策略的建立較少的基于已有的理論，更多的是基于直覺。
具體到研究突破層面來講，OpenAI更多的是在重復別的實驗室開發出的創新成果：依靠大量的計算資源投入來獲得最佳的效果。
也就是說，運行策略的不合理正在阻礙OpenAI的發展。
另外公司還有一條鐵律：未經公關部門的明確許可，不準向記者吐露任何事情。這意味著現在的OpenAI已經沒有了其最初“完全受信任”的影響力，大眾不再認為它是機器學習和AGI研究最受信任機構。
其保密的范圍不僅針對媒體，其公司內部也有相應的保密級別。例如對于OpenAI正在進行的研究項目，有關消息稱這可能是OpenAI成立幾年來最高水平的研究項目。
但就是這樣一個項目，卻不允許實習生參加。現在的OpenAI，盡管有著遠大的抱負，但卻致力于“保密”。
隨著時間的流逝，OpenAI的高層已經沒了最初的想法，“開放是構建AGI的最佳方法”在OpenAI內部似乎已經不再適用，OpenAI 目前所忙活的炒作、吸引資金和人才似乎才是對它最有幫助的。或許吧，正如布羅克曼所言，OpenAI現在的抱負是“要做最好的事”。
MITReview的記者 Karen Hao在其twitter上也指出，這篇報道事實上并不僅僅是關于一個實驗室（OpenAI）的問題，更是一個系統的問題：競爭和資金壓力如何推動創新？
據OpenAI的一份分析報告指出，從2012年至2018年，最大規模的AI訓練所需要的算力已經增長了30萬倍（到2020年的今天，這數字應該已經翻了更多倍），平均每3.5個月便翻一番。
（雷鋒網）
正是基于對算力的渴求，在去年7月份，OpenAI接受了微軟10億元的投資，微軟成為OpenAI的獨家云供應商，同時 OpenAI 也會和微軟合作開發 Azure AI 超級計算技術，并授權微軟使用其部分技術進行商業化。
這一舉措，也受到不少業內人士的質疑，人們擔心OpenAI將會受到微軟的影響，屈服于財政壓力和其他因素，無法再像以前一樣保持開放、平等傳播的姿態。
事實上，這種擔心不無佐證，在去年3月份，OpenAI便已經進行了一輪重組，成立了名為“OpenAI LP”的子公司，目的便是為了更好地籌集資金，吸引人才，從而能夠與Google、Facebook等大公司在AI領域進行競爭。人工智能研發不僅需要的巨大算力，也需要龐大的資金。
一個非營利組織在籌款上是有極限的，而彌補成本最有效的方式，就是改變現有架構。但也有人為OpenAI做出辯解：面臨這種取舍，除了缺錢，更重要還是因為他做出的戰略選擇；作為一個非營利性組織，它要和類似Google、Facebook這樣的大公司進行競爭，以保證能夠先于它們做到AGI，這種壓力會迫使它們做出一些似乎偏離其初衷的決定，它們需要吸引資金和人才，并保護自己的研究，從而來保持長期的優勢。
類似于OpenAI，事實上在美國同樣還有一些其他的非營利性組織在積極探索人工智能的未來，例如總部位于西雅圖的AI2。不同于OpenAI的地方是，AI2的資金來源于微軟聯合創始人、已故的億萬富翁保羅·艾倫（Paul Allen）留下自籌資金，在可預期的未來，AI2將不會受到資金的壓力。
OpenAI作為一個非營利性組織缺一位“富有的慈善捐贈者”。因此，正如 Karen Hao在文章最后所說，OpenAI需要賺錢來做研究，而不是反過來。缺錢，才是OpenAI不斷向現實妥協的本質原因；任何非營利組織，背后都不可或缺一個龐大的資金來源。
資金的壓力迫使OpenAI漸漸違背了其最初的保證。但不可否認的是 OpenAI 仍然是一個人才和前沿研究的堡壘，充滿了真誠地為人類利益而努力工作的人們。
換句話說，它的初心仍未變，仍然有時間去糾偏匡正。
而另一方面，正是由于他們在嘗試進入一個未知的領域，所以才會有各種各樣的錯誤出現。作為旁觀者，我們應該為他們提供正確的批評。誰會希望，在未來AGI是由像Google、亞馬遜、Facebook、蘋果或阿里巴巴這樣的企業開發出來，而非OpenAI這樣的非營利性組織呢？
但放棄控制才是理想的開源的邏輯本質。倘若真的集齊足夠多的最強大腦來共同完成AGI目標，打敗憑借個人私力控制人工智能世界的惡念最好的方式是讓每個人都擁有這項技術。
針對這個問題，馬斯克也非常關心，其在twitter上表示：OpenAI應該更多的開放。
但是堅持初衷，完全開放對于一家只是實驗室的OpenAI來說是最好的選擇么？或許正如微博大V“愛可可-愛生活”引用Fran?ois Chollet一段話那樣吧：相比初衷，是否有持續正確的激勵，真正決定了實驗室將走向何方、能走多遠。
參考：[1] The messy, secretive reality behind OpenAI’s bid to save the world,
https://www.technologyreview.com/s/615181/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
[2] 拿了微軟 10 億美元的 OpenAI，到底想做什么？,
https://baike.baidu.com/tashuo/browse/content?id=df6178d6a398cbbcb21dc4ad&lemmaId=19758408&fromLemmaModule=pcRight
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
