<mark id="oztn4"></mark>
0
| 本文作者： 郭思 | 2023-11-30 18:42 |
自去年年底ChatGPT問世以來，大模型火爆的浪潮已經持續了大半年，數據顯示截止10月份國內已經發布了238個大模型。與眾多基礎大模型形成顯著對比的是國內AI應用的極度匱乏。這也是現階段中美大模型發展的顯著差異之一。
早在今年3月，OpenAI推出ChatGPT插件功能之際，英偉達AI科學家Jim Fan就曾表示，如果說ChatGPT可以看作蘋果手機的出現，那么第三方插件的出現就意味著類似于蘋果應用商店的模式出現了。而在剛剛過去的OpenAI開發者大會上，OpenAI更是推出了GPTs—人人皆可零代碼實現定制化個人聊天機器人，甚至可以在應用商店進行商業運作。
可以說這預示著利用大模型的公司進入成本效率和創新的新時代，將重塑大模型在業務和開發中的應用格局。事實也的確如此，如果不重視AI應用，大模型將永遠停留在空中樓閣，熱潮也將逐漸冷卻。大模型可能僅僅會成為一個概念詞，無法產生真正的生產力變革。
而另一方面，與大模型更強的泛化性能力一同前來的是在AI可信和安全性上的更大挑戰，深度學習的奠基人之一Yoshua Bengio在前一陣便聯合多位大佬，發文探討了如何在人工智能（AI）快速發展的時代管控相關風險，共同尋求當下生成式人工智能迅速發展時期的潛在風險管理措施。AI可信和安全從始至終都是需要解決的重點難點，AGI時代帶來的安全隱患和威脅，可能不會突然爆發，但一定會不緊不慢地向我們走近。
11月15日，在深圳2023西麗湖論壇上，全球科教領軍人物齊聚深圳，圖靈獎得主馬丁·愛德華·赫爾曼，澳門大學校長宋永華，香港科技園公司主席查毅超，硅谷人工智能研究院創始人、《硅谷百年史》《智能的本質》《人類2.0》作者皮埃羅·斯加魯菲，百度創始人、董事長兼首席執行官李彥宏紛紛亮相，共同探討人工智能的發展下半場的走向與關注重點。
在整個論壇之中，我們發展，大模型發展的下半場，AI應用和可信是無法忽視的議題，人工智能要想長遠發展，AI應用和可信必須兩條腿走路。
近期AI圈最火的事件莫過于上周OpenAI的開發者大會引起技術圈的全民性討論，OpenAI丟出面向開發者的 GPT 4 Turbo 整體降價、GPT Assistant API 發布、自定義 GPT、GPT Store……都給 AI 行業帶來了巨大的沖擊，引發了極大的思考，OpenAI丟給廣大中國大模型公司的一個顯著議題便是，卷可以，但是我們是不是卷錯了方向。
在OpenAI開發者大會結束后，最為被動的是一眾創業者們，前斑馬智行聯合創始人、阿里釘釘副總裁、明略首席戰略官張斯成博士就曾向AI科技評論表示，作為一家準商業公司，OpenAl的終極對標是Google,這一點和Microsoft的戰略利益高度一致，也是長期穩定伙伴關系的壓艙石。
而作為宇宙頭部AI企業，OpenAl的無代碼編程、降價等一系列措施無疑在往殺掉中間層的趨勢上發展。這為整個國產大模型劃分了兩條清晰的路徑：要么是和OpenAl血拼，繼續再造基礎模型，要么開卷上層應用生態，在已有大趨勢下殺出血路。
華爾街見聞近期就指出，在應用端，海外市場已經涌現出眾多新星。如數據服務軟件lamaindex.ai，周計訪問量同比成長122.69%。Llamalndex可以將大模型和企業數據連接起來，做定制化的LLMs，管理數據流和任務調度。類似的工具還有LangChain 。
而近期成為AI圈明日之星的的Character.ai表現同樣亮眼。該公司正在研發下一代的對話機器人技術，應用范圍也極其之廣，包括娛樂、教育、常規問答等。AI應用最本質的價值，可以從新一波AI的早期受益者之中看出端倪，Adobe、Abnormal、Coda、Notion、Cresta、Instabase、Harvey、EvenUp、CaseText 和 Fermat，這些均是已經能夠將生成性AI加入其應用的現有公司和初創公司。而放眼至國內，最早造成全民效應，實現C端盈利的不是資源雄厚的國家隊，也不是有著長久技術積累的BAT，而是那個只需要一杯咖啡的價格，就能解鎖近70套不同風格的個人寫真的AIGC應用妙鴨相機。
從這一點上而言，對于AI應用的重視一方面是來自外圍競爭對手的啟示，另一方面也是商業本質規律的必然驅動結果。在今日的西麗湖論壇上，李彥宏也指出，相比起國外已經不斷成熟的AI應用生態，我國現有的AI應用可以說是十分稀有，在他看來“不斷地重復開發基礎大模型是對社會資源的極大浪費”。
百模大戰的背后，是對資源的浪費：算力被反復糟蹋，人才被割裂稀釋，數據依然小院高墻。國內下半場的主題并不是奮勇追趕，而是淘汰與整合。人類進入AI時代的標志，不是產生很多的大模型，而是產生很多的AI原生應用。
他指出，現在的行業現象是，眾多企業都十分重視這個機會，但是往往最后就演變成CEO把任務交給IT負責人，以為“自己搞個基礎模型，或者按照網上傳播的評測方法來挑選一款評分高的大模型，”就是擁抱AI時代了，這其實是對公司和社會資源的極大浪費。
上海人工智能實驗室的首席科學家林達華也向AI科技評論表示，大模型體現出來的是更強的泛化性能力，能夠在更多領域帶來通用的智能化變革。這個過程中其實最終還是要回歸到一個技術本身的價值，要應用和落地。如果大家都在同樣一個基座大模型上卷，勢必孵化不出創新之果。
順著這個思路，我們會發現，卷AI應用是必然趨勢，但是即使知道了這個方向，在行進的過程中又會存在哪樣的難題與壁壘呢？梅特卡夫法則提出，如果一個產品或服務的每一個額外用戶都能為所有其他用戶帶來更多的價值，那么你的產品或服務就具有"網絡效應"。
雷峰網創始人林軍在近期評論什么才是好做的生意時也表示，當一個生意可以傳承可以一代接著一代順延下去時，就證明是頂級的好生意。簡單好用好傳承對于技術還是商業而言，都是制勝的不二法則五。在這一點上，上一代互聯網公司的發展也提供了很好的佐證，無論是Windons、Facebook，還是Twitter，他們都是開源生態，會把所有的東西開給你，然后你去做第三方應用的對接，大家一起把生態做起來，這是原來的做法，也是為什么頂級技術都會最終走向開源的原因。
而回到如今的AI應用發展，大家會發現，OpenAI他突然開始讓很多小團隊無路可走了，出現和上一代完全不一樣的結果，這是為什么？其實是因為OpenAI自己做了各種各樣的東西，做了API，做了中間層，又在往應用方面切，本質原因就在于，不同領域的訓練和迭代都是閉環效應，如果應用和用戶都在他的手里，他就會更好的訓練和迭代。
所以超級頭部有足夠強的意愿以及能力，他一定會這么干。在這種方式下，個人小團隊做應用很難做出來，這就要求廠商的商業變現邏輯極大縮短，比如一兩年之內能夠完成整個周期，否則很容易被拍死在沙灘上。AI原生應用之路除了對企業商業模式提出了極大要求，對于環境和政策也提出了較大要求。
西麗湖論壇上，李彥宏以新能源汽車產業作類比表示，新能源減免購置稅、上路不限號不限行等措施，有效拉動了新能源汽車產業的快速增長，AI產業也是需求驅動，應該在需求側、應用側發力。
在這一方面，前曠視員工也曾向AI科技評論表示過類似的觀點，AI大潮之中，大型AI企業都在等兩個強國戰略的落地。一個是質量強國，一個是知識產權強國。大家都說美國都開始卷垂直領域和應用層了，中國怎么還沒開始卷，這是因為在美國知識產權的情況跟中國不一樣。
兩個國家的人口結構和知識產權的結構，決定了在同樣一個技術出來以后，演化速度和演化方向肯定是不一樣。而回歸企業本身，整個大環境帶來的是同樣的難題，一味地等待其實并不是良策，主動擁抱，做好準備方為正道君子生非異也，善假于物也。
大模型不會真的創造一個應用場景，造一百個大模型和造一個好用的基座大模型在商業上沒有什么本質區別，這的確是對資源的浪費。但如果能充分利用現有的大模型的基礎，發力自己的已有優勢，調用大模型來開發AI原生應用，用市場推動產業發展，或許是一個新的解題思路。
（在企業具體的行進道路上，如何細化用市場推動產業發展這一解題思路？或許可以與本文作者郭思聊一聊哦，微信：lionceau2046）
人類現階段是否可以信任人工智能？這個問題從近期的報道中可以找到答案，6月22日，紐約南區法院作出 判決 ：Levidow，Levidow &Oberman律師事務所因向法院提供虛假信息，行為惡劣，被處以5000美元的罰款。引起關注的原因是，在這例判決中，虛假信息的提供并非是律師出于利益而故意知法犯法，而是因為他們過于相信了AI的能力。
人類現在無法完全信任AI，但人與AI之間的關系如果沒有信任便無以為繼。今日西麗湖論壇上，硅谷人工智能研究院創始院長 Piero Scaruffi（皮埃羅·斯加魯菲）對AI可信和安全的重要性進行了論述。他指出，Transformer 是大模型的基礎，目前席卷全球的人工智能熱潮都可以直接追溯到transformer的發明，Transformer性能強大可用，也因為這一點，我們在健康醫療、金融、自動駕駛等眾多領域都見到了它的身影，但這些領域具有高隱私性、高安全性的訴求，可信 AI 是一個非常值得關注的重點。除他之外，行業對AI可信和安全的關注其實一直都有聲音。
今年4月，AI早期創始人馬斯克聯合業內千名高管和專家發布公開信，倡議所有人工智能實驗室應立即暫停訓練至少6個月，以應對AI脫離人類掌控的威脅。曾獲得圖靈獎、被稱為“AI 教父”的加拿大計算機科學家 Yoshua Bengio 在近期一次采訪中呼吁，AI 領域被少數科技公司控制的可能性，將會是該技術帶來生存風險之后的“第二大問題”。
而進一步追問，我們會發現GPT的可信性其實可以拆分為體現在多個細分領域，截至2023年10月19日，共有171臺支持人工智能（AI/ML）的醫療設備被添加至FDA批準的人工智能設備列表中，但是巨大的問題是人工智能醫療設備、療法和診斷可信嗎？放至網絡和社交媒體之上，互聯網的內容可信嗎？電話交談可信嗎？人類又該如何創建一個更值得信賴的社交媒體生態系統？
在商業上也同樣如此，人工智能可以帶來指數級的效益，但也可能損害公司的聲譽，在皮埃羅看來，如今隨著大模型技術的演進，AI的可信度現階段也正在不斷進化，安全可信的AI必須具備可靠性、安全性、安保性、可用性、易用性。面對大模型帶來的企業管理風險，
行業也應該幫助企業在整個人工智能生命周期（從構思到設計、開發、部署）制定道德保障措施的框架。
這些都是亟待解決的問題。
在這些問題上，美國對于人工智能的管理其實早已從各方面開始了布局。2023年10月30日，美國白宮發布拜登簽署的最新行政命令——《關于安全、可靠和可信的AI行政命令》，以確保美國在把握AI的前景和管理其風險方面處于領先地位。
作為美政府負責任創新綜合戰略的一部分，該行政令以美國總統之前采取的行動為基礎，包括促使15家領軍企業自愿承諾推動安全、可靠和可信的AI發展的工作。美國出臺的最新政策包含安全測試、標準、最佳實踐、網絡安全等多個方面。
此外，美國國家科學基金會計劃撥款1.4億美元,用于啟動7所新的國家人工智能研究院，涉及法律與社會可信人工智能研究所，基于代理的網絡威脅情報與操作人工智能研究所等。除了出臺的政策之外，皮埃羅也指出，脫離于政府的各類非盈利機構也應該密切關注這一議題，例如分布式人工智能研究所、加州理工學院的Anima AnandKumor和Michael Alvarez等等均做出了良好的表率。
各類跨國學科會議也應密切關注這一問題。而放眼至我國對于可信AI的關注，在政策以及企業和機構的合力上其實也動作頻頻。
7月13日，國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》。對生成式人工智能服務提出了多項規制，開啟了中國對生成式人工智能產業的監管之路。同月OPPO聯合西安交通大學、中國信通院華東分院共同發布了《可信賴AI安全隱私技術研究》白皮書。
當全部人的目光都聚集至可信AI時，我們發現光有政策其實還不夠，因為可信AI從技術上以及商業成本上而言本身就是一個非常大的難題。在技術技術層面，可信領域專家伊利諾伊大學香檳分校（UIUC）的李博教授曾表示，AI 系統的安全性并沒有單一的解決方案可以解決所有問題，而需要多方面、持續的努力才能實現，大模型的有害內容（toxicity）、刻板偏見（stereotype bias）、對抗魯棒性（adversarial robustness）、分布外魯棒性（out-of-distribution robustness）等多個特點都值得我們深入關注。隨著大模型的發展，巨大的參數量和成本也成為可信AI領域一個邁不過去的門檻。
一位過去做隱私計算的行業人士在此前向AI科技評論表示，以前做隱私計算就三個技術：聯邦計算、多方安全計算、可信計算，而如今因為大模型的發展，成本不斷激增，就拿安全多方計算來說，在處理大模型數據訓練上，要把原本訓練周期擴張到2-6個數量級，聯邦學習也是要好幾倍的開銷。這些活在大模型訓練里都做不了。而放觀全局，可信 AI 的落地需要跨領域的系統協作。
可信賴 AI 涉及學術界到工業界整個流程，僅僅關注算法是不夠的。在工業界，要做一個可信賴 AI 的系統，需要從用戶需求的調研和用戶問題的提出開始，就要思考這是不是可信賴 AI 的問題，再到數據的收集標注，算法設計，開發上線，最后到產品交付，保持用戶體驗，從工業角度來講，關注的是全部的流程，學術界更關注的是中間算法部分，可信 AI 的落地需要學界、產業界和監管部門一起努力由此可見，可信AI對于整個行業而言都是一個難且重要的議題。（關于可信AI的探討，還有哪些角度可以思考？歡迎與本文作者：郭思微信：lionceau2046，共同探討。）
人工智能的崛起可能是人類遇到的最好的事，也可能是最壞的事情，但我們還不知道答案。一方面我們看到了大模型帶來的巨大可能性，GPT4 Turbo一出，OpenAI再次遙遙領先，差距大，但還沒到完全壟斷的地步。這個領域整體目前看應該還不存在絕對的護城河。
國內這個全球最大單一市場也仍在醞釀期，但是如果我們持續現在的競爭模式，統統發力基座模型，而忽視AI原生應用與人類與AI之間的安全可信問題，那么在追逐再造一把普羅米修之火的過程，或許還沒等到我們把火苗造出來，同行便早已將柴火打濕，我們的身后也會因為沒有完善的護盾而早已遭萬蟲侵蝕。
“斗爭，失敗，再斗爭，再失敗，再斗爭，直至勝利——這就是人民的邏輯，他們也是決不會違背這個邏輯的。這是馬克思主義的又一條定律?！眮G掉幻想，不要貪大，或許再造不出中國版的OpenAl，但或許可以成為世界版的中國某某某。
（本文作者郭思：微信號lionceau2046，長期關注大模型領域動態與故事，歡迎添加微信交流。）
雷峰網(公眾號：雷峰網) 雷峰網 雷峰網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
