0
| 本文作者: 陸毅 | 2026-07-09 16:47 | 專題:ICML:國際機器學習會議 |
2026年7月,第43屆國際機器學習大會(ICML 2026)在韓國首爾COEX會展中心如火如荼地進行中。作為機器學習領域全球最具影響力的學術盛會之一,本屆會議共收到23918篇有效投稿,最終接收6352篇論文,錄用率26.6%。其中,僅536篇論文入選Spotlight(占投稿總數2.2%),代表了當前機器學習研究的最前沿方向。
雷峰網(公眾號:雷峰網)&AI科技評論在ICML 2026現場,為您帶來第一手的Spotlight論文報道。本文精選了9篇來自不同研究方向的Spotlight論文,涵蓋AI安全攻防、機器人操控、擴散模型優化、信號重建、分詞算法和數字代理等熱門領域,帶您一覽學術前沿風向。
Fast Spectrally Sparse Signal Reconstruction via Jacobi-Preconditioned Gradient Descent
光譜稀疏信號重建在通信、雷達、醫學成像等領域具有重要應用價值,數學上可轉化為低秩Hankel矩陣補全問題。現有方法面臨一個核心矛盾:一階算法(如梯度下降)每次迭代計算成本低,但收斂速度依賴于矩陣條件數,當條件數較大時收斂緩慢;而基于流形優化的方法雖然收斂速度快,卻因每步需處理矩陣空間的額外計算而開銷顯著增大。如何在兩者之間取得平衡,是該領域長期懸而未決的挑戰。
針對這一矛盾,香港科技大學Jiaxi Ying等人提出了雅可比預條件梯度下降法(Jacobi-preconditioned gradient descent)。該方法通過引入雅可比預條件器,在保持一階算法低迭代復雜度的同時,實現了線性收斂,且收斂速率不依賴于條件數。研究團隊還引入了一個生成器,將因子空間的迭代映射到矩陣空間,從而建立了與流形方法的等價性,使得直接進行收斂分析成為可能,同時避免了在復對稱因子分解歧義下定義距離的復雜性。
大量實驗表明,該方法在迭代次數和計算時間上均優于現有最優方法,適用于廣泛的問題設置。該論文的核心貢獻在于巧妙地打通了一階算法和流形方法之間的理論橋梁,以極低的工程復雜度實現了"魚與熊掌兼得"的效果,為光譜稀疏信號重建提供了兼具理論與實踐價值的新范式。

論文鏈接:https://openreview.net/forum?id=b4HR1jhoRV
Incentivizing Truthfulness and Collaborative Fairness in Bayesian Learning
協作機器學習允許多個數據源共同訓練高質量模型,但如何確保數據源如實提交數據一直是個難題。現有的數據估值方法(如Shapley值)雖然能根據數據貢獻公平地獎勵每個來源,卻無法驗證或激勵數據的真實性——數據源完全可以通過提交重復或噪聲數據來人為提高自己的估值和獎勵,甚至阻止他人受益。這種"搭便車"行為嚴重威脅了協作學習的可信基礎。
新加坡國立大學Bryan Kian Hsiang Low團隊首次提出了一個在貝葉斯模型中同時保證協作公平性(Fairness, F)和真實性激勵(Truthfulness, T)的機制。該機制將確保公平性的半值(如Shapley值)與基于驗證集的真實數據估值函數(DVF)相結合,其中驗證集對數據源保密。研究團隊進一步證明,由于半值受其他數據源數據的影響,數據源通過提交反映其真實知識的數據集,可以在聯盟和半值中最大化其期望數據價值——換言之,誠實才是最優策略。
此外,論文還討論了當中介者預算有限或缺乏驗證集時,公平性和真實性條件的含義及適當的放松方式,并在合成數據集和真實數據集上驗證了理論發現。該研究為協作機器學習中的激勵機制設計提供了重要的理論基礎,填補了"公平"與"誠實"之間的理論空白。

論文鏈接:https://arxiv.org/abs/2605.11889
Jailbreak Foundry: From Papers to Runnable Attacks for Reproducible Benchmarking
大語言模型(LLM)的越獄攻擊技術迭代速度遠超基準測試的更新頻率,導致魯棒性評估結果很快過時,且難以跨論文比較——不同研究使用不同的數據集、測試框架和判定協議,使得評估結果缺乏可比性。這一"軍備競賽"中的基準缺失問題嚴重制約了LLM安全研究的進展:研究者既難以準確評估新攻擊的威脅程度,也難以公平比較不同防御方案的有效性。
清華大學Wei Xu團隊提出了JAILBREAK FOUNDRY(JBF)系統,通過多智能體工作流將越獄論文自動轉化為可執行模塊,在統一框架內進行即時評估。JBF包含三個核心組件:JBF-LIB提供共享接口和可復用工具庫;JBF-FORGE負責將論文轉化為可執行模塊的多智能體轉換流程;JBF-EVAL則負責標準化評估流程。在30種復現攻擊中,JBF實現了高保真度,平均攻擊成功率(ASR)偏差僅為+0.26個百分點,幾乎完美復現了原論文的攻擊效果。
通過共享基礎設施,JBF將攻擊特定實現代碼減少了近一半,平均代碼復用率達82.5%。該系統對所有30種攻擊在10個受害模型上進行了標準化的AdvBench評估,使用統一的GPT-4o判定器,為跟上快速變化的安全態勢提供了可擴展的"活基準"解決方案,使安全評估從"一次性實驗"走向"可持續追蹤"。

論文鏈接:https://arxiv.org/abs/2602.24009
When the Prompt Becomes Visual:Vision-Centric Jailbreak Attacks for Large Image Editing Models
隨著大型圖像編輯模型從文本驅動指令轉向視覺提示編輯——用戶意圖通過標記、箭頭和視覺文本提示直接從視覺輸入中推斷——模型的可用性大幅提升,但同時也引入了一個被忽視的安全風險:攻擊面本身變成了視覺形式。傳統的文本安全過濾機制面對視覺維度的攻擊時幾乎失效,而這一新興威脅此前尚未被系統性研究。
中南大學Jiacheng Hou等人提出了視覺中心越獄攻擊(Vision-Centric Jailbreak Attack, VJA),這是首個純視覺到視覺的越獄攻擊方法,惡意指令完全通過視覺輸入傳遞,無需任何文本提示。為系統性研究這一威脅,研究團隊構建了IESBench——一個面向圖像編輯模型的安全基準。實驗表明,VJA能有效攻破當前最先進的商業模型,在Nano Banana Pro上達到80.9%的攻擊成功率,在GPT-Image-1.5上達到70.1%,揭示了現有商業模型的嚴重安全盲區。
為應對這一漏洞,論文還提出了一種基于內省多模態推理的無訓練防御方法,無需輔助守護模型,計算開銷可忽略,即可將對齊較差的模型安全性提升至商業系統水平。該研究的貢獻在于首次揭示了視覺提示編輯范式下的全新安全盲區,并提供了攻防兩端的雙重解決方案,為可信圖像編輯系統的建設提供了重要警示。

論文鏈接:https://arxiv.org/abs/2602.10179
LaST0: Latent Spatio-Temporal Chain-of-Thought for Robotic Vision-Language-Action Model
視覺-語言-動作(VLA)模型在機器人操控中展現出強大的泛化能力,部分方法嘗試在執行前顯式生成語言推理軌跡或預測未來觀察。然而,顯式推理會引入不可忽視的推理延遲,制約了機器人操控所需的時間分辨率;且推理局限于語言空間,難以忠實捕捉難以言表的物理屬性(如力度、摩擦感等),構成了表征瓶頸。
北京大學Shanghang Zhang團隊提出了LaST0框架,通過潛在時空思維鏈(Latent Spatio-Temporal Chain-of-Thought)在行動前實現高效推理,捕捉難以用語言表達的精細物理和機器人動態。具體而言,LaST0引入了一個token高效的潛在CoT空間,建模未來視覺動態、3D結構信息和機器人本體感受狀態,并跨時間擴展以實現時間一致的隱式推理軌跡。在架構上,LaST0采用基于Mixture-of-Transformers的雙系統設計:推理專家進行低頻潛在推理,行動專家基于面向機器人的潛在表征生成高頻動作,并通過異構操作頻率訓練實現部署時的自適應切換。
在覆蓋桌面操控、移動操控和靈巧手操控的10個真實世界任務中,LaST0相比此前的SOTA VLA方法,平均成功率分別提升了13%、14%和14%,充分展現了在復雜機器人場景中的強大潛力。該研究開創性地將思維鏈推理從語言空間遷移至潛在空間,為機器人"思考"提供了全新范式。

論文鏈接:https://arxiv.org/abs/2601.05248
Alignment-Guided Score Matching for Text-to-Image Alignment in Diffusion Models
擴散模型雖能生成高度逼真的圖像,但精確的文本-圖像對齊仍是一大挑戰——例如生成"三只貓"時可能只畫出兩只,或在復雜場景中出現元素重復。近期無獎勵方法SoftREPA通過對比學習優化soft tokens來改善對齊,但研究團隊發現了一個關鍵現象:對比學習的formulation會過度懲罰負樣本對,導致計數過多、元素重復等特征性失效模式。
韓國KAIST的Jong Chul Ye團隊提出了一種輕量級、無獎勵的后訓練方法,將對比對齊引導直接整合到擴散模型的score-matching目標中。通過在分數層面(score level)而非token層面分配對齊方向,該方法從根本上緩解了對比學習過度懲罰的問題,生成更加連貫且語義忠實的圖像。該方法可與現有的擴散骨干網絡(SD1.5、SDXL、SD3)無縫集成,并與基于強化學習的擴散后訓練方法互補。
實驗表明,該方法在保持SoftREPA整體性能的同時,大幅改善了其失效場景,在GenEval基準上的計數準確率提升了超過35%。該研究的貢獻在于從分數匹配的理論視角重新審視文本-圖像對齊問題,用極簡的方案解決了困擾擴散模型對齊的頑疾。

論文鏈接:https://arxiv.org/abs/2605.30038
Weak Diffusion Priors Can Still Achieve Strong Inverse-Problem Performance
擴散模型被廣泛用作逆問題的先驗,但標準方法通常假設使用在與未知信號匹配的數據上訓練的高保真模型。實踐中,人們常常不得不使用不匹配或低保真度的擴散先驗——例如,用臥室圖像訓練的擴散模型能否恢復人臉?令人驚訝的是,這些"弱先驗"往往表現得幾乎和全強度的域內基線一樣好。這一反直覺的現象引發了研究者的好奇:弱先驗為何能"以弱勝強"?
杜克大學Guanyang Wang團隊系統研究了逆問題求解器何時以及為何對弱擴散先驗具有魯棒性。通過大量實驗,他們發現當測量信息高度豐富時(如觀測了大量像素),弱先驗就能成功;并識別了弱先驗失敗的區間。為解釋這一現象,研究團隊結合了貝葉斯一致性理論和局部相關性分析:理論給出了高維測量使后驗集中在真值附近的條件,而相關性分析表明弱先驗和強先驗可以共享相似的局部空間結構——正是這種結構上的共性,使得弱先驗在信息充足的場景下足以引導出正確的解。
這些結果為"何時可以可靠地使用弱擴散先驗"提供了原則性的理論論證,對實際應用中擴散先驗的選擇具有重要指導意義。該論文的亮點在于將一個反直覺的經驗現象提升到了理論可解釋的高度,既回答了"為什么",也界定了"何時"。

論文鏈接:https://arxiv.org/abs/2601.22443
Incremental BPE Tokenization
字節對編碼(BPE)是大語言模型(LLM)推理管道中的基礎環節,但現有的BPE實現缺乏流式處理能力,在處理長文本或病態輸入時可能成為性能瓶頸。隨著LLM應用場景對低延遲流式輸出的需求日益增長——例如實時對話、逐字生成——傳統的批量分詞方式已難以滿足需求,亟需一種支持增量處理的高效分詞方案。
Shenghu Jiang和Ruihao Gong提出了一種全新的增量BPE分詞算法,每個輸入字節的最壞處理時間為O(log2t),總體復雜度為O(nlog2t),其中n為輸入長度,t為最大token長度。該算法增量地維護輸入文本每個前綴的BPE分詞結果,執行由固定合并規則定義的標準BPE合并過程,從而實現流式設置下的高效部分分詞。此外,研究團隊還引入了急切輸出(eager output)算法,在增量分詞過程中一旦確定token邊界就立即輸出token,實現真正的流式輸出。
作為標準BPE的直接替代方案,該方法比Hugging Face的tokenizers快約3倍,在病態輸入上相比OpenAI的tiktoken也展現出顯著的延遲降低。該研究證明了BPE分詞可以在保持強最壞情況保證的同時增量執行,為現代LLM管道提供了兼具理論嚴謹性和實用價值的延遲優化方案。

論文鏈接:https://arxiv.org/abs/2605.30813
Position: Digital Agents Require Unified Agent-Native Computers
大語言模型(LLM)正越來越多地被部署為數字代理,在計算機上執行多步驟數字工作。然而,這些代理運行的環境仍然是碎片化和特定于任務的——GUI自動化和文本/API交互各自為政,缺乏統一的系統狀態和交互范式,嚴重制約了通用數字代理的構建。當前,代理要么通過模擬鼠標鍵盤操作GUI(效率低、易出錯),要么通過API調用(覆蓋面有限),兩者割裂導致代理難以應對復雜真實任務。
普林斯頓大學Mengdi Wang和Huazheng Wang團隊明確提出:數字代理需要"原生代理計算機"(Agent-Native Computer),即通過組合式觀察和行動空間暴露系統能力、與LLM優勢對齊的接口。為驗證這一立場,研究團隊展示了AgentVM——一個運行在現代操作系統之上的環境,整合了基于GUI和基于文本的交互,共享統一的系統狀態,并將交互分解為模塊化的環境視圖,使代理能根據任務靈活選擇最適合的交互方式。
通過定量和定性分析,研究團隊證明了統一的代理原生計算機對于構建通用數字代理是必不可少的。該立場論文為數字代理的未來發展指明了方向:不是讓代理去適應碎片化的環境,而是構建原生支持代理交互的統一計算平臺,這一愿景對AI Agent的工程實踐具有深遠啟示。

論文鏈接:https://openreview.net/forum?id=XZaRHkbc2u
以上是我們在ICML 2026現場精選的9篇Spotlight論文速覽。Spotlight論文僅占投稿總數的2.2%,代表了機器學習各細分領域的最前沿探索。如有遺漏或需要深入了解的論文,歡迎聯系我們進一步交流。
一個人讀論文太孤單,一群人刷頂會才好玩。
ICML 2026 召開在即,我們正在召集一波含金量極高的 AI 研究者。群內主打實時論文跟蹤與硬核技術探討,拒絕灌水。
? 進群傳送門: 掃碼進群或添加微信Vin_Vivid,備注:論文群 + 關注的 AI 方向。

搞科研/搞技術,信息差很重要。
來,一起快人一步!
上車,帶你看遍全球 AI 頂會精華
可獨家暢覽:
專家演講PPT
大會報告全文
熱門論文解讀
學術新星訪談

掃描上方二維碼
或點擊「閱讀原文」關注專區。
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。