阿里巴巴多篇學術論文集合（IJCAI、SIGIR、ACL）

IJCAI 2018 于 7 月份在瑞典舉行。阿里巴巴作為國內優秀企業，也有三篇論文被收錄為口頭報告論文；此外，在 ACL 上有兩篇論文被錄用；在 SIGIR上有三篇論文被錄用。

以上事件在雷鋒網旗下學術頻道 AI 科技評論數據庫產品「AI 影響因子」中有相應加分。

以下為三篇 IJCAI oral 論文摘要：

基于改進注意力循環控制門的品牌排序系統

A Brand-level Ranking System with the Customized Attention-GRU

在淘寶網等電子商務網站中, 品牌在用戶對商品做點擊/購買選擇時正起著越來越重要的作用, 部分原因是用戶現在越來越關注商品的質量, 而品牌是商品質量的一個保證。但是, 現有的排序系統并不是針對用戶對品牌的偏好設計的。某些處理方案一定程度上能減輕這個問題, 但仍然無法取得理想的效果或需要增加額外的交互成本。我們提出并設計了第一個品牌級排序系統來解決該問題, 該系統的核心挑戰是如何有效利用電子商務網站中的大量信息來對品牌作個性化排序。在我們的解決方案中, 我們首先針對個性化品牌排序問題設計特征工程, 然后在 Attention-GRU 模型的基礎上, 提出了 3 個重要改進, 以更好地對品牌排序。值得注意的是, 這些改進也能應用于很多其他機器學習模型。我們在阿里巴巴天貓商城上做了大量實驗來驗證這個排序模型的有效性, 并測試了真實應用場景中 用戶對該排序系統的反饋。

JUMP: 一種點擊和停留時長的協同預估器

在搜索和推薦場景中，基于會話的預測日益受到人們的興趣和重視；大多這類算法都是基于遞歸神經網絡 (RNNs) 技術或者它的變種。然而，已有的算法一方面會忽略「停留時長」在表達用戶偏好程度上的重要性，另一方面在非常短或者有噪音的會話上會預估的不準。因此在該文章的的工作中，我們提出了一種聯合預估算法 JUMP，基于會話去同時預測用戶的點擊和停留時長。JUMP 使用一種新奇的三層 RNN 結構去編碼用戶的一次會話，包括使用一個「快慢層」去緩解短會話的問題，使用一個「注意力層」去解決會話噪音的問題。大量的實驗表明 JUMP 算法能在點擊率預估和停留時長預估上，超越最新的其他算法。

電商搜索全局排序方法

搜索排序的傳統方法是通過各種方法對商品進行打分，最后按照每個商品的分數進行排序。這樣傳統的搜索排序方法就無法考慮到展示出來的商品之間相互的影響。類似地，傳統的針對單個商品估計 ctr、cvr 的方法也都基于這樣一個假設：商品的 ctr、cvr不會受到同時展示出來的其他商品 (我們稱為展示 context) 的影響。而實際上一個商品的展示 context 可以影響到用戶的點擊或者購買決策：假如一個商品周邊的商品都和它比較類似，但是價格卻比它便宜，那么用戶買它的概率不會高；反之如果周邊的商品都比它貴，那么用戶買它的概率就會大增。如果打破傳統排序模型展示 context 沒有影響的假設，該如何進行排序呢？

為此，我們首次提出了一種考慮商品間相互影響的全局排序方法。我們將電商排序描述成一個全局優化問題，優化的目標是反應用戶滿意度的商品成交額：GMV（GrossMerchandise Volume）。準確地說，全局排序的優化目標是最大化 GMV 的數學期望。計算 GMV 的數學期望需要知道商品的成交概率，而商品的成交概率是彼此相互影響的，因此我們又提出了考慮商品間相互影響的成交概率估計模型。首先，我們提出了一種全局特征擴展的思路，在估計一個商品的成交概率時，將其他商品的影響以全局特征的形式加入到概率估計模型中，從而在估計時考慮到了其他商品的影響。然后，我們進一步提出了通過 RNN 模型來精確考慮商品的排序順序對商品成交概率的影響。通過使用 RNN 模型，我們將電商排序變成了一個序列生成的問題，并通過 beam search 算法來尋找一個較好的排序。我們在淘寶無線主搜索平臺上進行了大量的實驗，相對于當時的淘寶無線主搜算法，取得了GMV 提升 5% 的效果。

三篇 SIGIR 文章：

一種端到端的模型：基于異構內容流的動態排序/ An End-to-end Model of Predicting Diverse Ranking On Heterogeneous Feeds

高子喆，高正，黃恒，蔣卓人，嚴玉良  / Zizhe Gao,Zheng Gao,Heng Huang,Zhuoren Jiang,Yuliang Yan

我們的目標是解決商品搜索引擎和內容搜索引擎中異構數據排序的問題，給用戶推薦豐富的個性化的內容流。我們把算法分成了兩部分：1）異構內容流類型排序，即決定每個坑位展示何種類型的內容流，文章、視頻還是商品列表；2）同構的內容流內容排序，第二個步驟使用廣為人知的DSSM模型，在這個內容流類型下，對內容流的內容進行排序，選擇相似度最高的內容插入。本文主要聚焦在第一個步驟。

可視化理解深度神經網絡CTR預估模型/ Visualizing and Understanding Deep Neural Networks in CTR Prediction

郭霖 葉卉 蘇文博 劉賀歡 孫凱 向杭 侯俊/ Lin Guo, Hui Ye, Wenbo Su, Hehuan Liu, Kai Sun, Hang Xiang, Jun Hou

深度學習在研究和應用領域都已取得了重大的進展。但迄今為止，深度學習算法仍不夠透明，多被做“黑盒”使用。近年來，人們開始致力于去更透徹地理解深度學習內部的復雜機理，從而確保算法安全可靠或達到進一步優化的目的。

盡管業界對于圖像處理和自然語言處理領域，在算法可解釋性方向上已經取得了一些進展，但對于電商與廣告領域，目前還是空白。另一方面，深度學習技術已經開始被大規模應用到廣告業務中。廣告是很多互聯網現金流的重要來源，是核心業務。深度神經網絡模型是核心業務中的核心模塊，有效理解和評估這一“黑盒”算法變得非常重要。

由于人類對于世界的認知和感受主要來自于視覺，良好的可視化可以有效的幫助人們理解深度神經網絡，并進行有效的評估、優化和調節。而可視化的前提是對模型進行相關數據透出，從而進行可視化分析評估，最終使得神經網絡從“黑盒”向“白盒”過渡。針對這些挑戰，我們搭建了一個面向工業級大規模深度學習應用的可視化分析平臺—DeepInsight。

我們將針對電商場景下的廣告點擊率（CTR）預估，以一個簡單但具有代表性的深度神經網絡模型為例，舉例介紹在幾個典型而重要的問題上模型可視化分析的應用：1.泛化效果評估；2.特征設計；3.模型結構設計。

大多數圖像或自然語言處理的研究著眼于從樣本粒度出發去可視化理解模型。區別于這些研究場景，工業界的CTR預估面對的是海量規模的數據與特征、有偏的帶標簽數據、稀疏而復雜多樣的信號模式，而最終效果評估首要關注的是宏觀的商業指標。從業務特點出發，我們以統計信號入手，探索理解模型在整個目標數據集上的宏觀表現。相關實驗工作的細節請參閱我們的英文版論文：https://arxiv.org/abs/1806.08541。

基于強化學習的電商環境下商品生命周期優化

在電商平臺所制定的流量分配機制下，參與者競爭平臺的流量資源，而現有的研究大多基于商品當前狀態優化短期的收益。本文通過定義商品的啟動、成長、成熟和衰退四個周期以及四個周期之間的轉換關系建立起商品的生命周期模型。基于生命周期模型，本文進一步提出了基于強化學習的流量分配機制框架，并提出基于FPC排列的狀態采樣算法和改進的經驗池技術以同時優化長期收益與短期收益。通過這種'試探-糾錯'機制，可能可以優化流量分配機制并促進平臺自身健康發展。我們基于淘寶平臺進行了仿真驗證，仿真表明該算法相比于基準算法有明顯的提升。

論文地址：https://arxiv.org/abs/1807.00448