在 CIKM 2024 上，小紅書中臺(tái)算法團(tuán)隊(duì)提出了一種創(chuàng)新的聯(lián)合訓(xùn)練框架 AlignRec，用于對(duì)齊多模態(tài)表征學(xué)習(xí)模型和個(gè)性化推薦模型。本文指出，由于多模態(tài)模型與推薦模型在訓(xùn)練過(guò)程中存在步調(diào)不一致問(wèn)題，導(dǎo)致聯(lián)合訓(xùn)練被推薦信號(hào)主導(dǎo)，從而丟失大量多模態(tài)信息。AlignRec 通過(guò)分階段對(duì)齊的方式，設(shè)計(jì)了三種針對(duì)性的優(yōu)化損失函數(shù)，使得聯(lián)合訓(xùn)練能夠同時(shí)兼顧多模態(tài)信息和推薦信息。實(shí)驗(yàn)結(jié)果表明，AlignRec 在多個(gè)數(shù)據(jù)集上的性能超過(guò)了現(xiàn)有的 SOTA（state-of-the-art）模型。此外，AlignRec 還提供了在當(dāng)前廣泛使用的公開數(shù)據(jù)集亞馬遜上的預(yù)處理特征，這些特征的效果顯著優(yōu)于現(xiàn)有的開源特征。

最近多模態(tài)是個(gè)非常熱門的話題，尤其是在大模型以及 AIGC 領(lǐng)域，多模態(tài)基建和技術(shù)是走向未來(lái)商業(yè)化的奠基石。在過(guò)去的多模態(tài)大模型研究方向上，模態(tài)的“對(duì)齊”已經(jīng)被驗(yàn)證非常重要，分布的不一致?lián)p害不同模態(tài)的理解，我們此次要討論的核心問(wèn)題是多模態(tài)在推薦中的對(duì)齊問(wèn)題；

在具體介紹論文工作之前，我們先來(lái)介紹下我們過(guò)去在推薦和電商中的實(shí)踐工作：

推薦實(shí)踐

上述方法是我們對(duì) BM3論文進(jìn)行改進(jìn) 上線的方案，該方案實(shí)際上做的是通過(guò)損失函數(shù)來(lái)實(shí)現(xiàn)“對(duì)齊”工作。我們的對(duì)模型的期望也是保留個(gè)性化的同時(shí)，能夠?qū)R行為和多模態(tài)的空間，進(jìn)一步增加長(zhǎng)尾的個(gè)性化分發(fā)能力。先說(shuō)效果：

該模型實(shí)驗(yàn)在推薦發(fā)現(xiàn)頁(yè)取得時(shí)長(zhǎng)、曝光、點(diǎn)擊等核心指標(biāo)收益，除此之外，在長(zhǎng)尾分發(fā)上，0 粉作者筆記點(diǎn)擊和曝光獲得大幅增長(zhǎng)，整個(gè)召回路增加了全局可分發(fā)筆記數(shù) 6%，分發(fā)筆記集中在 1k-5k 的筆記曝光集合；同時(shí)，我們的方法也被復(fù)用在了電商場(chǎng)景，分發(fā)長(zhǎng)尾同時(shí)，獲得 DGMV 等核心指標(biāo)收益。

很顯然，從上述可以看出，“對(duì)齊”的效果立竿見(jiàn)影，在業(yè)界應(yīng)用上我們已經(jīng)取得實(shí)質(zhì)性進(jìn)展，但本質(zhì)上這樣的設(shè)計(jì)方案依然并沒(méi)有完全解決多模態(tài)推薦問(wèn)題，因?yàn)槲覀兊亩嗄B(tài)模型和推薦模型是相對(duì)割裂的，等同于直接拿表征來(lái)使用，這樣的設(shè)計(jì)打通了應(yīng)用范式，卻無(wú)法判斷多模態(tài)模型本身能力對(duì)效果的上限，對(duì)于選擇合適多模態(tài)表征存在一定的難度。但如果我們引入文本/圖等 Encoder（Transformer）等進(jìn)行聯(lián)合訓(xùn)練，會(huì)引入如下的問(wèn)題：

在大規(guī)模的數(shù)據(jù)下，分布式訓(xùn)練引入圖文 Encoder 會(huì)造成資源和性能問(wèn)題，尤其是注重高時(shí)效性的 Streaming Data；
訓(xùn)練步調(diào)不一致，往往多模態(tài)模型需要大量數(shù)據(jù)甚至多個(gè) Epoch 才能收斂，但推薦模型通常采取單輪訓(xùn)練，這也導(dǎo)致多模態(tài)模型訓(xùn)練不充分；

所以我們?cè)O(shè)計(jì)聯(lián)合訓(xùn)練模型，通過(guò)設(shè)計(jì)分階段對(duì)齊的方式和中間指標(biāo)評(píng)估，解決上述聯(lián)合訓(xùn)練問(wèn)題，并且引入了三種針對(duì)性的優(yōu)化損失函數(shù)，使得聯(lián)合訓(xùn)練能夠同時(shí)兼顧多模態(tài)信息和推薦信息，解決聯(lián)合訓(xùn)練中的“對(duì)齊”問(wèn)題，提升效果上限。

下面我們從相關(guān)工作，核心挑戰(zhàn)，模型設(shè)計(jì)介紹整體工作。

我們?cè)谶@里通過(guò) (a), (b), (c) 描述了在過(guò)往的學(xué)術(shù)界目前多模態(tài)推薦方向的相關(guān)工作，總結(jié)主要的發(fā)展路徑：

圖(a)，直接利用，比如把 embedding，多模態(tài)特征作為信號(hào)輸入網(wǎng)絡(luò)；
圖(b)，利用圖等方式聚合，希望能得到更豐富的多模態(tài)信息表達(dá)，這本質(zhì)上也是增加多模態(tài)側(cè)信息的召回率；
圖(c)，聯(lián)合優(yōu)化，把模態(tài)損失和行為損失共同優(yōu)化，但這忽略了本身筆記側(cè)的多模態(tài)學(xué)習(xí)。
在工業(yè)界，現(xiàn)階段推薦系統(tǒng)主要還是依賴于 ID 特征的學(xué)習(xí), 大多數(shù)多模態(tài)推薦把多模態(tài)信息作為 sideinfo 去輔助 ID 特征的學(xué)習(xí)。但是, 多模態(tài)之間以及 ID 模型與多模態(tài)之間都存在著語(yǔ)義鴻溝, 直接使用甚至可能適得其反。

核心挑戰(zhàn)

為了貼合業(yè)界實(shí)際，設(shè)計(jì)一款有效的多模態(tài)與推薦聯(lián)合訓(xùn)練模型會(huì)遇到如下的挑戰(zhàn)：

挑戰(zhàn)1: 如何對(duì)齊多模態(tài)表征。包括內(nèi)容模態(tài)之間（如圖文）的對(duì)齊，以及內(nèi)容模態(tài)與 ID 模態(tài)之間的對(duì)齊；
挑戰(zhàn)2: 如何平衡好內(nèi)容模態(tài)和 ID 模態(tài)之間的學(xué)習(xí)速度問(wèn)題。內(nèi)容模態(tài)可能需要超大規(guī)模的數(shù)據(jù)和時(shí)間去訓(xùn)練, 而 ID 模態(tài)的學(xué)習(xí)更新可能只需要幾個(gè) epoch。
挑戰(zhàn)3: 如何評(píng)估多模態(tài)特征對(duì)推薦系統(tǒng)的影響。引入不合適的多模態(tài)信息可能需要更多的精力去做糾正, 甚至可能影響推薦系統(tǒng)的性能。

我們所提出的方法命名為 AlignRec，整體框架如下圖所示, 主要包含3個(gè)模塊: Multimodal Encoder Module, Aggregation Module, 以及 Fusion Module, 下面分別進(jìn)行介紹。

Multimodal Encoder Module