ai廣告投放系統（騰訊混元AI大模型落地廣告投放）

2023-07-30 03:05:35 2

智東西（公眾號：zhidxcom）

作者 | ZeR0

編輯 | 漠影

智東西6月21日報導，騰訊多模態AI大模型已經開始在廣告投放領域發揮出降本增效的價值。

廣告技術的發展正讓「降本增效」愈發可量化和感知，比如目前網際網路廣告平臺開始以GMV（成交金額）或ROI（投入產出比）為營銷效果的評估標準。

一次更高效的廣告投放，本質上是在合適的場景，讓對的廣告出現在對的人面前。這離不開廣告平臺對廣告內容和用戶群體的深刻理解，並在他們之間達成更準確的匹配。

針對廣告投放追求的更低成本、更優效果目標，騰訊廣告已經交出一份新答卷：首先以騰訊混元AI大模型助力系統深刻理解廣告內容，其次以精排大模型提升廣告和用戶的匹配準確率，這兩者的底層，還都離不開騰訊機器學習平臺太極。

據悉，相比以前的小模型算法，騰訊廣告精排大模型已累計給廣告主帶來15%的GMV提升；太極機器學習平臺在加速混元AI大模型的訓練時，效率高於業界其他方案3.7倍。

一、混元AI大模型：讓系統深度理解廣告內容的核心引擎

近兩年國內外AI大模型快速發展，不僅持續邁向更高的參數規模及模型大小，而且不斷刷新文本和圖像理解水平。

大模型的這些核心能力，對廣告推薦同樣大有裨益。廣告中既有藝術和創意，也有感情和期待，推薦系統要首先需理解廣告中蘊含的豐富信息，才能做出恰當的推薦。

騰訊自研的深度學習大模型——騰訊廣告混元AI大模型，便是廣告系統理解內容的核心引擎。

騰訊廣告混元AI大模型，是一個具有千億參數的大模型，能夠準確理解文字和圖像中蘊含的各個層面的信息。它可以把文字、圖像、視頻作為一個整體來理解，這樣不僅對廣告的理解更準確，也更符合平臺用戶對廣告的整體感受。

混元AI大模型的多模態理解能力，可以有效的加深推薦系統對於廣告的理解，從而更精準的將廣告推薦給合適的人群，提高用戶體驗以及廣告轉化效果。此外，該模型還有文字&圖像&視頻綜合生成能力，已經以產品的形式在騰訊廣告投放平臺提供給每一位廣告主，可以極大的提升廣告製作的效率。

其「圖生視頻」功能，可以將靜態的圖片自動生成不同樣式的視頻廣告；「文案助手」功能，可以為廣告自動生成更恰當的標題，提升廣告的效果；「文生視頻」功能，未來只需提供一句廣告文案，就可以自動生成與之匹配的視頻廣告。

HunYuan_tvr模型架構示意圖

經過與類似的圖文理解模型做全面的正面對比，目前騰訊廣告混元AI大模型橫掃跨模態檢索領域5大權威測評集大滿貫、多模態理解領域國際權威榜單VCR上排名第一、CLUE自然語言理解分類榜及CLUE總榜登頂，比大部分模型的圖文綜合理解能力更強。

二、精排大模型：千億級推理參數，讓系統更高效匹配廣告和人群

在理解廣告之後，廣告平臺還面臨一個挑戰：把廣告展示給合適的人群。模型在解決這一挑戰中發揮了核心作用，特別是精排模型。

廣告平臺上有數以萬計的廣告主、數以億計的用戶，即便經過廣告定向的篩選，匹配一次用戶請求的廣告仍然可能有成千上萬。具體向用戶展示哪一個或者哪幾個廣告才能在儘量符合用戶偏好的同時為廣告主帶來最大的收入，這是一個極為複雜的多對多匹配問題，需要精細的預估和排序。

騰訊廣告精排大模型即為解決這個難題而設計。其單模型推理參數達千億級別，序列化後大小可達數百GB，浮點數計算量最高每秒超過10億次，在行業位於先進水平。

如此大的模型，最明顯的收益是可以利用更多的特徵和樣本數據，學習得到更強大更精確的模型，進而實現更高效的匹配，比如：

騰訊廣告精排大模型各項算法指標相對於百億規模小模型有顯著提升，全流量上線後，用戶可以看到更符合自己興趣的廣告，廣告主也可以期待有更高的投放回報。

相比以前的小模型算法，騰訊廣告精排大模型已累計給廣告主帶來15%的GMV提升。

當前精排大模型的效果提升還只是一個開始，大模型平臺系統和模型算法會持續升級，與此同時，大模型能力也會逐步向召回、粗排等其他環節輻射，不斷抬高效果的天花板，為用戶和廣告主提供更佳的廣告體驗。

在實現高效廣告匹配的同時，騰訊廣告也是隱私保護的技術探索者和實踐者。

早在2019年，騰訊廣告便獲得ISO/IEC27001和ISO/IEC 29151兩項國際認證，在信息安全和隱私保護能力與國際主流標準全面接軌。此外，騰訊廣告也在聯邦學習等隱私計算技術持續深耕，助力廣告程序化交易聯合建模，在保障雙方的數據安全前提下實現合作。

三、太極機器學習平臺：支持TB級大模型訓練推理

騰訊廣告平臺需要為億級的用戶、海量並不停增加的廣告內容提供服務。

大模型 高訪問壓力，對廣告平臺的承載能力和計算能力都提出了很高的要求。騰訊廣告精排大模型的要求尤其苛刻，不僅模型大小是業界頂級，還需在用戶等待頁面加載的極短時間內就完成廣告匹配。

為了滿足這些規模和性能要求，騰訊專門自研搭建了太極機器學習平臺，可支持10TB級模型訓練、TB級模型推理和分鐘級模型發布上線，擴展集群規模則可支持更大的模型訓練和推理，為實際業務提供大模型的情況下，同時具有很高的性能，達到行業領先水平。

太極機器學習平臺採用了分布式參數伺服器架構，這是業界第一梯隊企業們公認的最佳選擇。

這種架構的特點是，存儲模型參數和執行模型計算，這兩種任務在分別的伺服器上運行，增加更多伺服器就能支持更大、計算需求更高的模型。

太極機器學習平臺中的參數伺服器系統AngelPS也是騰訊自研的成果，該系統不僅能承載10TB級模型的訓練，對多維特徵融合、複雜模型結構等更高級、更前瞻性的功能也有優秀支持。

同時，太極機器學習平臺還具備超大模型在線推理服務的能力。

推理計算方面，它既支持常規的CPU計算，也支持複雜模型的GPU計算加速；存儲上，根據在線推理模型大小，自適應選擇小模型本地內存加載和大模型AngelPS遠程查詢的部署策略；在線服務運營上，平臺具備多級容災能力，髒模型秒級回滾能力，以及完備的系統和業務運行實時指標監控和報警系統。

目前，千億參數、TB規模訓練，百GB規模預測的騰訊廣告精排大模型能短時間內在太極上完成計算、提供可靠的廣告匹配結果。

不僅如此，為了提供周全的可靠性、緊跟潮流的匹配能力，上百GB規模的騰訊廣告精排大模型需要有多個副本同時運行，每天還需根據當天的真實用戶行為持續學習，這些都依賴太極機器平臺強大的承載能力和周全的功能。

太極機器學習平臺有突出的模型訓練硬體加速能力。以混元AI大模型的訓練為例，太極的加速方案高於業界其他方案3.7倍，有效提升了模型的訓練效率。

為了讓開發者易學、易用，太極機器學習平臺也提供了對常見的TensorFlow模型和API的支持，同時還提供了多種改進，降低TensorFlow中複雜的性能優化、內存管理帶來的困擾。

如果將太極機器學習平臺比作一條多車道的高速公路，大模型就像許許多多的重型卡車，可以在高速公路上高速行駛；相比之下，較落後的技術平臺就像是鄉間的泥濘小道，只通行一輛小車也顛簸、緩慢。

當前具備領先地位的太極機器學習平臺，有助於提供更好的基建體系，助力大模型們高速運行。

結語：落地廣告推薦，打贏大模型關鍵一仗

在騰訊太極機器學習平臺之上，混元AI大模型和騰訊廣告精排大模型共同完善優化了廣告理解、用戶理解、廣告和用戶匹配的整個流程，提升了對廣告的理解、廣告和人群的匹配效率，以及廣告主的推薦精準度和轉化效率。

在「降本增效」的目標指引下，關注並提升GMV 的騰訊廣告平臺技術已打贏大模型落地的關一仗。接下來，騰訊廣告計劃不斷基於此優化模型，幫助廣告主達成更高GMV。