總獎(jiǎng)金80萬元AI大賽baseline技術(shù)分享 | 人工智能助力營銷決策優(yōu)化

關(guān)于大賽

本文分享賽題來自“中國石化第一屆人工智能創(chuàng)新大賽”，大賽由中國石油化工集團(tuán)有限公司主辦，聚焦能源化工產(chǎn)業(yè)。賽題覆蓋了產(chǎn)業(yè)鏈上中下游的不同任務(wù)，包括勘探開發(fā)、煉化生產(chǎn)、油品銷售、智能營銷和智能金融等關(guān)鍵支撐環(huán)節(jié)。

目前大賽全部10道賽題均已上線，開放數(shù)據(jù)集下載、提交評(píng)測(cè)，來自全國頂級(jí)高校、科研院所以及人工智能領(lǐng)域研發(fā)企業(yè)的學(xué)者、研究人員、技術(shù)開發(fā)者將共同參與賽事角逐，集智創(chuàng)新。

本次大賽設(shè)置了豐厚的大賽獎(jiǎng)勵(lì)，總獎(jiǎng)金80萬元人民幣，其中每個(gè)賽道獎(jiǎng)金8萬元人民幣，分設(shè)一等獎(jiǎng)、二等獎(jiǎng)、三等獎(jiǎng)。此外，獲獎(jiǎng)團(tuán)隊(duì)還將獲得組委會(huì)頒發(fā)的榮譽(yù)證書，有機(jī)會(huì)獲得名企實(shí)習(xí)機(jī)會(huì)，作品孵化機(jī)會(huì)等，針對(duì)應(yīng)用潛力大的優(yōu)秀項(xiàng)目團(tuán)隊(duì)有機(jī)會(huì)獲得額外激勵(lì)。

大賽官網(wǎng)：https://aicup.sinopec.com/?source=bl05

賽題Baseline分享

Baseline代碼下載：https://pan.baidu.com/s/1GYcrdGEE3H1cBgmtawgW7g?pwd=smv3

本次分享內(nèi)容將圍繞賽題介紹與數(shù)據(jù)解讀、基礎(chǔ)解決方案詳解、特征工程進(jìn)階策略，以及模型優(yōu)化與集成方法展開。本次分享除了會(huì)講到賽題本身的內(nèi)容及其解題思路外，我們也會(huì)提供更多適用于此類賽題的通用方法。希望通過這次學(xué)習(xí)，大家可以掌握一些處理類似推薦系統(tǒng)或結(jié)構(gòu)化數(shù)據(jù)問題的方法和思路，通過一個(gè)比賽，學(xué)習(xí)到更多的知識(shí)點(diǎn)，并將其應(yīng)用到更廣泛的場(chǎng)景中。

1

賽題介紹與數(shù)據(jù)解讀

（1）行業(yè)痛點(diǎn)與業(yè)務(wù)背景

首先我們看一下行業(yè)的痛點(diǎn)和業(yè)務(wù)背景，例如傳統(tǒng)營銷的困境。如果我們不使用AI算法來給用戶推薦優(yōu)惠券，可能會(huì)圈定一部分人群進(jìn)行無差別投放。這樣做會(huì)涉及到很高的成本。更重要的是，這種無差別的推薦會(huì)導(dǎo)致一個(gè)問題：其實(shí)有相當(dāng)一部分用戶，他可能并不需要大額優(yōu)惠券，或者他對(duì)優(yōu)惠券的敏感度本身就不高。

大家可以想一下，我們平時(shí)在使用一些軟件時(shí)，有的同學(xué)可能根本不會(huì)去關(guān)注優(yōu)惠券，而有的同學(xué)則會(huì)專門去尋找優(yōu)惠券來使用，這就是用戶和用戶之間的差異。進(jìn)行無差別投放，會(huì)導(dǎo)致優(yōu)惠券的使用率非常低。另外，如果你頻繁地給一個(gè)對(duì)優(yōu)惠券不敏感的用戶進(jìn)行推薦，還可能會(huì)影響到他的用戶體驗(yàn)。

此外，還存在客戶價(jià)值差異的問題。通常，前20%的高價(jià)值客戶貢獻(xiàn)了絕大部分的收入。我們需要學(xué)習(xí)到并利用好這種差異。同時(shí)，在競(jìng)爭(zhēng)同質(zhì)化的背景下，價(jià)格戰(zhàn)導(dǎo)致利潤率持續(xù)下降，如何控制好優(yōu)惠券的成本就顯得尤為重要。無差別的投放，肯定會(huì)帶來成本的大幅上升。

而如果我們使用AI算法來解決這個(gè)問題，就可以實(shí)現(xiàn)精準(zhǔn)營銷，將優(yōu)惠券發(fā)給最有可能使用的用戶；實(shí)現(xiàn)成本優(yōu)化，減少無效營銷，提升投資回報(bào)率（ROI）；同時(shí)，通過個(gè)性化推薦，增強(qiáng)用戶的滿意度和忠誠度。這些都是我們?cè)谡鎸?shí)業(yè)務(wù)場(chǎng)景中，做營銷算法時(shí)需要關(guān)注的問題。

（2）數(shù)據(jù)解讀

數(shù)據(jù)部分比較關(guān)鍵，賽題主要給了三張表。

第一張是錢包交易表，這里面是用戶使用優(yōu)惠券的行為數(shù)據(jù)，可以反映出用戶的行為偏好。例如，有的用戶近期行為活躍，有的用戶則一直沒有行為，或者行為頻率在增長。通過這些數(shù)據(jù)，我們能夠刻畫出用戶對(duì)優(yōu)惠券的敏感度和行為偏好。

第二張是優(yōu)惠券發(fā)放表，這更多是平臺(tái)給用戶發(fā)放優(yōu)惠券的記錄。這就類似于在電商場(chǎng)景中，平臺(tái)希望向用戶展示他們可能感興趣的商品。平臺(tái)本身可能有一些算法，預(yù)測(cè)到你對(duì)某些優(yōu)惠券感興趣，才會(huì)進(jìn)行發(fā)放。我們做這類賽題，更多的是要去擬合平臺(tái)之前的這種規(guī)則。用戶所看到和使用的優(yōu)惠券，取決于平臺(tái)給他發(fā)放了哪些。這其中不會(huì)無中生有，如果你不給他投放某種優(yōu)惠券，他肯定也不會(huì)去使用。

第三張是優(yōu)惠券的使用表，記錄了優(yōu)惠券整體的使用情況和剩余情況，可以看作是一個(gè)大盤的整體變化。通過這張表，我們能夠了解到不同優(yōu)惠券的整體熱度是不一樣的，它們的價(jià)值和促銷力度也不同。這就像電商場(chǎng)景里的用戶數(shù)據(jù)、商品數(shù)據(jù)（類比于優(yōu)惠券信息）以及平臺(tái)投放數(shù)據(jù)。

這幾張表之間有一些關(guān)聯(lián)信息需要注意，例如錢包交易表和優(yōu)惠券發(fā)放表通過“會(huì)員編碼”關(guān)聯(lián)，而錢包交易表、優(yōu)惠券使用表和優(yōu)惠券發(fā)放表之間則通過“電子券編碼”進(jìn)行關(guān)聯(lián)。

（3）關(guān)鍵字段解讀

我們具體看一下關(guān)鍵字段的解讀。

錢包交易表的核心字段：

• 原價(jià)與實(shí)付價(jià)格：通過這兩個(gè)字段，我們可以構(gòu)建一些信息。例如，我們可以計(jì)算折扣的絕對(duì)金額（做差），或是折扣率（做比）。這兩者是有差異的。比例更能反映出折扣力度，而絕對(duì)金額可能會(huì)受到量綱的影響。舉一個(gè)常見的例子，購買保時(shí)捷的滿減券，可能給你減200元，看似額度很高，但和你原價(jià)比起來，優(yōu)惠力度其實(shí)非常微弱。所以，做差和做比可以反映出不同的實(shí)際含義。

• 積分使用情況：這個(gè)字段可以衡量用戶的忠誠度。經(jīng)常使用積分的用戶，平臺(tái)也可能會(huì)傾向于給他推薦更高質(zhì)量的優(yōu)惠券。

• 地域編碼：不同地域，比如大城市和小城市，用戶的消費(fèi)習(xí)慣和行為模式可能存在明顯差異。例如，大城市或繁華區(qū)域的用戶對(duì)優(yōu)惠券的敏感度可能沒有那么高，而有的區(qū)域則敏感度更高。這是一個(gè)比較關(guān)鍵的信息。當(dāng)我們想判斷一個(gè)特征是否有用時(shí)，可以看它與目標(biāo)（如轉(zhuǎn)化率）的關(guān)聯(lián)性。如果不同地域的優(yōu)惠券轉(zhuǎn)化率有明顯區(qū)分度，那么它就是一個(gè)很好的特征。我們尋找或構(gòu)建特征時(shí)，更多是關(guān)注它的區(qū)分度，也就是它和目標(biāo)的相關(guān)性。

優(yōu)惠券數(shù)據(jù)的核心字段：

• 優(yōu)惠券類型（現(xiàn)金券、滿減券、折扣券）：這類字段我們?nèi)绾螛?gòu)建特征呢？首先，類型本身帶有含義，比如現(xiàn)金券的使用率可能更高，但這需要通過具體的數(shù)據(jù)分析來驗(yàn)證。其次，除了統(tǒng)計(jì)大盤上不同類型的轉(zhuǎn)化率差異，我們還可以做交叉統(tǒng)計(jì)。例如，有的用戶可能對(duì)某類優(yōu)惠券更感興趣，或者不同地域的用戶對(duì)優(yōu)惠券類型的偏好也有差異。這種關(guān)聯(lián)可以幫助我們刻畫更細(xì)粒度的信息。

• 面額：?jiǎn)挝皇欠?，我們可以把它轉(zhuǎn)換成元。不過，如果我們使用的是像XGBoost或LightGBM這樣的樹模型，是否做單位轉(zhuǎn)化影響并不明顯，因?yàn)闃淠Ｐ捅旧韺?duì)數(shù)據(jù)的量綱不敏感。

• 滿減門檻：達(dá)到某個(gè)門檻才會(huì)滿減。這個(gè)特征本身，我們可以通過分桶或分箱來統(tǒng)計(jì)不同門檻下的使用率。通常高消費(fèi)人群對(duì)應(yīng)的券，門檻也可能更高。

• 有效期天數(shù)：這會(huì)影響使用的緊迫性。我們可以統(tǒng)計(jì)不同有效期天數(shù)對(duì)應(yīng)的轉(zhuǎn)化率，或者快到期的優(yōu)惠券與剛發(fā)放的優(yōu)惠券在轉(zhuǎn)化率上的差異。從用戶角度看，有的用戶可能總是在最后階段才會(huì)使用優(yōu)惠券。這就像你住在一個(gè)城市，總覺得知名景點(diǎn)什么時(shí)候都可以去，結(jié)果可能一直沒去過，反而是外地游客會(huì)很快逛完。因?yàn)槟阌X得太方便了，反而關(guān)注度沒有那么高。

我們需要結(jié)合客觀認(rèn)識(shí)、專家經(jīng)驗(yàn)以及數(shù)據(jù)統(tǒng)計(jì)分析來理解這些字段，并從中發(fā)現(xiàn)一些與我們常規(guī)理解不一致的“奇怪”信息，這些信息往往是幫助我們提升分?jǐn)?shù)的關(guān)鍵點(diǎn)。

（4）數(shù)據(jù)分析思路（EDA）

很多同學(xué)剛接觸這類比賽，可能在學(xué)校里更多學(xué)的是算法和模型原理，但在實(shí)際中，數(shù)據(jù)是至關(guān)重要的，它對(duì)最終結(jié)果影響非常大。在工作中，我們可能60-80%的時(shí)間都在處理和分析數(shù)據(jù)。

在做數(shù)據(jù)探索性分析（EDA）時(shí)，我們需要關(guān)注以下幾點(diǎn)：

• 數(shù)據(jù)大小和字段類型：不同類型的數(shù)據(jù)處理方法不同。

• 缺失值情況：數(shù)據(jù)是否有缺失？缺失的含義是什么？是沒有采集到，還是用戶本身就沒有這個(gè)信息？

• 特征冗余：特征之間是否存在冗余，比如身高同時(shí)有厘米和米兩個(gè)單位。當(dāng)特征數(shù)量非常多時(shí)（上千上萬個(gè)），可能需要通過相關(guān)性分析或其他特征選擇方法進(jìn)行篩選。

• 時(shí)間信息：我們的數(shù)據(jù)里有明確的時(shí)間信息。這時(shí)，構(gòu)建特征和建模時(shí)一定要避免數(shù)據(jù)穿越。也就是說，預(yù)測(cè)未來時(shí)，只能使用歷史數(shù)據(jù)來構(gòu)建特征。

• 標(biāo)簽分布情況：訓(xùn)練集和測(cè)試集的標(biāo)簽分布是否存在差異？這種差異是由于大盤的自然變化，還是因?yàn)槟慵尤氲哪承┨卣鲗?dǎo)致的？如果分布差異很大，可能會(huì)導(dǎo)致線下表現(xiàn)很好，但線上效果很差。

• 單變量和多變量分布：通過觀察分布，我們可以驗(yàn)證它是否和我們的業(yè)務(wù)理解一致。如果不一致，就需要去尋找背后的原因。當(dāng)特征工程達(dá)到瓶頸時(shí)，可能就是數(shù)據(jù)本身存在一些問題，需要我們做更深入的分析。

（5）數(shù)據(jù)質(zhì)量注意事項(xiàng)

缺失數(shù)據(jù)：比如優(yōu)惠券編碼為空，可能表示未使用優(yōu)惠券。

異常值：比如消費(fèi)金額在10-1000元是合理范圍，如果出現(xiàn)特別大的金額，我們需要判斷是偶然出現(xiàn)還是頻率較高，并決定是過濾掉還是保留。

時(shí)間格式：需要進(jìn)行處理，比如將時(shí)間戳轉(zhuǎn)換為年、月、日、小時(shí)、星期幾等。不同時(shí)間段（如節(jié)假日）的優(yōu)惠券使用情況可能存在明顯差異。

從業(yè)務(wù)角度看，理解用戶旅程（優(yōu)惠券發(fā)放 -> 用戶接收 -> 消費(fèi) -> 核銷 -> 再次營銷）有助于我們更好地構(gòu)建特征。同時(shí)，也要洞察一些關(guān)鍵業(yè)務(wù)問題，比如優(yōu)惠券競(jìng)爭(zhēng)（用戶同時(shí)擁有多張券時(shí)的選擇偏好）、時(shí)間效應(yīng)（發(fā)放后多久使用率最高）、面額敏感度和類型偏好等。這些都可以通過統(tǒng)計(jì)分析來構(gòu)建特征。

2

基礎(chǔ)解決方案

（1）解決比賽的通用流程

問題建模：理解這是什么問題，預(yù)測(cè)目標(biāo)是什么。

數(shù)據(jù)分析：對(duì)數(shù)據(jù)進(jìn)行探索和清洗。剛開始不需要花費(fèi)太多時(shí)間，簡(jiǎn)單處理一下明顯的臟數(shù)據(jù)即可。

特征工程：將業(yè)務(wù)洞察和數(shù)據(jù)分析轉(zhuǎn)化為特征。

模型訓(xùn)練：對(duì)于結(jié)構(gòu)化數(shù)據(jù)，選擇經(jīng)典的樹模型（如XGBoost, LightGBM）通常是很好的起點(diǎn)，它們穩(wěn)定且能快速出結(jié)果。

模型驗(yàn)證：構(gòu)建一個(gè)穩(wěn)定可靠的線下驗(yàn)證策略至關(guān)重要，因?yàn)榫€上提交次數(shù)有限。對(duì)于帶時(shí)間信息的數(shù)據(jù)，要嚴(yán)格劃分訓(xùn)練集和測(cè)試集（用歷史預(yù)測(cè)未來），避免數(shù)據(jù)穿越。要信任你的離線驗(yàn)證結(jié)果，尤其是在數(shù)據(jù)波動(dòng)較大時(shí)，不能完全依賴線上榜單。

模型預(yù)測(cè)與提交：最后進(jìn)行預(yù)測(cè)，并確保提交格式與要求一致。

前期，我們不需要在數(shù)據(jù)分析和特征工程上花費(fèi)過多時(shí)間，目標(biāo)是快速得到一個(gè)基線結(jié)果，并獲得線上反饋，這樣才好把握后續(xù)的優(yōu)化方向。

（2）基礎(chǔ)特征構(gòu)建

我們可以快速構(gòu)建一些基礎(chǔ)特征：

用戶消費(fèi)能力：如平均消費(fèi)金額、最大/最小消費(fèi)金額、消費(fèi)金額的標(biāo)準(zhǔn)差（反映穩(wěn)定性）。

• 用戶消費(fèi)頻率：如總交易次數(shù)（反映活躍度）。

• 優(yōu)惠券使用情況：

• 優(yōu)惠券使用次數(shù)：反映用戶對(duì)優(yōu)惠券的接受度。

• 優(yōu)惠券接收次數(shù)：反映營銷接觸的頻率。

• 接收的平均優(yōu)惠券面額：反映用戶的消費(fèi)習(xí)慣。

這三張表刻畫的信息是不同的：用戶交易信息反映其行為習(xí)慣，優(yōu)惠券使用情況反映大盤變化，而優(yōu)惠券本身的信息（類型、面額、門檻）則反映優(yōu)惠券的質(zhì)量。

3

特征工程進(jìn)階策略

（1）特征處理通用方法

我們可以將特征分為類別型和數(shù)值型。

對(duì)于類別型特征，我們通常需要進(jìn)行編碼。例如，自然數(shù)編碼（Label Encoding）、獨(dú)熱編碼（One-Hot Encoding）。此外，還有計(jì)數(shù)統(tǒng)計(jì)（Count Encoding），比如統(tǒng)計(jì)用戶對(duì)某種類型優(yōu)惠券的使用次數(shù)。我們也可以使用排名來降低異常值的影響。最關(guān)鍵的一種是目標(biāo)編碼（Target Encoding），它直接統(tǒng)計(jì)該類別特征與目標(biāo)（如是否使用）的關(guān)系，但統(tǒng)計(jì)時(shí)一定要使用歷史數(shù)據(jù)，避免穿越。

對(duì)于數(shù)值型特征，可以進(jìn)行分桶（Binning）或特征交叉（加減乘除），但這需要結(jié)合業(yè)務(wù)理解。

（2）時(shí)間序列特征

由于數(shù)據(jù)中包含時(shí)間信息，我們可以構(gòu)建時(shí)序特征：

歷史平移（Lag Features）：將歷史時(shí)刻的數(shù)據(jù)平移到當(dāng)前，以反映變化。

滑窗統(tǒng)計(jì)：在不同大小的時(shí)間窗口內(nèi)（如最近3天、7天、30天），統(tǒng)計(jì)用戶的行為指標(biāo)（如均值、最大值、最小值、次數(shù)等），以反映其近期和長期的行為習(xí)慣。

（3）高級(jí)特征思路

• 時(shí)間特征：消費(fèi)時(shí)間段偏好、星期幾、是否周末等周期性特征。

• 行為序列思路：用戶的興趣和消費(fèi)能力會(huì)隨時(shí)間變化，可以將用戶的行為看作一個(gè)序列，提取序列特征。復(fù)雜的方法可以用Word2Vec對(duì)ID進(jìn)行嵌入，或者使用LSTM、Transformer等序列模型。

• 交叉特征：將多個(gè)字段組合，形成更細(xì)粒度的特征。

• 匹配度特征：計(jì)算用戶與優(yōu)惠券之間的匹配度。例如：

• 價(jià)值匹配度：用戶平均消費(fèi)能力與券面額的匹配程度。

• 條件匹配度：用戶平均消費(fèi)金額與滿減門檻的達(dá)成可能性。

• 類型匹配度：用戶歷史偏好類型與當(dāng)前券類型的匹配度。

• 地理空間思路：基于地理位置構(gòu)建特征，如常去加油站距離、跨區(qū)域消費(fèi)模式等。

• 特征衰減：結(jié)合序列信息，給離當(dāng)前時(shí)間點(diǎn)越近的行為越高的權(quán)重。

4

模型優(yōu)化與集成方法

（1）模型選擇

對(duì)于結(jié)構(gòu)化數(shù)據(jù)競(jìng)賽，樹模型（如XGBoost, LightGBM）通常是首選。它們的優(yōu)勢(shì)非常明顯：性能穩(wěn)定，對(duì)異常值和缺失值不敏感，處理類別特征也很友好。雖然深度學(xué)習(xí)模型可能上限更高，但這通常需要非常大的數(shù)據(jù)量。一般作為基線或最終方案，樹模型都是很好的選擇。

（2）交叉驗(yàn)證

我們常用5折或10折交叉驗(yàn)證，這既能讓模型更穩(wěn)定，也起到了一定的融合作用。但需要注意，由于存在時(shí)間信息，隨機(jī)K折劃分可能會(huì)導(dǎo)致數(shù)據(jù)穿越。因此，嚴(yán)格按時(shí)間劃分（用歷史數(shù)據(jù)做訓(xùn)練，用未來數(shù)據(jù)做驗(yàn)證）是更穩(wěn)妥的策略。關(guān)鍵是找到一個(gè)線下和線上效果同增同減的驗(yàn)證方案。

（3）特征選擇

當(dāng)構(gòu)建了大量特征后，需要進(jìn)行篩選，過濾掉冗余或無效的特征，有時(shí)這能幫助提高模型性能。

• 過濾法（Filter）：基于特征與標(biāo)簽的相關(guān)性（如相關(guān)系數(shù)、卡方檢驗(yàn)）直接篩選。

• 封裝法（Wrapper）：通過前向或后向搜索，不斷增減特征，評(píng)估模型效果來選擇特征子集。

• 嵌入法（Embedded）：利用模型自身的重要性評(píng)估（如樹模型的信息增益或分裂次數(shù)）來進(jìn)行選擇。

（4）模型集成（Ensembling）

要想在競(jìng)賽中取得頂尖成績(jī)，模型集成是必不可少的。模型融合的關(guān)鍵在于構(gòu)建有差異性的結(jié)果。所謂差異性，是指不同模型的結(jié)果之間存在互補(bǔ)性。我們可以從以下幾個(gè)方面構(gòu)建差異性：

• 特征差異性：使用不同的特征組訓(xùn)練不同的模型。

• 樣本差異性：有的模型使用全量數(shù)據(jù)訓(xùn)練，有的模型則針對(duì)特定客群進(jìn)行訓(xùn)練。

• 模型差異性：使用不同的樹模型、深度學(xué)習(xí)模型，或者在同一模型中使用不同的參數(shù)。

同時(shí)我們可以使用多種方法進(jìn)行模型融合：

• 平均法/加權(quán)平均法：這是最常用且有效的方法。直接對(duì)不同模型的預(yù)測(cè)概率進(jìn)行平均或根據(jù)線上/線下表現(xiàn)分配權(quán)重進(jìn)行加權(quán)平均。

• 堆疊法（Stacking）：當(dāng)簡(jiǎn)單平均效果不佳時(shí)，可以使用Stacking。將第一層模型的預(yù)測(cè)結(jié)果作為第二層模型的特征，進(jìn)行再次訓(xùn)練。

通過以上這些思路，我們就完成了從理解業(yè)務(wù)數(shù)據(jù)，到分析、構(gòu)建特征，再到模型選擇和融合的整個(gè)比賽流程。這些方法和技巧不僅適用于本次比賽，在很多結(jié)構(gòu)化數(shù)據(jù)競(jìng)賽中也都是通用的。