【数据竞赛】学特征工程就看这篇，解析IJCAI18亚军方案之特征工程
共 2617字，需浏览 6分钟
·
2020-07-31 19:47
1 搜索竞赛特征工程总结
很多搜索推荐的工业界大模型的特征工程核心可以分为用户侧，商品侧还有一些其他侧(一些i2i,u2i等的上游特征)三大类。
本篇文章，不考虑所有时间等因素，直接调研和搜索相关的竞赛，并对其特征和模型训练技巧进行总结。
如果是count特征，我们的[XXX]就直接省略
2 单阶特征
2.1 User侧特征
2.1.1 User单阶特征:groupby(user)[XXX]
user + [time]: 相邻时间戳的最小/最大/均值/中位数(min/max/mean/median(time_diff)), 当前时间与最早一次/最近上一次时间的差值, 与最后一次/最近下一次时间的差值；
反映用户的活动频繁度
user + [query/item/...]：搜索不同query的次数,商品数,... nunique(query/item/shop/brand/city)
反映用户的兴趣是否宽泛
user + [istrade]: 用户连续未购买商品数,用户连续未购买次数; 用户购买的item数和未购买的商品/商店数,以及二者的比例.
用户的近期购买兴趣,仅仅是为了看商品，还是希望买商品
2.2 Item侧特征
2.2.1 Item/shop/brand...单阶特征:groupby(item)[XXX]
item/shop/brand + [buy]: 商品过去每天的曝光次数(count),被购买次数(buysum)
item/shop/brand + [time & buy]: 商品过去一段时间购买的趋势特征(后一天与前一天的购买比例/曝光比例);
item/shop/brand + [time & buy]: 商品第一次被购买的时间与商品第一次曝光的时间差;
item/shop/brand + [time & price/score...]: item近期商品属性的变化,例如price/星级/好评等.(mean,std,val-mean)
2.2.2 Item的内部组合特征
Item在shop/city/country/brand/query下的点击率/购买率排名;
shop在brand/city/country/query下的点击率/购买率排名;
brand在city/query下的点击率/购买率排名;
cate在city下的点击率/购买率排名;
3 组合特征
3.1 User+Query特征(二阶/高阶):groupby(user+query+other)[XXX]
同一个user在Query侧的特征(滑窗)
user + query, (之前/之后)有几次相同的值(count/ratio)，(之前/之后)有几次不相同的值(count/ratio)
此处的ratio为count再除以user+query的前后的count
user + query + item/shop/brand/city/context_page_id特征, (之前/之后)有几次相同的值(count/ratio)
user + query + item_category_list特征, (之前/之后)有几次相同的值(count/ratio)
user + query + [time]: 相同query最小/最大时间(min(time))
user + query + [item/shop]: 在该query之前/之后用户访问的item/shop数目
3.2 User + Item特征(二阶/高阶):groupby(user+item+other)[XXX]
user + item + [predict_category_property/query/...],(之前/之后)有几次不同的值(nunqiue)
user + shop + [predict_category_property/query/...],(之前/之后)有几次不同的值(nunqiue)
user + brand + [predict_category_property/query/...],(之前/之后)有几次不同的值(nunqiue)
user + city + [predict_category_property/query/...],(之前/之后)有几次不同的值(nunqiue)
user + item/: 用户在之前之后点击了多少价格更低的商品，销量更高的商品，评价数更多的店铺，好评率高的店铺，星级高的店铺，服务态度高的店铺，物流好的店铺，描述评分高的店铺
4 特征重要性
5 小结
从特征重要性看,除去一些基础特征和穿越特征(例如next diff等),Query相关的特征占比非常大；而且从答辩PPT看来,Query相关的特征也是帮助最大的一波,而这在大模型模块是可以重点参考的;
第二部分是rank相关的特征(某个item在某个品牌下的销量排名等)，该部分特征是方案中提升很大的另一部分;
6 参考文献
IJCAI-18亚军分享：https://tianchi.aliyun.com/forum/postDetail?postId=5311
IJCAI-18亚军特征重要性:https://github.com/YouChouNoBB/ijcai-18-top2-single-mole-solution/blob/master/file/fea_importance.csv
答辩PPT:https://tianchi.aliyun.com/forum/postDetail?spm=5176.12586969.1002.9.6d0a48c58rjez0&postId=5311
往期精彩回顾
获取一折本站知识星球优惠券，复制链接直接打开：
https://t.zsxq.com/yFQV7am
本站qq群1003271085。
加入微信群请扫码进群：