美团外卖广告智能算力实践

列表广告营销广告搜索广告创新广告列表广告营销广告搜索广告创新广告展示广展示广告发LBs广告物料传输广发LBs广告物料传输广告检索链路排排排在线在线预估预估排序算力情况介绍资源紧张预估排序资源使用情况机机器数量总机器1w+年年增长率50%算力和场景的关系增加算力增加算力务场景信息获取(如:推广搜)业务性质:从海量候选集选择非信息获取(如:交易类)业务性质:执行确定性结果动作得到更好的结果响广告业务性质召回召回算力增加候选队列越长广告收入越大流量力的核心思想流量空闲资源利用空闲资源利用间维度差差异化算力支持流量价值维度系统容量黄色区域为算力冗余高价值流量次高价值流量次低价值流量低价值流量系统算力无系统算力无差别高价值流量次高价值流量次低价值流量低价值流量有差别有差别系统算力方案1方案1方案2方案3方案4方案4+回动作+收入不变,机器资源降低机器资源不变,收入提升取收益最大max(收入.算力支出)●整体思想●方案设计态性值流量召回粗排精排可选策略A可选策略B动态候选集集态性值流量召回粗排精排可选策略A可选策略B动态候选集集短候选集容量思想:提高在广告检索过程中的算力分配效率,实现单位算力下收益最大化估估技术解读-挑战分析挑战点挑战点智能算力的目标:是在系统算力容量约束下,问题求解实现业务收益最大化,具体如何去做?从固定算力分配到智能算力分配,系统稳定性保障不系统稳定性保障更需要保证系统全链路的平稳运行通用性&扩展性兼顾基础能力的复用和个性化能力的扩展,通用性&扩展性支持多个业务场景的友好接入解法解法流量价值预估•参考已有方案,问题拆解3个子问题:流量算力预估算力分配•并针对外卖广告场景进行探索和改进•降级熔断、监控报警等常规保障手段•系统状态的实时调控功能•核心组件以sDK形式提供可复用可扩展能力•基于通用的价值评估指标、算力评估指标和弹性算力框架,支撑不同业务场景和多弹性动作的组合决策技术解读-方案设计态上报 l 决策组件障采集组件调控组件采集组态上报 l 决策组件障采集组件调控组件采集组件Flink流(处理)调控组件(PID控制器)决策组件集系统稳定性保障征层最优档位决策预估预估●●●粗排粗排精排机制方案设计-最优档位决策子问题拆解:•入求解:离线仿真•子问题拆解:•入求解:离线仿真•valuei,j，costi,j:模型预估•最大算力C计算:统计模型业务目标业务目标:通过差异化不同价值流量的算力分配,在整体算力不增加的条件下,最大化整体收益数学建模:j*i:请求j*i:请求i的最入算力与价值的置3换比优优档位argargi,jj局部决策(请求粒度)表述:对任意请求i,已知置换比入及其在不同档位下的算力和价值时,即可进行最优算力分配------优化目标:最大化价值xxxi,jvaluei,j------优化目标:最大化价值i,j------约束条件:算力不增------约束条件:档位范围s.t.xxi,jcosti,j三------约束条件:算力不增------约束条件:档位范围i,jxi,j={0,1}全局决策表述:总体算力约束下,最大化收益拉格朗日求解•档位j:如队列长度•valuei,j:流量i在档位j下的价值(如cpm)•costi,j:流量i在档位j下的算力(流量资源消耗)•C:最大算力消耗(时间片内资源消耗)在线档位决策果算力预估价在线档位决策果算力预估价值预估入(流量回放)特征抽取/处理特征原始价值预估档位价值预估Valueij请求i特征筛选/分桶分桶-价值模型训练用户侧特征 统计模型上下特征抽取/处理特征原始价值预估档位价值预估Valueij请求i特征筛选/分桶分桶-价值模型训练用户侧特征 统计模型上下文特征 XGB模型训练数据动作档位特征整体框架 价值词表粗排模型粗排打分 在线插值请求i在所有档位下的价值分桶价值存储(KV)价值评估指标:平台收入+商家收入被截断的广告队列,广告打分和为Sa=截断后的广告队列,广告打分和为Sb=∑1三i三j-1si广告n广告j广告3广告2广告1档位价值预估假设广告队列价值为原始流量价值为V0,则截断后价值为V=V0ü(平台收入+商家收入)●离线阶段:数据的稀疏性ü原始价值预估:价值词表+在线插值ü档位价值预估:粗排打分计算价值衰减方案设计-决策框架-流量算力预估向题1:算力评估指标是什么?通用性强精确度高通用性不好精确度低外卖方案业内方案外卖方案CPU时间适用于弹性模型/弹性链路中向题2:如何建模?队列越长,数据越稀疏队列长度分段线性拟合Ø契合业务:体现拆包造成的算力突变情况Ø解决稀疏问题:从短队列泛化到长队列1.业务特色:算力与队列长度非简单线性关系,队列存在拆包情况2.外卖场景中,不同sIot流量可能走不同ctr模型(如sIot=12为闪购流量)方案设计-决策框架-流量算力预估统计结果越长,数据越稀疏统计结果统计结果分段拟合结果目标:通过离线流量仿真,求解系统稳定且收益最大的入*可以证明:收益和算力随入单调递减输入二分查找*最优入输出离线离线流量选择候选入计当前算力消耗每个请求位2方案设计-决策框架-在线决策:预估流量价值入求解:离线求解,在线使用根据档位执行算力分配动作:•当maxj(VaIueij-入Costij)20,即最大档位对应的收益大于等于0时,选择使得收益最大的档位•当maxj(VaIueij-入Costij)<0,即最大档位对应的收益小于0时,将请求分配给简单模型2方案设计-系统稳定性保障措施流量准入:提供分广告位、城市、时段等不同流量准入规则,控制弹性算力作用的流量范围熔断降级:实时监控弹性算力的异常,达到配置的异常阈值后,弹性算力会自动熔断降级,走兜底算力分配超时控制:为保障主流程整体链路耗时不增长,弹性算力决策是一个异步的过程,超时后走兜底的算力分配去噪/平滑Flink流处理解析/聚合采集组件机器列表引擎服务1…决策组件(sDK)广告投放去噪/平滑Flink流处理解析/聚合采集组件机器列表引擎服务1…决策组件(sDK)广告投放机器列表引擎服务N决策组件(sDK)轮询ZK基于系统状态的PID实时调控•调控的目标:tp999时间,超时率•调控策略:弹性队列长度•调控过程ü系统状态上报:投放引擎服务通过监控系统,实时反馈系统当前状态ü采集组件:基于FIink流处理框架,实时解析聚合系统状态数据,并进行去噪和平滑处理ü调控组件:基于PID算法,根据选择的多个调控目标,实时调控系统算力,将调控结果反馈到引擎服务的决策组件,形成调控闭环。系统状态上报 (Tp999/FailRate/CpuUti实时调控调实时调控PIDPID调控器多目标多目标午高峰午午高峰午高峰收益来源分析:机器持平,提收益:•流量高峰期,保证系统稳定的同时提升收益(渠道上的资源转移)•非流量高峰期,将空闲资源转化为收益(空闲资源利用)收益持平,降机器:•减小午高峰和晚高峰算力,利用空闲时间资源填平收益(时间上的资源转移)•午高峰和晚高峰期间,保证算力较低的同时,最大化收益(渠道上的资源转移)•全天算力持平:广告收入+1.98%,ROI-1