深度学习在高能物理计算中的应用

深度学习在高能物理计算中的应用大纲背景介绍应用实例技术挑战总结2017-4-232高能物理的研究目标宇宙的起源力的统一理论超出标准模型的新物理2017-4-233LHAASO

高能物理计算:大海捞针以发现了Higgs粒子的大型强子对撞机实验(LHC)为例2017-4-2345.000.000Gbdata2.000.000.000.000collisionsHiggsin1on10.000.000.000collisions数据处理和物理分析2017-4-2351.在线数据获取数据采集读出探测器的电荷和时间信号事例判选每次粒子碰撞为一个统计相互独立的事例大部分事例为本底事例，被触发器丢弃实时性，低延时、高吞吐率2017-4-236数据重建从原始数据中找出可以分析的物理对象及其属性的过程寻迹：把同一个粒子在探测器上留下的信号连成一个运动轨迹径迹拟合：根据运动轨迹估计粒子的动量Jet分类、粒子鉴别等2017-4-237刻度和校准数据重建依赖于着火点位置的精确测量精度越高，重建的效果越好，系统误差越小探测器组件相对于单个着火点读出的分辨率来说存在误差量能器不同单元对相同的能量沉积有不同的响应输出例子：通过实际的质子对撞结果来校准探测器组件的位置2017-4-238CMS探测器高15米，长22米，12.5吨数据模拟基于”已知”物理理论模拟粒子在介质中的传输过程粒子衰变，光电效应，康普顿散射，粒子对产生粒子输运过程中的能量损失，韧致辐射，强子相互作用模拟想要发现的“新物理”现象在具体的探测器上的响应，和实际结果比较实验装置设计，软件算法的验证，误差分析2017-4-239离线数据分析从统计角度说是“假设检验”“参数估计”reduction:挑选信号，计算保存的感兴趣的信息interactiveanalysis：画图，等statisticalanalysis:拟合，得到物理信息，给出误差2017-4-2310深度学习模拟人脑的组织结构的计算网络,核心思想在上世纪80年代就已经出现2012年开始复苏，更深的网络，更多的参数和更复杂的网络结构上百个包含非线性计算单元隐藏层，千万/亿个训练参数得益于近年来计算机处理能力的进步和大数据2017-4-2311机器学习/深度学习/人工智能机器学习是一种从数据中归纳出解决问题方法和规律的计算方法。传统机器学习算法预测结果依赖于输入特征的合理性。深度学习是机器学习的一种方法，它从大量数据中学习数据的有效表示特征。针对一些复杂的计算问题，深度学习的预测性能普遍胜于其它机器学习算法。图片分类、物体检测、语音识别、机器翻译、自动驾驶等2015年在有限类别的图片分类问题上超过了人类的平均水平2016年基于深度学习算法的AlphaGO机器人4:1战胜了围棋世界冠军李世乭深度学习是有可能实现人工智能的途径之一。2017-4-2312深度学习的在高能物理计算中应用场景在线数据获取（实时，FPGA/ASIC）事例触发

图片分类重建

物体检测，图片分类探测器运行状态和数据质量的监控

异常检测离线数据处理重建（生成某种对象：Jet，track,

粒子鉴别）

物体检测，图片分类，快速模拟

生成模型，GAN事例选择（Higgs，新物理发现）分类，异常检测2017-4-2313大纲背景介绍应用实例技术挑战总结2017-4-2314希格斯玻色子的检测[1,2,3,4]标准模拟工具生成11M模拟数据集

两分类监督学习问题28个特征21个低级别特征（粒子的动力学特征）7个高级别特征（其它分类算法使用的特征，人工合成）网络结构：FeedForward2017-4-2315DeepnetworkimprovesAUCby8%#信号：#本底=1:1Jet味道和子结构分类[6,7]区分由重味夸克(物理学家关心的内容)和轻味夸克（背景）产生的Jet输入特征：都是物理重建以后的特征Track(最原始)->Vertix(中间)->人工特征(最精简)变长输入网络结构：FeedForward,LSTM,OuterRNNJet子结构分类区分单个Jet和多个重叠的Jet计算机视觉的方法2017-4-2316Jet

图像和Jet分类[8]将量能器上的信号沉积当成图片像素，使用计算机视觉的方法做分类2017-4-2317Nova实验的事例选择[9]Nova是一个研究中微子振荡参数的实验，通过在距离800千米的两个探测器中不同中微子事例的探测和统计，可以精确测量中微子的振荡参数。传统的方法：根据探测器信号重建出径迹长度,dE/dX

等高层特征用KNN，NN,BDT等分类方法进行分类不同的中微子事例在Nova的远端探测器上表现出不同的拓扑学特征2017-4-2318Nova实验的事例选择卷积神经网络探测器的X-Z和Y-Z视图分别看做一副图像每个探测器信号通道看做一个像素简化的GoogleNetVeCC事例的分类效率较传统方法提高了30%2017-4-2319JUNO实验宇宙线Muon的重建TheJiangmenUndergroundNeutrinoObservatory，2020年开始取数多目标反应堆中微子实验测量中微子的质量顺序精确测量中微子的振荡参数半径17.7m的球面密布~18000个20英寸光电倍增管

(PMT,PhotomultiplierTube)中微子事例率：60个/天宇宙线Muon与探测器液闪发生反应产生的Li9,He8是本底的主要来源拒绝(Veto)Muon穿过的前后时间窗口内所有事例？效率太低Muon事例率3HZ沿Moun径迹拒绝一定时间窗口和探测器体积内的信号，需要精确重建出Muon的径迹参数入射点坐标，入射角度2017-4-2320JUNO实验宇宙线Muon的重建传统的重建方法已知每个PMT测量到的最早点亮时间Tiabs假设已知径迹的入射角度和位置,通过光学模型可以计算出每个PMT最早亮时间Tipre通过最小化求解径迹参数问题：很难对光子折射和反射、液闪延迟、PMT分辨率的影响建模，重建需要人工的修正2017-4-2321JUNO实验宇宙线Muon的重建(Inprogress)将所有PMT展开到一个2D的图片上，每个PMT对应一个像素，其余地方填零使用PMT的最早亮时间(T)和电荷量(Q)两个输入Channel训练数据集5K，测试数据集1K单机，NVIDIAK80,50K-80Ksteps收敛结果：入射角度平均误差0.5度，入射点位置误差8cm略好于传统方法改进方向：更大的数据集，更复杂的网络调整PMT在2D图像上的布局更复杂的数据2017-4-2322JUNO实验宇宙线Muon的重建(Inprogress)2017-4-2323大纲背景介绍应用实例技术挑战总结2017-4-2324LHC等实验的Tracking将O(105)个三维空间点连成O(103)条线O(103)粒子在O(10)个探测层上留下着火点探测层长度、形状不一粒子穿过时会相互发生作用、会衰变每个粒子的能量沉积在多个像素中多个粒子的路径有重叠背景track,噪音凯尔曼滤波可扩展性的问题？CEPC有类似的需求2017-4-2325LHC等实验的Tracking与工业界的tracking问题不太一样，没有可以重用的套路各种模型的playground同时找出多条径迹和径迹参数？类似于图片理解问题

SteveFarrell,HEP.TrkXproject:DNNsforHL-LHConlineandofflinetracking2017-4-2326分布式训练平台数据格式转换ROOTEvents->ImageTensors数据量大，计算灵活性，在线转换I/O性能优化与调度系统的结合多用户共享资源调度器感知训练超级参数设置训练异常检测和恢复训练过程可视化物理分析框架与外部深度学习框架的对接软硬件的性能评估最好的时代：开源！TensorFlow,Caffee,Torch,CNTK,PaddlePaddle…硬件性能评估：GPU,FPGA,ASIC加速？2017-4-2327Master作业分布式训练平台随着训练数据和模型复杂度的增加，训练平台单机多卡->多机多卡数据并行VS模型并行同步训练VS异步训练Tradeoff:通信开消VS计算过程的浪费，模型最后能否收敛参数同步的频率2017-4-2328其它结果可视化和可解释性可视化卷积核可视化最后一层学到的特征表示T-SNE可视化Activation/watch?v=AgkfIQ4IGaM系统误差的估计measurement=m±σ(stat)±σ(syst)2017-4-2329总结深度学习技术在高能物理领域的应用，包括粒子鉴别、事例分类、事例重建、异常检测等多个场景。分类应用最多，相比