【清华大学】清华大学人工智能行业-机器语言大模型赋能软件自主可控与安全可信

机器语言大模型赋能软件自主可控与安全可信朱文宇清华大学中国电机工程学会中国电机工程学会n中国电机工程学会n背景…关键问题智能化方案…典型应用总结…中国电机工程学会中国电机工程学会安全可信安全可信互联网)各种通信技术)各种通信技术01背景-需求1:软件生态面临自主可控难题关键软件长期由国外主导面临断供、安全、知识产权风险移动端操作系统分布情况工业信息管理软件工业信息管理软件工业控制软件中国电机工程学会挑战：关键软件闭源，供应链风险高，自主可控难度大中国电机工程学会中国电机工程学会01背景-需求2:软件生态面临安全可信难题中国电机工程学会软件安全风险未知漏洞问题层出不穷落的物恶意代码急剧增长落的物情情作期作期成为网络攻击的重要突破口病毒病毒(伊朗核设施)iPhone越狱&安卓Rootn电网断电(乌克兰)WannaCry(勒索150+国家)电网断电(乌克兰)挑战：目标软件闭源，分析难度大，安全问题隐藏深中国电机工程学会背景关键问题…智能化方案…典型应用总结…6n02关键问题-软件开发与安全n猫位碳件设新应用领罐猫位碳件设新安全可信用友安全可信用友即作系统NARI疆ANARI疆软件分析理解软件分析理解软件分析理解软件设计开发发现安全问题软件测试部署防范安全问题软件测试部署防范安全问题关键问题是分析、理解目标(闭源)软件702关键挑战1:软件分析——二进制信息缺失#include<stdio.h>源代码#include<stdlib.h>voidanswer(char*naprintf("Hey8s,the}intx=40+机器码中间表示IR汇编码汇编码符号、类型、边界等信息逐步优化/丢弃9n02关键挑战1:软件分析——二进制信息缺失n中间表示IR中间表示IR告4=calli64名5=addi6483,17=call#include<sLdlib.h>printf("Hey8s,theansweris:8d\n",name,x);}returny*y; }}反编译反编译反汇编反汇编无中生有，恢复缺失的信息无中生有，恢复缺失的信息printf("Hey8s,the}returny*y;}intint}代码功能分析：内存分配、加密解密?敏感数据如何流动?严重依赖人工经验代码软件②语义分析能分析安全分析链性能优化逆向漏洞③中国电机工程学会信息缺失人在回路信息缺失人在回路应用领域软件分析软件理解软件分析软件理解中间件功能开发中间件功能开发泛磁改运互联泛磁改运互联中国电机工程学会背景……中国电机工程学会中国电机工程学会信息缺失人在信息缺失人在应用领域软件分析软件理解软件分析软件理解◎A中A中#其出是NARISIEMENSNARISIEMENSA部晶连连改运互联信息自信息自动补偿。中国电机工程学会i03现有大语言模型难以分析二进制程序(闭源软件)中国电机工程学会i自然语言源代码二进制程序(机器语言)需求意图设计实现x编译部署运行程序执行(机器语言)(时刻1)(时刻N)中国电机工程学会03方案简介：大语言模型中国电机工程学会(自注意力机制)(自注意力机制)少量算力(8张4090卡)十万算力适量算力(10+英伟达卡*天)百万算力(1000+英伟达卡*天)亿元算力提示词提示词工程推理Nx知识增强NxN(厂商)N(按需)适量标注数据(按需)适量标注数据模型优化模型优化专业数据自动生成(源代码、二进制、文本、二进制标注数据)··大规模机器语言-自然语言-源代码多模态对齐数据开数据<100GB·自研机器语言模型训练方法·完善的机器语言模型基础设施技术注、对齐·优化模型设计，深刻理解机器语言，对齐人类专家IEEEIEEES&P多个关键技术零的突破多个关键技术零的突破03关键技术1:融合领域知识的模型优化修改模型设计，融入代码领域知识(指令语义、跳转关系等)jsrsp,20h25:jmpJUMP_14jmp03关键技术2:基于对比学习的语义理解r中国电机工程学会03关键技术3:基于多模态学习的语义理解中国电机工程学会利用多模态技术，将语义空间与人类意图对齐，更准确地表示二进制代码语义03我们的解决方案：机器语言大模型MLM多平台多架构xB6xB6ARMMIPSAMDAIEM性能优化供应链性能优化供应链分析功能漏洞攻防软件功能漏洞攻防软件迁移工具生成分析版权保护语义搜索语义摘要语义搜索语义摘要功能分类类型输入格式函数命名语义语义比较边界边界关系汇编控制控制流图调用图译中国电机工程学会背景.….智能化方案典型应用………软件逆向分析目标软件反编译生成C代码突破卡脖子技术软件一致性检测可执行程序源代码解决采购痛点AA生态软件(无源码)B生态软件信创国产化、老旧软件升级迁移漏洞挖掘目标软件目标软件漏洞大模型赋能0day、1day漏洞挖掘目标软件软件成分细粒度、高速、语义对齐的二进制代码比对软件A侵权?中国电机工程学会s04Demo-颠覆工作模式的智能逆向分析中国电机工程学会s·将黑盒二进制程序变成白盒代码专家一样理解二进制程序语义·将专家从繁琐的底层代码分析中解放出来，专注高层分析任务中国电机工程学会S背景…关键问题…智能化方案典型应用…05软件自主可控、安全可信解决方案：大语言模型salesforce辉辉信息人在软件分析软件理解电子半导体软件分析软件理解生产制造生产制造石油石化石油石化宝信软件中国电机工程学会中国电机工程学会力水滤信息自信息自图对齐内容自动生成机器语言大模型MLM(全球首个)功能安全分析、性能优化、功能拓展功能性能优化漏洞攻防保护性能优化漏洞攻防保护软件迁移分析工具生成多平台语义分析语义搜索功能分类语义语义搜索功能分类语义比较函数命名类型输入格式语义摘要多架构x86ARMMIPSx86ARMMIPSn结构分析函数调用图汇编译函数结构分析函数调用