腾讯行业大模型及智能应用技术峰会会议纪要

⽬前⼤部分互联⽹⽤户对⼤模型还只是处于有所听闻的状态。⽬前市⾯上通⽤的⼤模型确实在聊天领域有惊艳的表现；同时许多企业管理者也在思考如何将⼤模型应⽤到⾃⼰的场景中，例如在客户和营销环节，为企业经营带来降本增效。但在具体场景中，通⽤⼤模型可能还不能满⾜企业的许多需求。借今天的机会，我想和⼤家分享⼀下，并从模型、数据、应⽤和模型:虽然⼤家对通⽤⼤语⾔模型的聊天机器⼈期待很⾼，但他并不是唯⼀的⼤模型服务⽅式，也不⼀定是满⾜⾏业场景需求的最优解。⽹络信息可能会存在错误、谣⾔与偏见，且许多专业知识和⾏业数据积累不⾜，导致模型的⾏业针对性与精准度不够；但在很多场景中，⽤户对于企业所提供的专业服务的要求很⾼，容错很低，企业⼀旦提供错误信息可能会引发巨⼤危机，因此企业所使⽤的⼤模型必须可控可追溯可修正，并且经过反复测试省时查报告小程序：专业、及时、全面的行研报告库才能上线。企业所需要的⼤模型是在实际的场景中真正解决了某个问题，⽽不是在100个场景中解决了80%的问题。此外，通⽤⼤模型训练成本⾼，正式公布腾讯云MaaS服务解决⽅案。基于TI平台，我们打造了⾏业精选模型商店，覆盖⾦融、⽂旅、⽣物、传媒、教育等⼗⼤⾏业提供超过50个解决⽅案。在这些模型的基础上，客户只需要加⼊⾃⼰独有的场景数据，就基于⽂旅⾏业的⼤模型，⽤以构造智能机器⼈客服，其可⾃动判断⽤户意https://chatgpt.zntjxt数据:数据是⼤模型的原材料，针对具体的场景，相关数据的覆盖与质量⾄关重要。标注数据的管理也是模型迭代中⾄关重要的⼀环。为此，我们也推出了基于腾讯云TI平台⾏业⼤模型精调解决⽅案，帮助模型开发者与算法⼯程师⼀站式解决数据处理问题；我们也可以通过TI平台以及模型私有化的部署、权限管控、数据加密等⽅式，让企业⽤户打造⼤模型、使⽤⼤模型临数据相关的各种复杂问题；为此我们重新构建了⼀套传媒专属的数据标签体系，同时也研发了创新的标签权重引擎，使得视频，使得视频编辑可省时查报告小程序：专业、及时、全面的行研报告库应用:腾讯⾃⾝的企业级应⽤已经率先应⽤了⾏业⼤模型，例如腾讯会议即将推出覆盖会议全流程的智能⼩助⼿，通过简单的指令协助⽤户进⾏⽇程安排等⼀系列操作，会后还可以智能总结会议纪要。新⼀代腾讯企点智能客服基于⾏业模型，结合客户业务需求进⾏训练与精调，客服机器⼈可以提供更精准和更详细的回答，甚⾄调⽤业务系统数据进⾏实时分析，⽽不需要业务⼈员去学习复杂软件、制作看板借助腾讯新⼀代AI代码助⼿，程序员也可以快速完成代码的补充纠错与解释，稍后会算力:⾼性能的算⼒需要借助⾮常专业的云服务，且对⽹络速度和稳定性要求⽐较⾼。加之GPU服务器⽐⼀般服务器的稳定性低⼀些，服务器的运维问题也会更频繁；例如在训练集群中，⼀旦⽹络有波动，训练的时间就会⼤⼤增加，⼤模型的开发成本也会变⾼；腾讯云所提供的稳定计算⾼速⽹络与专业的运维，可以为算法⼯程师⼤⼤减少设备运维的压⼒；腾讯也打造了⾯向模型训练的新⼀代HCC(highperformancecomputingcluster)⾼性能计算集群，搭载最新四代的GPU，整体性能相⽐过去提升三倍，获得很多客户了向量数据库，能够更⾼效地处理图像、⾳频还有⽂本等⾮结构化的数据，⽀持单索引引⼊10亿级规模数据，相⽐传统⽅案提升10倍;数据接⼊AI的效率也⽐传统⽅案提升了10倍。省时查报告小程序：专业、及时、全面的行研报告库我们希望为客户和伙伴打造⼀站式⼤模型精选商店。在⼤模型“智能涌现”当前企业构建⼤模型⾯临的四⼤挑战：1、计算资源少：对计算资源和存储资源有⾼需求，对很多客户来说门槛⾼，难以⽀持⼤模型的训练和推理；2、数据质量差：需要⼤量⾼质量数据进⾏、训练和优化，经常会因为数据各类问题，导致⼤模型训练的效果和效率⽆法得到保障；3、投⼊成本⾼：为确保业务使⽤的效果和可持续性，需要投⼊成倍量级的数据、计算资源、专业技术和时间来训练、调试、优化并部署实施；4、专业经验少：开发和落地对技术⼈才储备及技术能⼒要求⾼，相关资源的缺失影响⼤模型在产业的快速落地和持续优化。为此，我们通过腾讯云TI平台向客户输出了全⾯的MaaS能⼒，可以满⾜客户模型预训练、模型精调和智能应⽤开发等多种需求。腾讯TI平台⾏业⼤模型精调解决⽅案具备完整的精调⼯具链，⽀持客户加⼊⾃⾝业务场景的特有数据，定制专属模型。省时查报告小程序：专业、及时、全面的行研报告库现场演示:Q：“端午节三天我不出江浙沪，有什么⾏程可以推荐?”A:Q：我和孩⼦都是历史⼈⽂爱好者，我们端午想去上海周边，预算在五千以内，最好每天去两个不同的景点玩模型给出了三天的⾏程规划，但整体⽐较粗。我们加⼊⼀些⾏业的场景数据，运⾏同样的问题:加⼊场景数据后，回复细致了很多。我们的⼤模型精调解决⽅案还⽀持API接⼜，接下来我们展⽰接通了⽂旅客户API后的回答:可以看到接⼊API后的回答⾮常的细致Q：请帮我推荐⼀些苏州的酒店A:腾讯云TI平台⾏业⼤模型精调解决⽅案具有四⼤优势:1、⾼质量的⾏业⼤模型：基于腾讯云多年深耕经验打造；使客户只需要较少的训练数据就可以实现较好的精调效果；省时查报告小程序：专业、及时、全面的行研报告库施⽅⾯：新⼀代HCC⾼性能计算集群+向量数据库+太极Angel；(3)针对成本⾼、落地难问题，在少量算⼒的基础上提升特定任务的效果，针对⾏业场景实现低成本落地；3、成熟的流程⽅案：提供全⽣命周期⼀体化的完整⽅法论；4、全⾯的配套服务：提供本地化的落地指导和陪跑服务，提供私有云部署、公有云托管等多种灵活的部署⽅案。HCC：后⽂介绍太极Angel：在传统CV、NLP模型的基础上，我们新增了对⼤模型训练和推理的加速能⼒——太极Angel，相较⾏业常⽤⽅案性能提升30%。成熟的流程⽅案：提供全⽣命周期⼀体化的完整⽅法论，保障客户需求的顺利交付；在配套的服务⽅⾯，腾讯云提供本地化的落地指导和陪跑服务，提供私有云部署、公有云托管等多种灵活的部署⽅案。为客户扫清落地困难。腾讯对问题在三个层⾯进⾏敏感信息的过滤和规避，确保答案符合安全合省时查报告小程序：专业、及时、全面的行研报告库⾏业⼤模型和AI助⼿的结合可以快速提升对话理解和智能问题能⼒。例如，车载语⾳助⼿在学习汽车场景数据后可以提供更加⼈性化的场景服在⽂旅领域我们联合⼀家线上OTA公司探索⼤模型的应⽤；其传统智能客服需要⼈⼯进⾏配置维护，⼯作量⾮常⼤;跟我们合作后，其可以在不需要配置对话流程的情况下实现端到端解决客户问题，提⾼任务完成率，降低在⾦融领域，我们探索了OCR⼤模型，在银⾏单据的处理中发挥了很⼤的作⽤；与某头部银⾏合作，将信息录⼊准确率提升50%腾讯云正在联合中国信通院开发⾏业⼤模型的⽅法论和标准体系。覆盖模型⾏业能⼒、模型⼯程化能⼒、模型算⼒、⽹络模型安全可靠性等⽅⾯。2022年，字节跳动收⼊⼤概是5500亿，增长⾮常快；其主要靠⼤数据和算法进⾏推动。⼤数据和算法在传媒⾏业的成功是唯⼀⼀个没有靠任何国家模型，其⽬标就是实现像⼈⼀样的认知模型。省时查报告小程序：专业、及时、全面的行研报告库两年前我们在和腾讯合作总台算法传媒⼤模型时，我们就认为其应该是⼀个⾯向智慧传播领域的应⽤。其应该理解品质，具有价值感知能⼒，包括主流价值、艺术价值、商业价值等。总台算法有别于商业算法以追求流量为⾸要⽬标，⽽是融合了主流精品内容与⽤户喜好。后续将在总台各新媒我们通过和腾讯合作，建⽴了传媒与学习⼤模型，使其可以感知主题的价值。例如我们植⼊⼀个春晚的种⼦内容，我们不需要去描述它，其就可以感知成千上万与春晚相关的内容；结合⽤户的个性化需求，进⾏精准推动;其不是打造信息茧房，⽽是考虑到⽤户的品味，挖掘⽤户的潜在需求，提全⾯开发成功，并在央视频的各个垂类中全⾯应⽤。取得了较好的成果。频正在成为全总台的能⼒中台。总台算法并不是⼀个简单的个性化传播算法，⽽是在认知智能对内容和⽤户认知的基础之上，开发⼈的智慧认知和今天演讲前⾸先我请⼤模型给我列了⼀个提纲，⼤模型⾃⼰也认为⼤模型可以在⾼等教育改⾰⽅⾯做出很多贡献，但同时也提醒我们注意其所⾯临省时查报告小程序：专业、及时、全面的行研报告库⾼等教育⽬前⾯临三⼤挑战：1、怎样更好实现⾼等教育的⾼质量发展；2、新⼀代科技⾰命；数字化转型将对推动整个教育的发展发挥越来越⼤的作⽤。但在这⼀过程中我们也⾯临⼀些挑战和不⾜，⽽这也可能是⼤模型在教育领域应⽤所要这⼏年我们在上海⼤学不断推进数字化转型，我们在打通不同部门、平台数据壁垒之间做了很多努⼒，实现⼀⽹通办。其在提⾼⼈才培养质量⽅⾯也在发挥越来越⼤的作⽤，例如我们把过去20提案；我相信通过我们⼤学的努⼒，我们也可以做出⾃⼰的贡献。过去⼏个⽉上海⼤学在与腾讯云合作探索教育⼤模型，我们将我们学校的⼀些公开数据做了数据标注⽤于⼤模型的训练。我们想要由“⼀⽹通办”⾛向“⼀模通问”，即我只要问⼀个问题便可以找到相应的功能⼊⼜，⽽不需要点击多⽽我认为更⼤的挑战在于怎样推动我们教育模式变⾰。今后我们的⽼师和同学在研究和教学中如果不利⽤AI是很难想象的；我在想未来我们的教材能不能都是数字化、多模态的，打造“永不落后的教材”。⼤模型让研究也省时查报告小程序：专业、及时、全面的行研报告库变得更⾼效，例如我的团队在做强化学习，我有⼀个idea，⼤模型可以直接帮我完成80%的⼯作，我只要改⼀改代码就可以完成了。我们愿意和腾讯共同探索教育⼤模型的共建，实现“有教⽆类，因材施教”，⽽教师则回归“⼈类灵魂的⼯程师”。福建⼤数据集团是2021年成⽴的省属国有⼤数据企业，作为新建省级业务信息系统的业主单位，完整介⼊了“数字福建”的建设过程。全部向云做整合，为未来政务服务的智能化打下基础。去年我们开始腾讯我们⾸选的应⽤是客服；根据我们的调研，百姓在了解政府政策流程规划时感到⾮常困难；当前的客服还是将现有的国家政策结构化处理，仍⽆法形成综合回答；百姓有很多⼜语化表达⽽⾮专业术语，如何理解这些表达进⾏精准答复是我们的⼀⼤痛点；同时我们也需要打通多个部门，让⽼百城的历年来45万份百姓咨询数据输⼊到⾏业⼤模型进⾏训练，⽬前取得了⼀定的成果；相关成果已经应⽤到今年4⽉发布的“⼩敏助⼿”中，⽬前已经省时查报告小程序：专业、及时、全面的行研报告库景，例如营商环境优化(帮助企业快速理解政府的政策等)、基层⾏政执法辅助(避免执法过重过轻、法律条⽂不明晰，进⾏⼀键普法等)、税务助⼿等。今天到现场的腾讯云MaaS的客户合作伙伴有：长安汽车、云南⼴播电视务服务数据管理局、微盟集团、上海仁济医院、奇瑞汽车、来伊份集团、合景悠活集团、多点MALL、浙江智游宝信息科技、⾦蝶集团、阅⽂集术⼯业AI研究所，这些客户将与腾讯云共同探索打造⾏业⼤模型。为科技、神州信息、泰盈科技、赞同科技、杭州绿云软件、中科软、基准⽅中、深圳⾦证优智、浙江中控技术有限公司、信雅达⾦融⼤数据研究院、上海电⽓集团、成都佳发教育、远光软件、印象笔记、华宇信息技术、杭州华三通信、珍岛集团我始终认为腾讯会议没有解决会议全流程的效率问题，只是解决了会议的⾳视频问题；我们⼀直认为腾讯会议应该给⼤家提供更好的会前、会中、会后的服务。随着AI技术的涌现，我们看到了腾讯会议解决这类问题的希望。我们即将上线AI⼩助⼿，进⾏会议全流程的辅助:省时查报告小程序：专业、及时、全面的行研报告库1、会前：声⾳⽣态判断、约时间、会议室预定、针对授权内容整理材料“刚才说了什么，提了什么问题”；(2)当有⼈叫我时、当我关注的⼈发⾔3、会后：智能整理会议纪要，分段落、分层次进⾏总结，并将其分为相应的章节；并可快速回顾反复提到的话题;智能录制功能将在今天向腾讯会议所有付费⽤户全量开放未来AI⼩助⼿也将⽀持接⼊企业⾃⾝的⼤模型。今天我带来了全新的产品：腾讯企点分析AI助⼿与腾讯企点智能客服，助1、数据难打通、量⼤、容易陷⼊琐碎的数据处理；2、官⽹客服咨询是商机的第⼀个⼊⼜，但机器⼈运营成本⾼、回答的覆盖省时查报告小程序：专业、及时、全面的行研报告库3、从复杂海量数据中获得⾼效准确的结果很困难，现有⼯具有较⾼的使⽤机器⼈客服⾯临的痛点有:1、对话构建成本⾼，周期长；2、知识边界有限，对话不智能；3、坐席服务响应时间长，接待上限低；对此，腾讯企点AI助⼿构建了五⼤核⼼能⼒：数据理解、指标拆解、⾃然业的“数据分析助⼿”。Q：请统计最近7天购买页浏览⼈数的变化趋势A:AI助⼿⼀键⽣成报告，可以⼏秒产出客服接待场景有很多随机开放的场景，传统机器⼈关键词匹配错误、答得不好可能会损失⼀些⽤户体验。传统客服系统需要⼈⼯搭建知识库，冷启动平均需要两周的时间，流程配置⼗分复杂且复制性很差。同时也很难实现⾮常理想的效果，最后还是需要转⼈⼯。同时⼈⼯客服坐席端也同样⾯临⼀系列痛点：省时查报告小程序：专业、及时、全面的行研报告库痛点1：追溯上⽂耗时长，服务响应时间慢；痛点2：找知识、总结知识难，回复时间长；痛点3：总结会话历史，填写⼯单费时费⼒。对此，我们打造了全新的解决⽅案，全⾯提升⽤户体验；构建企业级⼤模型，利⽤预训练积累海量知识，结合企业专有模型的精调能⼒，降低企业使⽤门槛；⽀持各类企业只是⼀键导⼊来快速完成知识切换，使得原先需要2-3周的知识搭建过程缩短⾄⼏⼩时甚⾄⼏分钟。在对话的交互层⾯，其⾸先会结合上下⽂对当前问题进⾏提炼，然后利⽤Q：做短视频推荐⼀款数字⼈?新客服捕捉到了“短视频制作场景”这⼀关键信息，并进⾏主动追问Q：我想⽤形象⽓质好的2D数字⼈，可以帮我选⼀下吗?形象这⼀⽂档的检索进⾏回答，并附上了来源Q：有没有专业的顾问给我讲讲数字⼈在短视频⽣产的案例?省时查报告小程序：专业、及时、全面的行研报告库⼈⼯客服座席端：智能客服已经给⼈⼯客服条例清晰地梳理了前序对话信息，同时可以使⽤AI助⼿辅助⽣成回答Q：虚拟分⾝怎么购买?结束后：机器⼈再度帮助⼈⼯客服进⾏会话的⼩结，⽅便进⾏整理分析腾讯云AI代码助⼿覆盖代码开发的所有关键流程，释放开发者的机械性⼯代码助⼿在各个环节的应⽤:沟通：根据上下⽂推理给出代码回复编码：根据上下⽂代码进⾏代码补全排错：查错并给出修改建议评审：给开发者评审建议沟通:编码:省时查报告小程序：专业、及时、全面的行研报告库现场演⽰:为开源项⽬TDesign添加⽤于⾝份证号码校验的React组件Q：为开源项⽬TDesign添加⽤于⾝份证号码校验的React组件A:语法和逻辑是正确的四个单元测试运⾏完成展望未来，我们希望AI代码助⼿可以覆盖构想、研发、发布和运维的全部阶段，例如AI可以帮助客户进⾏业务⽬标下的敏捷规划，辅助产品mindmap，