穿越智算奇点 解锁大模型的无限可能

腾讯云秦若毅腾讯云秦若毅>他来了!他来了!大模型的基础概念2013年电影《HER(触不到的她)》ANTHROP\CXMeta腾讯混元通义大模型“你从哪里来?我的朋友”大模型的历史脉络1990神经网络的兴起与衰退：2012大模型的诞生：2022预训练模型的兴起：1956早期的探索：2017Transformer(转换器)架构的革命：NOW多模态模型的探索：“千万里，我追寻着你”国际大模型的创新浪潮·开源的文生图大模型月之暗面Kimi:长文理解的先驱04月之暗面Kimi:长文理解的先驱042024年3月，开放支持200万字超长文本·2024年6月，开源QWEN2·2024年6月，开源QWEN2·2023年10月，发布文心一言4.0部分部分GPT-4基准测试结果·美国生物奥林匹克竞赛：超过99%考生美国律师资格考试：超过90%考生·美国高考：1410/600(写作+数学)●哪敢自称学霸?大模型的关键技术大脑基底大模型的定义：智能的基石书架大脑心脏02模型规模与性能：规模的力量03模型压缩：效率与性能的平衡书桌作业本高性能集群高性能网络高性能存储会议网易逆水寒米哈游崩坏3网易逆水寒米哈游崩坏3过去5分钟说了什么?过去5分钟说了什么?你好秦若逸Rois,我是腾讯文档智能助你好秦若逸Rois,我是腾讯文档智能助手!日制作PPT日制作PPT60%生态建设目标，需加强个人外设论文开题报告写祝福语学习计划小红书种草落提醒论文开题报告写祝福语学习计划小红书种草企业智能化：面向企业的大模型应用·横轴：企业业务流程(内部<=>外部)纵轴：业务改造程度分类(改善<=>创新)外部用户体验外部用户体验客户体验提升象限：外部用户提升体验业务流程增强运营效牢提升发发文旅运营效率运营效率客户体验提升产品价值创新产品价值创新运营效审提升业务流运营效审提升常客户体验提升常客户体验提升办公营销·节省学习理解产品的时间·对话式交互快速定位异常原因诊前(售前)诊中(售中)诊后(售后)·解决挂错诊室、医生不匹配等问题大模型应用落地的三大路线购买自建评估维度评估维度腾讯云产品方案合作分工腾讯云产品方案合作分工1.标准软件1.标准软件知识数据开发投入数据安全输出内容控制项目预算算力资源数据安全输出内容控制项目预算算力资源应用成本成本全链路遥测细分领域模型训练平台应用平台全链路遥测行业模型企业模型基础设施大模型核心服务找数-表/指标查数-多模型指标口径查询知识库+缓存找数-表/指标查数-多模型指标口径查询知识库+缓存技能管理技能管理知识问答在线调用-定制化扩展离线训练-知识内化在线调用-定制化扩展离线训练-知识内化指标向量库指标向量库知识生产端放大知识价值与产出知识消费端提高员工知识获取效率小彩蛋——送给听众的礼物专门解答智算与大模型问题的AI助手(扫码可获得使用权限)Q搜索乐享管理后台乐享管理后台等你解锁!■查看平台公约，开启社区之旅!我的积分待办中心我的积分腾讯云WeTele你好秦若毅，我是乐享你好秦若毅，我是乐享AI助手，你想让我帮你做什么?站内知识问答内容创作生成式生成式Al在金融行业有哪些应用?生成式AI生成式AI在金融行业的应用主要包括以下几个方面：6车IT业务流程中，生成式Al可以辅助IT技术人员自动完成代码补全工作，从而提高了金融机构对客APP的研发迭代速度。2.在办公业务流程中，生成式AI打造的办公助手可以在会议结束之后自动生成会议纪要。金融行业的专业术语众多，基于行业大模型的生成式AI均可以理解并准确生成会议纪要，助网网个个个开箱即用的应用类型(应用中心)灵活定制的原子能力(原子能力中心)开箱即用的应用类型(应用中心)知识摘要标签分类知识摘要标签分类总结类问答类开放对接层文档解析向量检索总结类问答类开放对接层更多应用配置层模型层配置层模型层向量数据库向量数据库底层能力智能应用智能应用平台&工具基础设施细分领域模型训练平台精调客户专属大模型应用平台◆定制化模型精调：腾讯云行业大模型——医学大模型应用场景数据问答数据·医典问答：三甲医院医生撰写，医学编辑三审三校·审核问答：医学专业人士审核过的问答数据对话数据·医患多轮的对话医院数据·门诊病历医疗行业数据医学知识数据知识图谱数据·100万+实体，描述某些医学概念的医学实体·1000万+关系三元组，描述某些医学概念之间的关联关系·40万+属性三元组，描述某些医学概念的从属属性文章数据·腾讯医典文章：医学专家撰写，三审三校·收集文章：购买后医学专业人士审核医学专业数据·人卫等全套教材·临床职业医师考试题一体化医学语言系统，针对生物医学与健康领域的一体化医学语言系统，针对生物医学与健康领域的数据库系统、本体知识库·包括460万概念、890万代码、26种语言、182个词汇表·该数据库收录了目前已知的最全面的药物和化学信息资源，提供详细的药物和相关药物靶标信息数据中文论文数据·医学相关中文文献，包含期刊、会议、硕博论文、报纸等PubMed文章3500万条生物医学文献及在线书籍其它(公开)英文数据影像报告数据·MIMIC患者出院小结入院数据海量、优质训练数据数据中心数据中心训练工坊训练工坊远程调试模拟部署模拟部署内置推理加速大模型调用训练集群训练集群GPUA100GPUAGPUA100GPUA800(性能线性扩容)(性能线性扩容)腾讯云星脉RDMA网络腾讯云星脉RDMA网络-—业务流量的“导航仪”定制化模型精调：面向视觉场景的紫霄推理卡紫霄V1:高性价比的国产推理卡图像合成机器翻·图像合成机器翻·在深度优化场景，最高可以做到A10的1.5-2倍性能。●小模型(7B以下)性价比紫霄v1llama43b高算力性价比(65B以上)高显存高算力性价比传统AI性价比紫霄v1自然语言处理(NLP)高内存带宽或许都有美好的未来大模型的未来发展部分主要技术的经济影响国内大模型未来发展的挑战人才挑战：AI人才集中在美国·全球TOP2000顶级学者，美国占57%,谷歌微软Meta占17%全球60%的AI人才在美国工作，其中三分之二来自国外，主要是中印算力挑战：智算需求爆发式增长·GPT-5算力需求预计是GPT-4的9倍以上·美国禁令对国内企业的算力需求产生较大影响目前国产训练芯片仅有昇腾，且受限于产能和软件生态数据挑战：缺乏高质量数据集·中文语料数据集占比低于5%,多元化不足，缺乏专用领域开源数据数据荒正在到来，全球高质量语言数据预计在三年内耗尽——Al权威学者吴恩达AIAI智能体是什么?实例：如何快速开发一个"儿童家庭教师"实例：如何快速开发一个"儿童家庭教师"AI智能体?1)儿童通过微信语音向智能体提问(感知)。2)智能体将语音转成文字、并理解问题(行动)。3)智能体通过网络搜索和知识库获取相关知识(学习)。5)智能体将文字转化为语音，回答儿童的问题(行动)。AIAI智能体平台是什么?过去5分钟说了什么?