月说·数智化分享会·第41期 吴涛老师

分享会·第41期吴涛@360数智化首席咨询专家吴涛@360数智化首席咨询专家以乐于分享，自我提升，赋能他人闻道有先后，术业有专攻共同创造一个牛逼的数据分析交流圈子2024年10月在数智领域碰撞出另一番火花22吴涛数智化首席咨询专家负责城市/政府/央国企/解决方案商数智化咨询，引导客户不断完善数字化和智能化体系建设。大模型具有泛化能力和理解能力传统AI模型拥有简单识别能力，在单一任务上超过人类传统AI模型：具备简单识别能力，处理单一任务大语言模型：具备理解能力，处理复杂场景业务33Transformer算法基本原理通过其特有的自注意力机制通过其特有的自注意力机制，模拟人类神经网络思考的过程44大模型可生成符合物理规律的视频大模型不仅能理解图像，还能理解他们互动的时候应符合哪些物理定律OpenAISora实现了大模型对世界的观察、交互、认知，以及建立常识55大模型模拟人脑的学习和工作能力大模型通过预训练（学习）和推理（工作）过程不断提升思考能力大模型训练过程人类学习过程大模型预训练音频、视频、文档、图文听觉、视觉、图书、文章大模型提问过程人类提问过程大模型推理音频、视频、文档、图文听觉、视觉、图书、文章66大模型可调用各种API工具操作硬件设备大模型不仅能思考和生成内容，而且可以通过调用API操纵硬件设备大模型驱动的特斯拉汽车自动驾驶77大模型通过Agent框架复制人类技能通过Playbook可视化界面，拖拽式创建某任务技能的工作流大模型组件大模型组件代码组件代码组件外部外部API组件搜索组件搜索组件知识库组件知识库组件函数调用组件函数调用组件88大模型是“新质生产力”的关键要素大模型通过学习人类专家工作流程掌握复杂技能搜索让人类获取信息的成本趋近于零大模型让人类获取技能的成本趋近于零任何行业都值得用大模型重做一遍两种创新1、做从来没有做过的事，比如说OpenAI做出大模型，也只有这一家；2、把原来老业务用新的方法重做一遍，这个机会就很多。MicrosoftCopilotSalesforceEinsteinGPT360安全大模型大模型应用的五大关键问题100多个PoC测试得出的结论AI应用的五大关键问题AI应用的五大关键问题①场景选择：摆脱宏大叙事，选择有效场景，发挥大模型应用价值②知识积累：企业知识的发现、沉淀、积累、管理、价值发挥③场景大模型：打造企业专属的场景大模型④业务融合：不只是聊天机器人，还要促进业务发展⑤AI和数据安全：保护企业私有数据和AI安全AI落地的四个误区1.总想搞一个宏大的产业大模型，如金融大模型、交通大模型——垂直场景大模型2.企业总想用一个万能大模型解决所有企业问题，如企业hr、ERP、财务、税务等——多个垂直模型+MoE架构3.有了大模型原来的IT系统就淘汰了——大模型是对IT系统的增强，需要和IT系统打通4.有大模型就不用做数字化了，可以弯道超车——需要有数据和知识，原来的数字化搞得越好，大模型越顺利应对五大关键问题，产生五大方法论：挑场景找知识训模型融业务保安全1、场景选择方法论•大模型不能全面取代现在的数字化系统 小切口 小切口某业务环节某业务场景某业务环节某业务环节某业务场景某业务环节大纵深大纵深业务主导业务主导内部知识管理平台内部知识管理平台2、知识积累方法论企业部署大模型驱动的知识管理平台和情报管理平台知识采集知识源情报采集情报源外部情报管理平台知识管理大模型用户访问员工情报大模型3、模型打造方法论360安全大模型的Agent智能体架构任务编排引擎监督评测引擎任务生成引擎指令调度引擎任务编排引擎监督评测引擎任务生成引擎指令调度引擎…………4、业务融合方法论通过业务融合平台，全面融合到企业数字化流程中大语言模型员工智能体大语言模型员工智能体数字人智能体数字人智能体交互插件交互插件知识插件技能插件规划插件工作流插件 产研系统营销系统 产研系统营销系统 5、安全管理方法论大模型的全新特性带来了前所未有的安全挑战网络数据安全•网络安全：系统漏洞、网络攻击•数据安全：数据泄漏、隐私泄露、数据投毒（含训练语料安全）生成内容安全•内容合规：违规内容•虚假内容：deepfake•幻觉问题：杜撰内容恶意使用问题•提示注入攻击•越狱：PUA、欺骗•恶意利用：生成恶意代码、诈骗视频失控问题•可控问题：Agent框架将大模型能力扩展到物理空间，具有操控破坏能力•产生意识：硅基生物危害人类企业大模型项目落地流程数智化项目落地实施一般需要完成以下任务要点66平台推广2筛选重点场景44平台系统研发1数智化水平评估33平台产品设计55平台运营360数字化团队：全程陪跑企业数智化项目1、数智化应用水平评估可根据典型应用大致评估当前所在阶段可根据典型应用大致评估当前所在阶段反向促进反向促进持续迭代2、全程陪跑的数智化咨询提供从战略到落地的解决方案设计与交付业务战略咨询数智化战略咨询平台运营咨询平台营销咨询业务战略咨询数智化战略咨询平台运营咨询平台营销咨询供应链管理平台建设咨询立项方案是智能化咨询的关键要点数智化咨询交付体系根据客户战略、产品、研发、运营、营销团队需求输出方案第1周需求调研模块第1月战略咨询模块3.《企业内部环境调研报告》4.《企业战略定位建议书》第2月产品咨询模块第3月技术咨询模块4.《线下门店运营规范与策划》第4月运营咨询模块4.《流量增长运营策划》第5月营销咨询模块4.《供应链体系建设与执行计划》5.《销售渠道建设与执行计划》第6月人力财务咨询模块3.《员工培训体系建设方案》5.《员工劳动合同样本》第7月项目结案2.《客户反馈问卷-售后》20203、深度融合数智化底座对接现有和新建业务系统，一站式解决业务系统研发和运维问题IT服务管理客户管理服务目录服务交付