AI 编程颠覆 IT 生产力

互联网分布式架构微服务Serverless架构服务化/模块化/免运维企业级应用架构单体应用互联网分布式架构微服务Serverless架构服务化/模块化/免运维企业级应用架构单体应用容器化编排调度、分时复用弹性伸缩、混合部署，提升了企业容器化编排调度、分时复用弹性伸缩、混合部署，提升了企业资源效率容器化上云、K8s化管理、Serverless化架构，提升了企业运维效率微服务、容器化、DevOps、GitOps、IaC，提升了企业交付效率企业对技术红利的追求是无止境的程序员产能和软件研发效率成为企业竞争发展的瓶颈之一产品需求开发+集成+验证灰度+生产发布产品需求开发+集成+验证灰度+生产发布线上运维应用研发生命周期业务需求设计开发交付运维AI时代：数据、计算与模型协同发展，知识触手可及农业先验知识法律农业先验知识法律伦理金融语言理解认知艺术伦理金融语言理解认知艺术物理逻辑推理持续演进的模型技术持续演进的模型技术不断提升的不断提升的计算能力爆炸性增长的数据爆炸性增长的数据编程成为最高频的AI应用场景CategoryBreakdownof4,098ChatGPTPrompts(Analysisofuniqueusers’singleandmulti-promptsessionsfromMay&June,2023)地场景中，最高频刚需的是什么？用户使用情况做了分析，其中编程以AIAI成为提升软件研发效率的必选项程序员花费三分之一的时间编写新代码或改进现有代码（程序员花费三分之一的时间编写新代码或改进现有代码（32%）。花费35%的时间来管理代码，包括代码维护(4%响应安全问题程序员2/3的工作时间直接跟代码相关编写代码和改进已有代码会议，管理和运营代码维护测试其他…VisualVisualStudioCode AndriodStudioVimSublimeTextXCode Atom4%LLMasCopilot辅助完成任务辅助完成任务协同处理复杂任务工具赋能人员提效工具独立完成工作工具与人协同共生人人主导、提示及确认人给定上下文，完成知识对齐人负责创意、纠偏及确认任务功能任务功能代码辅助生成CopilotWorkspace通义灵码，GitHubCopilot通义灵码，你的智能编码助手•通义灵码是基于通义大模型实现的智能编码助手，提供代码智能生成、研发智能问答等能力，帮助程序员更高效的写代码•支持Java、Python、Go、C/C++、C#、JavaScript、TypeScript、PHP、Rust、Scala等200多种编程语言•支持VisualStudioCode、JetBrainsIDEs等主流IDE及远程开发模式，兼容Windows7以上/MacOS/Linux操作系统。通义灵码致力于帮助开发者编码提效通义灵码致力于帮助开发者编码提效100%，帮助企业研发提效50%贴合代码库场景客户端和模型层同步优化针对代码跨文件上下文感知能力，生成代码更加贴合当前场景贴合代码库场景客户端和模型层同步优化针对代码跨文件上下文感知能力，生成代码更加贴合当前场景阿里云使用场景友好代码生成、智能问答对阿里云的云服务使用场景更友好沉浸式编码IDE端内即可满足编码场景中的技术资料检索、技术难题解答诉求，打造沉浸式编码体验加密传输，并支持身份鉴权、内容安全防护等，代码数据仅用于推理，不会进行二次训练，全方位保障数据安全通义垂直领域产品通义效率通义晓蜜通义星尘通义效率通义晓蜜通义灵码模型定制与应用服务阿里云百炼模型矩阵千问大语言模型魔搭社区千问大语言模型魔搭社区模型推理模型训练模型推理阿里云飞天操作系统优秀的模型能力，通义灵码多项模型指标领先1）公开数据集评测结果中，通义灵码的代码生成模型多项指标领先于友商进行预训练，在多个中英文评测中，显著超过友商模型，并且稳定支持32K上下文•业务上下文感知•精细化数据处理•面向任务的数据集•面向能力的数据集本地服务提示词工程服务端企业专属模型数据采集数据清洗数据标注数据解析效果评测算力代码补全模型模型训练SFT代码后处理分码分析数据模型单元测试生成代码实时续写代码注释生成异常报错智能排查研发领域自由问答单元测试生成代码实时续写代码注释生成异常报错智能排查根据当前语法和跨文件代码上下文，实时生成行/函数建议代码一键生成方法注释及行间注释研发领域知识问答，快速根据当前语法和跨文件代码上下文，实时生成行/函数建议代码一键生成方法注释及行间注释研发领域知识问答，快速获得答案和解决思路一键启动报错排查的智能答疑，快速反馈排查思路或修复建议代码架生成单元测试研发领域模型定制核心编码场景覆盖环境感知代码生成研发领域模型定制核心编码场景覆盖环境感知代码生成通义灵码功能演示：单元测试生成通义灵码功能演示：调试问题排查毫秒级的生成速度编码时行级/函数级实时续写，编码效率高恰到好处的生成时机用户键入和生成时机针对性优化，不等待不打扰恰如其分的生成长度根据语法、代码上下文环境智能化识别生成长度贴合代码库的业务场景支持跨文件上下文感知，生成代码更贴合代码库上下文流式补全毫秒级的生成速度：分级缓存、丰富的模型组合流式补全本地缓存服务端缓存本地服务本地缓存服务端缓存本地服务分码分析代码后处理会话管理推理缓存代码补全模型专项任务模型研发问答模型模推理缓存代码补全模型专项任务模型研发问答模型模服务端身份鉴权生成问答对话提示词工程模型路由75.00%25.00%0.00%代码补全任务是时延敏感型代码补全任务是时延敏感型任务，使用专门训练的小参数代码模型，平衡代码生成效率与质量代码补全任务CodeQwen2模型在在中等参数模型下，提供代码解释、注释生成、单元测试、代码优化、运行错误修复、提交信息生成、重构建议等7项代码技能代码专项任务Qwen-Plus模型调用量研发问答对模型知识面、编程能力、推理能力有更高调用量研发问答对模型知识面、编程能力、推理能力有更高要求。需要最大参数模型并叠加RAG技术，消除模型幻觉，提升回答质量研发自由问答Qwen-Max模型恰到好处的生成时机：自适应的触发策略本地服务本地服务代码后处理会话管理分码分析代码补全模型专项任务模型模代码补全模型专项任务模型模服务端生成问答对话提示词工程模型路由身份鉴权主观调研数据监控用户键盘输入历史行为特征上下文解析速度及位置上下文及关键字用户习惯学习触发策略参数调整参数调整用户研究埋点分析触发及延迟代码展示针对不同的端，对用户行为进行持续学习、优化触发策略，符合开发者的使用习惯主观调研数据监控用户键盘输入历史行为特征上下文解析速度及位置上下文及关键字用户习惯学习触发策略参数调整参数调整用户研究埋点分析触发及延迟代码展示针对不同的端，对用户行为进行持续学习、优化触发策略，符合开发者的使用习惯恰如其分的生成长度：基于语义理解的自适应生成粒度决策通义灵码基于代码的语义信息，充分让模型理解不同场通义灵码基于代码的语义信息，充分让模型理解不同场景下所需的生成粒度，从而让模型能够根据当前正在编决策准确率显著提升：Java语言：47%提升到56%贴合代码库的业务场景：基于库内感知的代码生成及问答当前代码上下文当前代码上下文构建Prompt模型生成上下文感知代码后处理会话管理索引上下文感知代码后处理会话管理索引分码分析本地服务服务端提示词工程身份鉴权生成问答对话模型路由 代码引用选择模型服务端提示词工程身份鉴权生成问答对话模型路由相似代码相似代码库内跨文件感知评测集中，准确率从22%提高到66.9%模代码补全模型专项任务模型库内跨文件感知评测集中，准确率从22%提高到66.9%模代码补全模型专项任务模型研发问答模型模型生成贴合代码库的业务场景：本地库内检索增强•通过感知本地工作空间中的源文件进行预处理，建立用户本地的向量化索引，基于本地工作流编排，完成多阶段任务•用户的代码都存在本地，保障用户代码安全和隐私服务端上下文感知代码后处理会话管理服务端上下文感知代码后处理会话管理索引分码分析本地服务身份鉴权提示词工程生成问答对话模型路由 知识问答代码库信息获取检索结果合并及重排企业知识库检索召回本地向量检索召回库内检索增强!专项任务模型研发问答模型代码补全模型专项任务模型研发问答模型代码补全模型本地工作流编排架构插件调用插件调用企业管理本地服务企业管理后台知识库管理洞察数据成员管理索引会话管理上下文感知库内RAG分码分析本地服务企业管理后台知识库管理洞察数据成员管理索引会话管理上下文感知库内RAG分码分析代码后处理灵码远程服务代码补全对话问答文件服务文件服务服务端身份鉴权提示词工程企业级RAG生成问答对话模型路由代码补全模型模企业专属模型服务端身份鉴权提示词工程企业级RAG生成问答对话模型路由代码补全模型模企业专属模型研发问答模型专项任务模型模型训练SFT知识库管理服务数据解析调度二轮召回重排代码/文档向量化结构化解析整理回答数据分块初步召回模型推理服务模型推理服务检索引擎整个工程级的任务辅助（1/3）从理解一个文件到理解整个工程整个工程级的任务辅助（2/3）在整个工程中查询相关的代码实现整个工程级的任务辅助（3/3）在整个工程中辅助生成相关业务代码ChatGPT海外Copilot产品开源自建通义灵码不支持用户及企业自有技术框架无法定制和调优，完全依靠用户的专业知识和技能进行prompt现更优秀模型部署在境外不支私有化建设本地部署，算力成本高国内迄今为止最大的模型，在模型能力上有很好的优势数据出境，存在数据安全合规风险严格的安全隐私保护，全链路加密、代码不落盘，不对用户数据进行二次训练通义灵码显著提升开发者工作效率通义灵码对工作效率和专注度提升的影响感觉编码工作效率更高可以保持编码心流可以减少重复代码的编写可以减少浏览器搜索次数46%46%4%4%当我们深入研究开发人员使用通义灵码的效果时，从1124份有效问卷中得出：•编码工作效率提高：72.51%的受访者给出了4分以上•保持心流工作状态：80.46%的受访者给出了4分以上•减少重复代码的编写：76.87%的受访者给出了4分以上…插件下载量350万问答意图识别用户鉴权用户习惯学习跨文件感知强化Prompt封装加密传输代码补全模型…插件下载量350万问答意图识别用户鉴权用户习惯学习跨文件感知强化Prompt封装加密传输代码补全模型研发问答模型每日推荐代码超3000万次超亿行海量中/英技术文档亿万开源代码数据阿里云云服务文档超亿行海量中/英技术文档亿万开源代码数据阿里云云服务文档通用研发知识采纳代码行数通义大模型AI代码生成占比31%百万开发者规模，企业客户数超10000家，国内同类产品用户数第一阿里云是国内首家推行全员AI编码的云厂商30%AI30%AI代码生成占比辅助研发提效周活跃开发者占比辅助研发提效25%问答准确率技术人员使用占比AI代码生成占比问答准确率技术人员使用占比任务功能任务功能代码辅助生成CopilotWorkspace通义灵码，GitHubCopilot研发领域多智能体协同模式用户