代码大模型的场景价值和产品实战

代码大模型的场景价值和产品实战汪晟杰腾讯产品专家目录AISE的场景与代码大模型的价值懂工程的AI代码助手的实战研效+AI+标品化建设Part

01软件工程+AI助手的挑战软件工程3.0里的编码赛道的价值企业内编码+AI的挑战解决思路300字以内进行概括性的案例介绍（突出亮点、案例独特性等）软件工程

AISEAISE的基本流程沟通编码排错评审调优代码补全据当前代码类型、AST树结构等相关信息，进行代码补全，生成高质量的代码生成注释代码纠错有针对性地给予对应的代码，并替换错误的代码区块代码查错定位问题并辅助生成建议代码指令不用敲代码，指令操作页面修改代码沟通通过

Q&A

进行上下文推理给出回复代码解释A辅助指导当前文件、类、函数的作用，帮助加速理解代码逻辑。辅助MR校对辅助一键自动生成提交信息代码AI评审可生成评审建议生成单元测试AI在编码中的挑战01准度/评测02成本/算力03质量/安全大模型成本与体验的极限拉扯代码补全技术对话单元测试代码诊断训练 推理管理平台模型工厂数据运营4+1+1代码生成率代码采纳率对话采纳率测试生成率耗时情况QPS全链路遥测体验成本用相对较低的推理成本，batch

计算，小于300ms的延迟预训练更小的代码模型SFT

微调基于混元进行大模型指令对齐和强化学习进行行业模型的训练和推理优化，提升产品响应速度与交互体验反馈真实场景下的bad

base，挖掘行业场景价值补全在工程理解力上的实践相关文件大模型相关函数表征Import

头文件打开过的文件注释表征上下文感知模块质量分后置处理截断算法IDE、LSPToken窗口大小IDE表征Fillinthe

middlePrompt

组装跨文件相似文件块前缀后缀重复内容截断AST演示+Workshop理解工程的可见价值01数据安全

=

好02IDE+编码效能

=

快03对话+工程理解

=

准仓库代码检索+RAG01Codebase

Indexing02强化搜索03Embedding&速度大模型与项目工程代码的极限拉扯代码复杂度工程复杂度RAG项目工程结构相关联的跨多文件语法树语法特征函数签名+注释优先代码大模型+FIM代码大模型+圈选代码仓库代码检索代码大模型RAG大模型+知识库/代码库+检索增强技术文档

/

代码Chunks

/

知识片段知识库

/

向量数据库问题IDE

插件向量ContentsPromptLLM

大模型文档类型：代码、技术文档、规范文档代码要求：需要有文件级、方法级注释格式规范，语法正确业务领域相关，具有代表性给出配套的MD文档Agent

扩展非特定领域问题Embedding人工或自动化地从示例代码、配置和文档中抽取出知识片段格式：<功能需求，代码知识>1.代码知识分为文件级、函数级和片段级三个级别，分别对应不同复杂度的功能需求文件级：是代码文件内代码元素的组合，通常代表一个功能函数级：一个独立的函数片段级：Api接口调用Embedding使用向量化模型对前面的数据向量化后存入向量数据库检索topK

召回element：代码片段内容path：代码文件路径docstring：功能需求描述Vector

：向量结果element_with_doc

：代码经过大模型的解释结果granularity

：知识粒度url

：引用仓库地址阈值检查关键字组合过滤<功能需求，代码知识><功能需求，代码知识><功能需求，代码知识><功能需求，代码知识>……固定格式请求LLM模型返回结果请学习以下文档：<功能需求，代码知识>（格式化）<功能需求，代码知识>（格式化）<功能需求，代码知识>（格式化）根据以上文档回答问题：问题XXXXRAG

的场景，需要将repetition_penalty设为1，让模型参考prompt中的知识需要做好RAG的能力测评，根据测评结果来调整中间过程产品在内部落地的架构分层应用层中间层基础层预训练模型模型混合平台行业模型 混元模型企业自有模型精度调优模型评测平台模型训练自有数据训练集开源代码微调自有内部代码、工蜂代码提示工程文本提示到代码补全代码上下文推理文本执行指令到运行Vector

Store

扩大模型的代码领域的知识代码工程领域上下文记忆 会话腾讯云

VectorDB基于代码辅助的大模型服务AI

代码辅助

模型角色Fill

in

Middle

补全正负反馈CloudStudioJetBrain全家桶VSCode浏览器插件IDE平台下应用抽象交互编码辅助实现技术沟通 代码排错代码补全

文件生成代码指令工程理解力增强AI

评审跨文件上下文的开发辅助向量和对话的生成式脚手架、终端命令AISE下的单元测试场景走过的弯路AI

辅助的端到端软件研发过程自动/辅助完成项目计划制定和排期辅助完成需求细化、拆分以及分解到用户故事和任务自动生成验收标准代码反向工程生成项目文档基于AI给出代码评审意见，辅助完成源代码评审，打破技术鸿沟产品/项目经理开发人员市场人员市场人员用户行为分析大量用户反馈数据处理提取并生成高质量产品需求、改进点市场人员设计师（UI/UX）自动生成UI原型基于原型自动生成可用的界面代码（html/CSS）组件测试人员技术支持海量日志分析和关键信息提取自动分析运维问题并定位到代码根据内部知识库快速检索和响应用户问题，提高用户满意度AI辅助结对编程代码补全和生成代码分析和交互式代码生成辅助调试，安全问题监测和性能改进基于用户故事生成测试用例、测试步骤和预期结果从代码自动生成测试脚本根据数据结构描述自动生成大量场景化测试数据自动执行生成的测试自动化脚本AISE下的单元测试生成的难点附录：/mhevery/guide-to-testable-code如何写可测试的单元测试测试方法种类多， 框架多项目本身不具备可单测，难以mock生成质量难以运行，无标准最佳实践大模型的单元测试可行性增加示例代码，感知框架语法树找相关跨文件、依赖文件的调用链策略感知Mock对象，生成完整可执行的单测Lifeofa

CompletionPart

02懂工程的最佳AI代码助手使用范式用好Coding

Copilot的几个点学会更好的提示词工程3S原则、3TNB、Agent

FlowIDE的深度集成

–

演示Jetbrain的深度集成

–

演示Agent扩展提示词工程

–

3S原则提示工程的基本原理，可以总结为3个S

如下。这些核心规则是创建有效提示的基础。单个

Single：始终将提示集中在单个、定义明确的任务或问题上。具体

Specific：确保说明明确且详细，最好能附带一个示例或者模拟信息结构。具体且具象带来理解会带来更精确的代码建议。简短

Short：在具体的同时，保持提示简明扼要。这种平衡确保了清晰度，而不会使腾讯云AI代码助手超载或使交互复杂化。提示词工程

–

N

Shot对话总结下轮对话建议一次新会话一次当前上下文补全场景-

单元测试：1.

ex:多文件示例2.ex:框架示例Part

03懂工程的最佳AI代码助手使用范式用好Coding

Copilot的几个点学会更好的提示词工程3S原则、3TNB、Agent

Flow利用前

25

个指标提高开发人员的工作效率参考：/@shallabh.dixitt/github-

copilot-unleashed-elevating-developers-productivity-with-top-25-metrics-7edc94e655a6企业管理-效率看板总用户数IDE

插件安装总量日新增插件安装总量DAU用户指标代码补全日次留存技术对话

DAUIDE

活跃情况代码补全

DAU代码补全周留存代码补全月留存代码补全生成率代码补全接受率对话次数代码补全总行数代码补全接受率代码补全次数点赞次数代码补全后有效率技术指标点踩次数代码复制次数代码插入光标次数代码补全接受率代码插入新文件次数接受率曲线代码插入命令行次数AI助手带来的研效是一个新话题1、领导怎么看这事儿？（领导是怎么思考的，是否获得高层站台）2、有无运营资源配合？（是否有专门人力/物力）3、有没有试点或存在推广阻碍的点？（试点人员配合意愿及工作安排是否领导许可）4、目前运营目标计划/策略及后续运营策略（运营怎么思考的？想怎么干）5、需要什么支撑，自己用没用，当前问题怎么推进解决的（是否需要资源支持？）6、为什么要用

AI代码助手（研发是怎么思考的）Part

04总结展望未来腾讯云AI代码助手小结1、下一个AI时代改变了编码习惯和过程。2、对代码大模型的极限拉扯下的产品体验与权衡。3、深度探索提示工程（N

Shot、3S等）、代码模型能力和AI应用框架是AI产品的重要组成部分，它们可以帮助我们更好地定义新的软件模式。4、产品开发指标会作为新的研效指标，目前还是强运营产品。5、新场景是机遇。对话+RAG、补全+跨文件，有