大模型生产力工具的思考与实践-商汤科技+贾安亚

商汤科技产品总监、小浣熊家族产品负责人Al生产力工具海外应用现状(以编程助手为例)GenerativeAlcanincrea■WithoutgenerativeAl■0CodegenerationCoderefactoring*StackOverflow:2024DeveloperSurvey**McKinseyDigitalAl生产力工具海外应用现状(以编程助手为例) Fig.2.ChatGPT'sinfluenceonaspectsofdevelopersFinding2——60%ofparticipantsperceivedamoderatelypositiveimpactofChatGPTontheirsatisfaction.Notably,itenhancedperceivedproductivityandreducedidentifiedastheleastaffectedfafacilitationofactivities,supportinlearning,andprovisionofeffectivea扬长补短的使用能力——解决痛点新的解决问题的体验——减轻压力度的积极影响。尤为显著的是，它使人们感知到了生产力的提升，减少了重复性工作，而并未带来显著的压力影响。此外，其他反馈突出了ChatGPT在助力工作开展、帮助学习新知以及便捷地获取有效信息等方面所起的作用，与传统工具相比优势明显。02027E亚马逊云科技tabnines一阿里云智谱ABaidu愁态腾讯云中游AI代码生成工具在发展过程中面临的挑战主要集中在用户体验、技术发展、技术提升的难点以及市场适应性等方面。解决这些痛点需不断的技术创新、市场反馈和经验积累。通过持续优化算法模型、增强用户交互设计等，可逐步克服这些挑战口易用性沙利文：2024年中国Al代码生成市场报告关注模型精度关注端到端用户体验主要问题2:基于项目级Othermodels←Mo代码小浣熊代码小浣熊企业落地视角演变(以编程助手为例)》》》》》》维航品编码后提交信息开发计划用户调研!必发布计划运维交付运维掳发布发布更新文档更新文档部署部署成成本低Zero-shotPrompti20220对企业的价值对企业的价值企业从需求到服务的业务闭环视角解构、重构多部门活动、协作和流程探索新的企业从需求到服务的业务闭环视角解构、重构多部门活动、协作和流程解决资产沉淀难、规范落地难，技术债务积累多等问题解决资产沉淀难、规范落地难，技术债务积累多等问题个人个人提升编码效率、缩短走查时长、减少测试成本等能更快交付么增强当前能更快交付么生产力决定生产关系计算计算Embeddings文档询问/指令提示合成大模型回复信息询问/指令提示合成大模型回复信息代码补全开发协助**对话问答询问/指令响应/调用请求结果/报错工具调用代码执行代码仓网络检索API调用代码运行沙盒提示合成大模型回复中的「调用」或「代码执行」请求回复信息分块分块知识资产行业背景术语&缩略词业务知识系统知识需求分析需求规格设计功能流程功能界面接口说明架构设计概要设计用安规划系决详细设计代码编写编码实现测试用例例描述前置条件预期采测试用例软件测试测试报告测试环境测试结果接口调用Agent编排自然语言大模型人机界面工具&插件运行环境大模型产品是否能完全替代人?大模型当下最好的产品形态是Copilot,不是完全替代人大模型产品是否能完全替代人?最直接的能给企业带来什么收益?最直接的能给企业带来什么收益?如何促进全员使用大模型原生产品?管理要求与员工主动相结合，从后向前持续推进，激励员工贡献方法与资产RPrompt优化(外化COT)+ConstrainedDecoding+(内化COT?)更新人设模板更新人设模板StructureofGSM8KquesStructureofGSM8Kquesgovetoday.Aftertheyaredonethegroveworkersplanttotherewere21treesafterswereplanted.Sotheremusthwillplanttreesintheg"reasoning":"Thereare15treewere21treesaftersomemorewereplanted.Sother一轴生成**商汤学习成本应用形态·语言与思维能力是否可