傅盛2024开年AI大课 -AI大潮下如何创新 从技术狂欢到商业落地 私有化大模型是王道

GPT引领AI浪潮GPT引领AI浪潮技术的底层范式发生重大变化牛顿开辟光学，创立微积分推导出引力公式底层范式正在改变，智能和技术“涌现”，新的创新机遇开启爱因斯坦发表狭义相对论、质能方程等四篇论文AI将带来整个社会的底层重构如何抓住这次创新大潮？让我们从上一次科技大潮的小故事开始20年前一个年轻人怀揣400元来到北京过着很卷的北漂生活尽管有幸加入互联网大潮，每天起早贪黑30岁前三个愿望一个都没有实现同质化的勤奋只会更卷不同的道路才可能胜出以更少的投入换取更大的产出猛然一刻意识到它是创新的底层思维模式卷的思维模式是ThinkBetter创新的思维模式是ThinkDifferent与其更好不如不同Part1ThinkDifferent创新的不二法门为什么伟大不能被计划？只有ThinkDifferent找到新的道路才能实现伟大但新的道路不在大多数人的认知地图中猎豹移动ThinkDifferent，Alli猎户星空ThinkDifferent，AllinAIAI起步早取得了一些技术优势北京冬奥服务型机器人创新测评大赛五项产品入选，独占半壁AI1.0时代深度学习成为热潮猎户星空抢先出击全行业一起卷却难破瓶颈一个小小的分支正在成长猎户NLPV2.0猎户语音识别v2.0ChatGPT横空出世，震惊世界AI进入2.0时代，彻底开启生产力革命猎户NLP猎户NLPV2.0猎户语音识别v2.0AI2.0时代曾最被人看不起的ChatGPT分支成为主流OpenAIOpenAIUniverseOpenAI在同样的技术路线下也卷不过巨头也就是后来的ChatGPT学母语模式建立基本的逻辑认知学母语模式建立基本的逻辑认知产生逻辑能力和推理能力学外语模式学外语模式OpenAI,与其说是技术积累的成功不如说是技术信仰的成功更是ThinkDifferent的成功ChatGPT的横空出世更像是哥伦布航海回顾互联网创业大潮再看这次AI技术浪潮ThinkDifferent是创新的不二法门都是ThinkDifferent的成果Part2AI大模型创新依然可以ThinkDifferentChatGPT是一次底层范式正在改变每个业务用大模型重做一遍都能获得十倍增长2023年市值超越苹果“设计外包公司”“视频翻译公司”成为全球市值40名员工30名员工4名员工最高公司年收入超2亿美金估值100亿美金收入超过1800万美金估值7500万美金融资5500万美金估值超2亿美金面对这一次的AI大潮万变不离其宗找到适合自己的道路20232023我们也曾很焦虑：2023年3月，国内千亿大模型创业如火如荼，团队躁动不安“老板，再不动手训大模型就落伍了对于AllinAI七年的猎户星空训练千亿大模型本质上是资本的投入只有做千亿大模型才是唯一路径吗？大力发展Copilot应用的微软成为最大赢家WindowsCopilotOfficeCopilot不是只有跟随OpenAI才能成功20234月大模型创新的两种模式训练千亿级模型垂直模型寻找应用场景挖掘应用场景垂直模型打造最适合模型20232023内部生长出AI应用对外提供咨询服务4月3月CFO助理写出的小工具自设计线上服务机器人自写小工具自建应用开发交流平台垂直技术领域，AI可能带来生产力的跃迁应用组件模型组件月320236月4月月320236月4月朱啸虎：大模型对创业者很不友好?傅盛：做好应用，依然是创业者最好的机会！纸上得来终觉浅绝知此事要躬行2023年5月客户问:能否帮我私有化部署大模型A100x8服务器每台价格约160万，只能满足很小的并发请求恰逢其时LLaMA来了开源社区使得千亿参数大模型性能护城河消失小参数模型能力迅速提升忽然一夜开源来千模万模智能开AI大模型进入二元对立时代更小资源更专业性能更小资源更专业性能更灵活配置更全面性能更大的算力数据&应用≈百亿参数基座千亿参数数据&应用≈百亿参数基座大模型数据图表I文案打磨I创意脑暴I合同审核客户案例，通过百亿参数+应用打磨专业回答问题超越GPT-4%回答准确率60%回答准确率Part3每个企业都有私有化大模型的时代到来了三个时代企业核心价值的变化互联网和信息化经营数据和数智化AIGC到底是什么？CICIC2C2C3私有数据企业经营数据私有数据企业经营数据数字员工和辅助决策才是真正的AI提效公有数据公有数据专岗私有数据企业经营数据ChatGPT只从公开出版物上获取数据互联网公开大数据互联网公开大数据GPTStoreGPTStore推出GPTStore调侃的说：给ChatGPT短期内可以提高效率都可能在帮你的竞争对手成长甚至ChatGPT成了你的竞争对手山姆·奥特曼只给了我500美金OpenAI代金券却毁掉了我300万美金的初创公司为了让企业有持久竞争力应该使用私有化大模型让经营数据内循环生长企业实现应用AI的王者段位Part4猎户星空大模型为企业应用而生我们更关心百亿模型我们更关心百亿模型用的好不好刷分高不高是时候打造我们的百亿参数模型了训练千亿级模型挖掘应用场景垂直模型垂直模型寻找应用场景打造最适合模型七年磨一剑场景认知数据积累顶级团队场景认知数据积累顶级团队算法理解应用打磨七大应用微调方向七大应用微调方向千元显卡即可运行猎户星空大模型千亿效果用得好用得起用得安心为什么有些大模型在榜单上靠前，用起来一般般?对大模型来说，C-EVALHellaSwag（没有刷过题）所以遇到没有见过的新问题时，它的水平是一致的行业领先的百亿参数大模型基座能力模型CMMLU学科MMLU学科C-EVAL知识AGIEval知识Lambada理解RACE理解HellaSwag推理BBH推理Orion-14B70.670.072.854.778.878.556.5LLaMA2-13B38.455.030.976.558.945.6Skywork-13B62.759.143.684.148.3Baichuan2-13B59.559.070.849.0QWEN-14B70.267.990.380.253.7InternLM-20B59.062.158.844.683.378.152.5基于第三方机构OpenCompass独立评测结果700亿参数以下基座模型中文第一一次读入一本小说在三十万文字中任意位置随机隐藏关键信息，对模型进行提问，推理速度提升30%推理速度提升30%(GB)(tokens/s)C-EvalRACEHellaSwagOrionStar-14B28.072.870.670.093.378.5OrionStar-14B-INT48.369.869.293.178.0猎户星空大模型小企业专用版为满足小企业需求推出量化后智能水平几乎无损的版本为满足小企业需求推出量化后智能水平几乎无损的版本多语言能力多语言能力日语、韩语评测百亿模型全球第一69.179.567.666.5Baichuan2-13B58.750.865.864.565.446.363.755.3Yi-34B58.768.8-70.7--KOGPT-6B-70.1--StableLM-7B---52.3---Weblab-10B50.7---ELYZA-7B48.8---日文为JNLI等8项评测集平均得分；韩文为COPA等4项评测集平均得分；中文英文为OpenCompass对应语言评测集平均得分即便在评测成绩上超越了某些更大参数的模型但坦率地说，跟GPT-4的全面性还是有差距企业应用场景可超越GPT-4猎户星空大模型下一个用得好用得好为了企业更好应用独家推出微调全家桶猎户星空大模型猎户星空大模型同头部客户一起同头部客户一起-用检索的方法配合大模型进行任务处理，可以很好的使用企业数据进行知识问答知识片段：1、新浪科技：周鸿祎解释为啥喜欢穿红衣服：提醒别人叫对2、腾讯云：...会上主持人调侃360集团创始人、董事长新浪科技：周鸿祎解释为啥喜欢穿红衣服：提醒别人叫对名字...腾讯云：...会上主持人调侃360集团创始人、董事长周鸿祎喜RAG开源框架很多,可现实很骨感一周出Demo半年用不好VectorVectorDatabaseLLMAPI休闲跑步(普通普通RAG套件)休闲跑步(普通普通RAG套件)猎户星空大模型RAG套件Q2EQ2EQ2Q2CoT猎户星空传统NLP技术插件猎户星空传统NLP技术插件CPTCPT场景化场景化SFT猎户星空大模型基座猎户星空大模型基座课程解析回答正确率课程解析94.5%课程解析课程解析回答正确率课程解析回答正确率52.88%胡编乱造让大模型像人一样工作自主完成任务。拆解任务目标·制定任务规划·使用外部工具查询知识库I调用记忆I与企业系统打通做应用所需的猎户星空大模型均接近GPT-4水平100%90.3%91.07%100%90.3%91.07%%%意图识别成功率首轮抽参成功率多轮抽参成功率缺槽反问成功率插件调用成功率一般的百亿参数大模型表现不超过70%猎户星空大模型RAG和Agent套件企业数字员工应用最牛套件企业经营数据私有数据企业经营数据私有数据公有数据公有数据私有数据企业经营数据大模型服务器可放置于企业内网所有数据不连公网I免费I开源I可商用I社区技术支持猎户星空百亿参数大模型企业标配首选私有数据企业经营数据私有数据企业经营数据用好企业定制应用才是王者段位公有数据公有数据私有数据企业经营数据让老板对经营细节全掌握人力资产人力资产、云资产、数字资产，全天候细节无遗漏更多老板助手定制云资产助手创意助手人力助手猎户星空大模型1定制服务为你的企业插上AI翅膀2LLM战略建设4实施与测试6交付与培训 小公司深度不足大厂不愿做保姆“最后一个知道公司要倒闭的人。“上层很热，中层温暖，底层很冷。你听得到一线的呼声吗？让一个老板可以看2000名员工的周报帮助公司发掘真正的核心员工傅盛三问老板（二）你知道公司云成本花到哪里了吗？云资产助手傅盛三问老板（三）你是否为新营销策略决策而苦恼？创意助手多AI智能体智囊团，让各领域专家为你2024年预测1千亿大模型过半凋零，私有化百亿大模型百花盛开2超越OpenAI的机会来自大模型应用公司3具身智能很火，但人形机器人必定不能量产亮点回顾ThinkDifferent规律不断应验企业经营数据私有数据企业经营数据私有