版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
科技先锋系列报告260从美国科技巨头布局看大模型演进方向2023年3月29日一、美股科技巨头、软件企业在AI领域的布局21.1美股科技巨头近期在AI领域的动作美股科技巨头近期在AI领域的动作公司时间事件2022.11.22023.1.22023.1.282023.1.302023.2.32023.2.62023.2.92023.3.8推出AI写作工具LaMDA
Wordcraft推出基于文本生成图像的AI模型“Muse”发布生成式AI音乐模型MusicLM向人工智能初创公司Anthropic
AI投资约3亿美元“未来几周或几个月”推出类似ChatGPT的基于人工智能的大型语言模型谷歌谷歌宣布将推出一款聊天机器人—Bard谷歌表示将推出由人工智能驱动的新搜索和地图功能谷歌发布五千亿参数语言大模型PaLM,并微调出跨模态模型PaLM-E2023.1.232023.2.2开启对OpenAI的第三轮投资宣布将OpenAI相关产品导入旗下云计算、Office、Bing、Viva
Sales等产品中2023.2.7正式推出由ChatGPT支持的最新版本Bing(必应)搜索引擎和Edge浏览器2023.2.22宣布为iPhone和Android发布新的必应和Edge预览版应用程序,其中包括语音搜索和访问其AI聊天机器人等新功能微软宣布将发布集成ChatGPT能力的Office,并已经开始在Azure公有云服务中提供OpenAI模型OpenAI公开发布大型多模态模型GPT-4,与ChatGPT所用的模型相比,GPT-4不仅能够处理图像内容,且回复的准确性有所提高微软公司宣布将通过Microsoft
365
Copilot将下一代AI的强大功能引入其工作场所生产力工具微软2023.3.82023.3.142023.3.163资料:各公司官网,中信证券研究部1.1
美股科技巨头近期在AI领域的动作
微软三次投资OpenAI,推进公司人工智能水平。微软于2023年1月23日宣布将向OpenAI开展“多年、百亿级美元”的投资,此前在2019年微软已经投资10亿美元,并在2021年再次投资。此次合作后,微软将增加对超级计算系统的投资,在Azure中部署OpenAI程序,包括GPT、DALLE、Codex,同时微软将作为OpenAI的独家云提供商,Azure将为OpenAI提供所有的工作负载。
旗下产品与ChatGPT深度融合,未来有望加速AI产业化落地。此次合作中,微软宣布将把OpenAI的相关产品介入到旗下云及其他产品中,我们认为此举对微软云计算以及其他业务的发展具备重要意义:1)强化Azure在AI领域的能力,丰富微软在语义等领域的实力。2)与旗下Office产品达成更强的协同,以ChatGPT为代表的相关产品对文字补写、代码辅助编辑等具备特殊优势。3)引入bing搜索,优化体验。微软将其引入搜索后,将对搜索结果的匹配以及体验带来改善。微软投资OpenAI历史微软战略布局AI的意义201920212023•••微软宣布投资OpenAI10亿美元,此时OpenAI更新GPT2模型,将参数从1.24亿提升至7.74亿。•••强化Azure在AI领域的能力,丰富微软在语义等领域的实力。云微软对OpenAI追加第二轮投资,OpenAI发布基于GPT3的能够连接图像与稳步的神经网络CLIP,发布从文标题创建图像的模型DALL·E。与旗下Office产品达成更强的协同,以ChatGPT为代表的相关产品对文字补写、代码辅助编辑等具备特殊优势。Office微软宣布将向OpenAI开展“多年、百亿级美元”的投资。引入Bing搜索,优化体验。微软将其引入搜索后,将对搜索结果的匹配以及体验带来改善。Bing搜索4资料:OpenAI官网,微软官网,中信证券研究部资料:OpenAI官网,微软官网,中信证券研究部1.1
美股科技巨头近期在AI领域的动作
谷歌一直致力于AI技术的研发与实践,是该领域的领先者。2016年3月,谷歌DeepMind研发的AlphaGo在围棋人机大赛中战胜韩国职业九段棋手李世石,成为AI领域发展的标志性事件之一。从论文数量看,2021年谷歌有177篇论文被NeurlPS(目前人工智能算法的最高期刊)接收并发表,数量遥遥领先。
TPU
+
Tensorflow软硬一体,构筑AI护城河。谷歌基于早期技术,在DistBelief基础上创造了Tensorflow的AI框架;同时,公司研发出专属Tensorflow的运算芯片TPU,以软件+硬件的形式,实现独特的AI技术能力。在神经网络算法方面,2017年谷歌推出的Transformer也逐渐成为了主流,为大模型的训练提供技术支持。谷歌TPU技术能力全球商用AI框架市场份额结构(2021)发布日期40.0%35.0%30.0%25.0%20.0%15.0%10.0%5.0%芯片名称性能应用深度学习推理TPU201628nm制程,主频700MHz机器学习训练与推理,可以在Google
computer
engine运行180TFLOPs浮点运算,64GB
HBMTPUv2TPUv32017420TFLOPs浮点运算,128GB
HBM更广泛的深度学习训练和推理20182018EdgeTPU企业级机器学习任务,主要为AI推理高吞吐量串流资料每秒11.5千万亿次浮点运算、4TB
HBM、二维环面网状网络TPUv2Pod20192019深度学习推理深度学习推理0.0%TPUv3Pod超过100千万亿次浮点运算、TensorflowOpenCVPyTorchKerasOthers32TB
HBM5资料:智东西,谷歌TPU网站,中信证券研究部资料:AIwatch,中信证券研究部测算1.2主流软件企业广泛布局AI领域主流软件企业广泛布局AI领域子领域公司应用Five9在其云联络中心利用人工智能作为虚拟客服,实时传递客户请求。RingCentralZoom对话式人工智能AI
SmartAssist分析客户需求并帮助客户更快地获得响应。发布虚拟客服,建立全渠道联络中心,帮助客户将其人力用于更复杂的疑问。使用对话智能技术来帮助企业达成交易并改善他们的销售流程。NLP(自然语言处理)ZoomInfoQualtricsSprinklrAppian利用文本情感分析,通过其管理平台和应用程序,根据用户生成的数据创建报告。其客户体验管理(CXM)平台对来自多个渠道的非结构化数据利用人工智能进行文本情感分析,以了解客户是如何看待一个品牌的。利用计算机视觉进行图像处理和信息&数据提取,打通工作流程自动化的全流程计算机视觉AdobeSensei将计算机视觉进一步扩展到设计空间,作为Adobe
Experience和Creative
Cloud平台中的AI应用层通过其自动化引擎(包括RPA
Hub和文档智能应用程序)
,允许用户实现人工智能驱动的计算机视觉任务监控和工作流自动化。ServiceNow6资料:各公司官网,中信证券研究部1.2主流软件企业广泛布局AI领域主流软件企业广泛布局AI领域子领域公司应用Zeta在Zeta数据云上构建预测建模应用程序,允许用户全面收集客户信息,并全面分析留存行为等。利用其人工智能产品Einstein,通过销售云平台为销售团队提供了广泛的预测建模用例。预测模型SalesforceDatadogSplunk其Watchdog引擎自动检测关键运行状况性能异常,通过自动化分析解决代码问题并确定问题依赖关系,还可以修复工作流问题并发现延迟异常值。自动关联事件以缩短其平均解决时间;提供异常检测以在问题影响性能之前预测和预防问题;其机器学习工具包为用户提供了监控和生成警报的能力。异常检测Elastic使用AI/ML分析最终用户、基础设施和应用程序监控数据来检测异常,并加速问题解决。Palo
Alto
Networks
在安全方面使用异常检测技术,为云提供防火墙和保护产品。CrowdStrike利用AI/ML进行异常检测,以实现网络安全解决方案。7资料:各公司官网,中信证券研究部1.3
AI产业结构AI产业结构硬件云服务基建层算法ResNetOPT-175BMake-A-VideoGPT-3CodexDALL-E2AlphaZeroAlphaFoldGatoBERTViTDreamFusionConstitutional
AI模型获取数据准备模型训练模型评估模型部署模型监控工作流大语言模型多模态模型智能控制:机器人、自动驾驶、边缘计算&联邦学习自然语言:NLP开发、文案生成(电商/新闻/法律)、对话机器人(销售客服/情感陪伴)、笔记图片:图片生成、图片识别、3D建模生成AL
for
science:医学、物理、化学、材料科学应用音视频:音频识别、音视频剪辑、音视频生成、Avatar生成AI安全:模型安全、可控生成、AI可解释性机器语言:代码生成(关注RPA交互生成问题)、8资料:海外独角兽微信公众号,中信证券研究部1.3
AI产业结构机器学习工作流拆解数据准备模型训练模型部署产品整合Data
Opsoutput:矩阵(X,y)role:数据工程师output:模型f(X,y)role:数据科学家output:f(X_hat)→y_hatrole:算法工程师output:产品生产环境role:后端工程师工作流管理:Prefect,Airflow数据标注(y)Sacle,Snorkel特征仓库(X)Tecton,FeastML
APIsOpenAI,Cohere,AWS,AzureDataInfraETL模型库Hugging
Face产品数据科学平台Jupyter,Databricks,Sagemaker,ColabBI
Tools查询工具:Hive,Presto数据科学工具:Spark,Numpy,Pandas实验管理(模型性能)Weight
and
Bias,Neptune模型部署和serving(使用性能)BentoML,OctoML,Tensorflow/Pytorch/Ray
ServingML框架:Scikit-learn,XGBoostDL框架:Tensorflow,PyTorchRL框架:Gym,Dopamine向量搜索数据库Pinecone模型监控(模型可用性与解释性)Arise,Fiddler,Arthur,WhyLab分布式计算:Ray(Anyscale),Dask9资料:海外独角兽微信公众号,中信证券研究部二、科技巨头大模型比较及格局推演102.1ChatGPT:加入人类反馈学习,优化问题、答案之间匹配精准度ChatGPT发展历程2018.62019.12020.52022.12022.112023.3GPT-1GPT-2GPT-3InstructGPTChatGPTGPT-41.17亿15亿1750亿13亿未公布未公布参数量在大规模数据上对Transformer
模型进行无监督预训练,再在小规模有监督数据集
解决零次学习问题上精细调节。
(zero-shot),使得该模型在测试常识推
模型更具通用性。理和阅读理解的数据集上获得了最先进的结果数据量指数级增加,可利用少量样本学习,贴近人脑学习模式。在数据收集设置上优化连接大量真实语料库,能够支持多轮对话、结果修正,人机交互效果更好、更快、更高效。模型处理复杂问题的能力进一步提升,同时解决了部分对于办公软件最重要的多模态输入问题。引入RLHF,微调后能更好地遵循用户意图,泛化能力极大提升。此外,基于GPT-3模模型更新型微调在其他领域包括代码生成、图像生成、数学算数等产生了应用。11资料:OpenAI,中信证券研究部2.1ChatGPT:加入人类反馈学习,优化问题、答案之间匹配精准度ChatGPT的技术逻辑:RLHF的主要改变在于人工监督数据与调整后的奖励模型12资料:OpenAI,中信证券研究部2.1ChatGPT:加入人类反馈学习,优化问题、答案之间匹配精准度Real
Toxicity数据集likehoodTruthfulQA
数据集likehood0.240.230.220.210.20.450.40.350.30.250.20.150.10.190.180.170.050GPTInstructGPTGPTInstructGPT有监督微调有监督微调资料:OpenAI,中信证券研究部
注:纵轴为与真实答案的最大相似度资料:OpenAI,中信证券研究部
注:纵轴为与真实答案的最大相似度Hallucination数据集likehoodCustomer
Assistant
Appropriate数据集likehood0.450.40.920.90.350.30.880.860.840.820.80.250.20.150.10.780.760.050GPTInstructGPTGPTInstructGPT有监督微调有监督微调资料:OpenAI,中信证券研究部
注:纵轴为与真实答案的最大相似度资料:OpenAI,中信证券研究部
注:纵轴为与真实答案的最大相似度132.1GPT-4:增强求解能力、多模态、安全性GPT-4相比于3.5在大多数AP考试科目上都取得了显著进步加入了更多人类生成数据以及专家数据多模态能力成为GPT-4加入的新亮点安全性提升与编造内容的减少资料:本页所有图片均来自OpenAI2.2
微软的商业化途径:云计算层面
微软提供OpenAI
Service服务,提供OpenAI系列Model的Fine
Tuning、部署、推理、监控等全方位服务,而Azure与AI相关的机器学习平台、数据湖仓等工具亦将配合产生作用。我们认为,与OpenAI的全面合作将有助于快速提升公司在AI
PaaS领域的市场份额,推动相关收入和整体利润率提升。微软AI在自身的商业化资料:微软官网152.2
微软的商业化途径:软件层面
会议产品-Teams
premium:Teams
Premium定价为10美元/User,在2023年7月前提供30%的折扣。相较于基础版本产品,Teams
Premium最大的亮点就是Chat
GPT能力的融入。
代码托管&编写-GitHub:GitHub
Copilot由OpenAI
Codex模型进行赋能,伴随GPT模型的持续更新,Copilot底层的模型能力亦将快速迭代升级,一方面将加速Copilot功能的渗透;另一方面将有利于Devops流程向GitHub平台的迁移,使微软在Devops环节获得更大份额。
文档编辑-Office:OpenAI
GPT模型和Office
Word、Outlook和PowerPoint等套件的整合将加速客户向E3/E5版本的迁移进程,进而加速Office
365客户ARPU的提升。每10%
Office
365
E3席位向E5席位的转化将带来50亿美元以上的业绩增厚。
ERP&CRM产品-Dynamics
365:Viva
sales定价为40
USD/用户/月。集成ChatGPT能力后,Viva
sales能够为各类场景自动生成建议的邮件回复内容,这种集成将助力Viva
sales的推广,进而提升微软在CRM市场的整体竞争力。软件:AI渗透率每提升10%预计对应百亿美元收入增长1、产品Githuboffice
365Teamspower
apps合计功能付费用户数(亿)用户AI能力订阅费用/月(美元)代码托管&编写文档编辑0.9542.8110101010视频会议流程自动化等8.752、敏感性测试:用户AI订阅率1%微软年新增收入(亿美元)11212%5%5310%15%20%10515821016资料:微软公司财报,中信证券研究部测算2.2微软的商业化途径:在线搜索层面微软上线新版Bing搜索引入GPT能力
搜索广告份额每提升1pcts,则对应收入增长20亿美元。2022年,全球整个数字广告市场超过5万亿美元,微软最大的两个数字
广
告
业
务
是
搜
索
和
新
闻
广
告
以
及LinkedIn。根据emarketer数据,全球在线搜索&新闻广告市场规模在2000亿美元以上,未来若Bing在在线搜索市场份额每提升1pct,预计对应增厚公司广告收入约20亿美元,与当前公司在全球搜索市场大约3%的市占率相比,远期空间值得期待。资料:Bing,中信证券研究部浏览器Edge下载量爆发式增长,Bing份额提升值得期待17资料:七麦数据2.3谷歌:大模型储备丰富,有待商业化落地谷歌大型语言模型总结LLM描述主要用途基于Transformer的双向编码器表示;2019年首次推出,并整合到谷歌搜索。BERTLaMDAPaLM改进的自然语言处理,以回答更复杂的搜索查询基于开放式对话的文本生成对话应用语言模型;建立在Transformer上的神经语言模型,基于对话的文本进行训练,能够进行更多开放式对话;在谷歌
I/O
2021首次亮相,LaMDA
2在一年后(谷歌
I/O
2022)亮相。基于谷歌提出的下一代
AI
架构Pathways训练,支持泛化任务的处理;单一模型能够很好的支持语言理解和生成、推理、模式识别、翻译、代码生
使单个模型具备领域泛化和任务泛化能力成等不同功能。在互联网文本数据上进行训练并针对对话进行优化;与用户交谈并回答问题,同时实时使用谷歌搜索出相关的信息来支持它的答案Sparrow利用RLHF来改善其行为并出现降低不正确答案的风险。18资料:Google,中信证券研究部2.3微软vs谷歌OpenAI与Google大型语言模型研发历程2018年6月2022年3月OpenAI发布基于TransformerDeconder的GPT-1,1.1亿参数OpenAI发布2019年2月OpenAI发布GPT-
OpenAI发布GPT-2,15亿参数
3,1750亿参数2020年5月InstructGPT,用到Instruction
Tuning和RLHF2022年12月OpenAI发布ChatGPT2017年6月Google发布Transformer,成为后来所有LLM的基础架构;DeepMind提出RLHF方法2018年10月Google发布编码器的BERT(最大3.5亿参数),用于微调下游任务2019年10月Google发布基于TransformerDecoder的T5,兼容BERT和GPT的下游任务2021年10月
2021年11月2022年1月2022年4月2022年9月Google发布FLAN,转向DeepMind发表Gopher(2800亿
(1370亿参数),称
(5400亿参数,
Sparrow,加入Google再发LaMDA
Google发布PaLM
DeepMind发布decoder-only,
参数),加LLM
其具有“意识”提出Instruction
大战Tuningdecoder-only),
RLHF和Retrival提出神奇的思维链
(GoogleSearch)19资料:Google,OpenAI,中信证券研究部2.3微软vs谷歌OpenAI与Google部分大型语言模型对比LaMDASparrowChatGPT/
InstructGPT组织GoogleDeepMindOpenAI能否公开访问否有限否参数量1370700亿1700亿/13亿亿预训练语料库大小(词数)模型是否可以访问网络有监督微调2.81T是1.4T是未知否有有有RLHF有有无人为制定的安全规则有无有20资料:Google,OpenAI,中信证券研究部2.3微软vs谷歌为什么不是谷歌关键因素技术路径OpenAI谷歌同一路线,资源聚焦:明星众多,内部赛马,资源分散:从
18
年
起
一
直
沿
着
GPT
路
线
持
续
发
力
,
通
过GPT1/2/3/3.5,InstructGPT的不断技术探索。采用赛马制,多个模型的团队,方向分散以产品为导向,形成数据飞轮:注重发论文,成果未做产品化:在研发过程中未引入真实用户数据,而是科研人员自己编写的指令。积极推出产品,迅速获取用户,获取用户反馈数据训练出更好的模型,实现良性循环。OpenAI发布GPT-3后迅速开放商用API服务,获取真实
模型路线选择:科研思维用户数据。发布了很多模型:语言模型PaLM、GLaM、对话模型ChatGPT的训练过程:LaMDA、LaMDA2等,但都未产品化。
采用GPT-3API获取的真实用户请求微调基础模型DeepMind以前重点关注AI4S,2021年才重视大模型方向,研发的基础语言模型Gogher、Chinchilla和对话模型Sparrow均未产品化。引入RLHF训练机制,采用人工标注的数据,通过人类的反馈,针对性地进行模型优化。资料:智源研究院,中信证券研究部212.4产业影响:向传统搜索引擎为主+大语言模型为辅演变
目前ChatGPT的技术路径难以在较短时间内解决搜索成本的问题,因此从分场景限制用量的思路出发,中短期内ChatGPT可以通过部分技术改进辅助传统搜索引擎实现用户体验大幅提升。ChatGPT的成功不会给搜索产业带来颠覆性的新入局者,但会推动谷歌等搜索巨头加快迭代大语言模型辅助传统搜索引擎的新格局。将ChatGpt以侧栏模式作为对传统搜索引擎的补充将答案产生的引用注明给用户,使其快速检验回答的可靠性资料:Google,中信证券研究部资料:Deepmind,中信证券研究部222.4产业影响:使AI算法模型迈向新阶段
ChatGPT的成功一改往日大模型依靠堆积数据量的训练方式,RLHF(人类反馈强化学习)和Reward
model(奖励模型)是其核心训练逻辑。ChatGPT的成功推动AI算法模型展现出更加明晰的发展脉络,使行业迈向了兼顾经济性与可使用性的新发展阶段,展望未来,模型开放+快速优化迭代或将成为AI实现大规模应用落地的终极发展形态。AI算法模型发展历史及对应表现23资料:中信证券研究部绘制2.4产业影响:有望加快AI产业商业化落地进程OpenAI商业模式:目前以API调用、出售Token等为主GPT-4ModelPromptComletion8Kcontext32Kcontext$0.03/1K
tokens$0.06/1K
tokens$0.06/1K
tokens$0.12/1K
tokensChatModelUsagegpt-3.5-turbo$0.002/1K
tokensInstructGPTAda(Fastest)Babbage$0.0004/1K
tokens$0.0005/1K
tokens$0.0020/1K
tokens$0.0200/1K
tokensCurieDavinci(Most
powerful)Fine-tuningmodelsModelTrainingUsageAda$0.0004/1K
tokens$0.0006/1K
tokens$0.0030/1K
tokens$0.0300/1K
tokens$0.0016/1K
tokens$0.0024/1K
tokens$0.0120/1K
tokens$0.1200/1K
tokensBabbageCurieDavinciEmbedding
modelsModelAdaUsage$0.0004/1K
tokens24资料:OpenAI,中信证券研究部2.5、格局演变:技术资本积累丰厚,科技巨头有望占据主导地位
开源vs闭源:由于具有资本、研发、用户等多个维度的领导地位,科技巨头一般引领基础大模型的发展,一般情况下科技巨头会选择将落后一个版本的模型开源(比如GPT-2开源,GPT-3则为闭源);此外其他一些创业团队或者科研组织也有可能会贡献开源模型,在HuggingFace这类开源社区供开发者调用。整体上来说,由科技巨头主导的闭源模型在技术上更为领先,而开源模型由于能够灵活调整、自行优化也会有对应的需求(比如国内多数互联网厂商基于BERT进行开发)。
科技巨头vs创业公司:由于能够在模型、算法层面实现引领,同时在基础设施等层面优势巨大,科技巨头将主导AI产业的发展。而创业公司有望凭借下游细分场景下独特的数据优势实现差异化的应用创新,比如基于生物医药的数据辅助进行医疗类文档的生成等等。开源社区追赶LLM模型时间线闭源模型开源模型2022年5月OPT(175B)2021年9月FLAN(137B)年
月2022
3年
月2022
8GLM(130B)Chinchilla
70B()2020年6月GPT-3(175B)2022年1月LaMDA(280B)2022年4月GPT-NeoX(20B)2022年6月BLOOM(176B)25资料:海外独角兽微信公众号,中信证券研究部2.5、格局演变:技术资本积累丰厚,科技巨头有望占据主导地位ChatGPT产业结构下游应用算法模型算力基础Apps下游应用没有专有模型的面向最终用户的B2B和B2C应用程序End-to-End
Apps如:Jasper,
Github
Copilot具有专有模型的面向最终用户的应用程序模型中心共享与托管模型闭源基础模型通过API公开的大规模预训练模型如:GPT-3
(OpenAl)如:Hugging
Face,
Replicate算法模型如:Midjourney,
Runway开源基础模型如:StableDiffusion
(Stability)云计算平台在云部署模型中向开发人员公开的计算硬件如:
AWS,
GCP,
Azure,
Coreweave算力基础计算硬件针对模型训练和推理工作负载优化的芯片如:GPUs(Nvidia),
TPUs
(Google)26资料:a16z,中信证券研究部附录:美股科技公司财报中AI相关表述27美股科技巨头财报表述:微软微软财报中相关表述
战略:我们正在见证基础模型能力的非线性改进,我们正在将其作为平台能力提供。随着客户选择他们的云供应商并投资于新的工作负载,我们完全有能力抓住成为AI领导者的机会。我们在云端拥有最强大的人工智能超算基础设施,OpenAI等客户和合作伙伴正在使用它来训练最先进的模型和服务,包括ChatGPT。
平台:就在上周,我们宣布了Azure
OpenAI服务的公开可用,已经有超过两百多个客户开始使用,我们将很快添加对于ChatGPT的支持。合作:我们宣布完成了与OpenAI的下一阶段协议,很高兴成为他们的独家云供应商。随着公司继续推动人工智能最先进的技术,公司将在消费者和企业产品中部署OpenAI的模型。
应用:GitHub
Copilot是为这一时代构建的第一个大规模AI产品,从根本上改变了开发人员的生产力。到目前为止,已有100多万人使用了Copilot。本季度,我们将Copilot引入企业,我们看到了Duolingo、Lemonade和大众汽车等公司的强烈兴趣和早期采用。应用:我们在RPA方面处于领先地位,Power
Automate拥有45000多名客户(同比增长超过50%),我们正在让所有人都更容易实现重复任务的简化,引入新的人工智能功能,将自然语言提示转化为复杂的工作流程。基础设施:我们从根本上相信,下一波大的浪潮将是人工智能主导;我们还认为,只要能够抓住这些浪潮,然后让这些浪潮影响我们技术堆栈的每个部分,并创造新的解决方案和新机会,就能创造更多企业价值。在过去3-4年,我们一直在非常努力的构建训练基础设施,现在也在构建推理基础设施。因为一旦你在应用程序中使用AI,它就从繁重的训练任务变成了推理任务。因此,Core
Azure本身正在为核心基础设施业务的演进而进行转型。资料:微软2022Q4财报业绩发布会,中信证券研究部28美股科技巨头财报表述:谷歌谷歌财报中相关表述
领先地位:人工智能是我们今天正在研究的最深刻的技术。随着人工智能达到拐点,我们才华横溢的研究人员、基础设施和技术使我们处于非常有利的位置。6年多前,我第一次谈到谷歌是一家AI-first
company。事实上,我们2017年提出并发布的Transformer,以及我们在扩散模型方面的开创性工作,是许多生成式人工智能应用的基础。近期动作:将这些技术飞跃转化为帮助数十亿人的产品,是我们公司一直在努力的目标。我们将在符合原则和标准的前提下大胆地开展这项工作,在接下来的几个月里,您将看到我们在三大领域的巨大机遇:
1)大模型,我们此前已经发布了LaMDA和PaLM的研究成果,其中PaLM是业界最大、最复杂的模型。在接下来的几个月内,我们将从LaMDA开始陆续提供这些语言模型,人们从而能够直接参与其中。这样就能够帮助我们持续获得真实世界的反馈、测试并安全地改进模型。在搜索方面,BERT和MUM等语言模型已经改进了4年的搜索能力,包括显著优化了搜索排名及融入Google
Lens等多模态搜索。很快,人们将能够与我们最新、最强大的语言模型直接交互,以实验和创新的方式作为搜索伴侣。
2)开发工具,公司将为开发人员、创作者、合作伙伴提供全新的工具和API。这将使得他们能够创新和构造自己的应用程序,并在我们的语言、多模态和其他人工智能模型之上发现人工智能新的可能性。3)其他方面,谷歌云正在通过Cloud
AI平台向客户提供领先的技术输出,包括基础设施和Vertex
AI等为开发者和数据科学家提供的工具。我们还为制造业、生命科学和零售业等行业提供特定的AI解决方案。Workspace用户也将受益于AI驱动的功能,比如用于协作的Smart
Canvas和用于创作的Smart
Compose。我们正在努力将大模型融入Gmail和Docs,我们还将提供从编码到设计等其他有用的生成功能。
DeepMind:谷歌人工智能和DeepMind将是“AI-first
future”不可或缺的组成部分。为了反映DeepMind与谷歌服务、谷歌云和Other
Bets合作的日益加强。从Q1开始,DeepMind将不在Other
Bets中报告,而将作为Alphabet公司成本的一部分报告。
搜索集成:在搜索方面,现在我们可以在搜索中集成更多直接的LLM用例。我认为这是一个重新思考和重新想象的机会,并推动搜索为用户解决更多、更好的用例。所以在早期,你会看到我们很大胆的发布,得到反馈、不断迭代,让事情变得更好。
是资料:谷歌2022Q4财报业绩发布会,中信证券研究部29美股科技巨头财报表述:MetaMeta财报中相关表述
AI
discovery
engine:Facebook和Instagram的推荐内容正在从仅围绕你关注的人和账户,转向越来越多地展示我们的人工智能系统推荐的相关内容。生成式AI:生成式AI是一个令人兴奋的新领域,有很多不同的应用。我对Meta的目标之一是在我们研究的基础上,除了我们在推荐AI方面的领先工作外,也能成为生成式AI的领导者。
我们有很多贯穿各类产品的业务流程都在使用新技术,特别是LLM大语言模型和用于生成图像、视频、3D资产等的扩散模型,致力于能够真正增强创作者在应用中的生产力和创作力的事情。
我知道这里存在着一些令人非常兴奋的东西,但我想强调的是不要太过超前于它的发展。所以我想今年大家会看到我们会推出一些不同的东西,我们会谈论他们并分享他们的最新进展。我确实预计这个领域将能够迅速发展,我想我们会学到很多关于什么是有效的、什么是无效的。
在生成式AI领域很多东西都很昂贵,比如生成图像、视频或聊天互动。所以一个巨大的、有趣的挑战是我们将如何扩大规模,使这项工作更有效率,从而我们可以将它带到更大的用户群中。但我认为,只要我们能够走到,就会有许多令人兴奋的用例产生。我们将在未来几个月分享更多的细节。
资本投入:我们仍在计划大幅提高AI能力,目前资本开支的激增实际上是由于人工智能基础设施的建设。我们会衡量这些AI开支的投资回报率并为未来的开支提供信息。我们的意图仍然是降低资本开支占收入的比例,但最近的时间内,这实际上将部分取决于收入前景和我们为投资未来而进一步建设AI能力的需求。资料:Meta2022Q4财报业绩发布会,中信证券研究部30美股科技巨头财报表述:英伟达英伟达财报中相关表述
H100:仅在第二季度,H-100的营收就远高于A100,而A100的营收则连续下滑。这证明了H-100的卓越性能,在训练方面比A100快9倍,在基于transformer的大型语言模型推理方面快30倍。H-100将服务于大型语言模型推理的开发和规模化。人工智能:人工智能的应用正处于一个转折点。Open
AI
的
ChatGPT
已经引起了全世界的兴趣,这些新型的神经网络模型可以在广泛的任务中提高生产率,无论是生成文本(如营销文案)、汇总文档、为广告或视频游戏创建图像,还是回答客户问题,创成式人工智能应用将帮助几乎每一个行业做得更快。具有超过1000
亿
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 矿井环保聚氨酯保温施工协议
- 租赁合同范本:建筑设施
- 医疗资产捐赠分配指南
- 农民工防暑降温措施
- 航空航天项目招投标方案范本
- 粮食加工厂火灾风险控制
- 广告公司车位租赁协议范本
- 皮革厂防火门招标资料
- 影视基地转让合同范例
- 空气净化器生产经理招聘书
- 六年级上数学试题-圆的周长-练习题-人教版 无答案
- 事业单位招聘人员体检表
- 2020年重症医学科病人呼吸心跳骤停演练方案及脚本
- 物联网信息安全知识考核试题与答案
- 量子力学选择题库(含答案)
- 军乐队乐器种类以及人员编制
- 常见皮肤病讲稿
- 高中化学选修4《化学反应原理》全册教案
- 创建学习型医院实施方案
- 大学《通用英语1》 期中测试卷试题
- 新人教选择性必修一 Unit 4:Discover Useful Structures
评论
0/150
提交评论