2024AI大模型时代应用

AI模型时代应用LargeModels,ChatGPT,GenerativeAI,andEducation2024年目录1 AI大趋势2 ChatGPT现象3 对教育的思考基建：道路、城市…交通：车辆、飞机…产业：工厂、机床…生活：家居、生活服务…数字化3.0:基建：道路、城市…交通：车辆、飞机…产业：工厂、机床…生活：家居、生活服务…大脑、身体、器官…生物电子芯片、脑机接口…基因、蛋白质…细胞、分子…数字化1.0&2.0：原子比特数字化3.0：比特原子+分子人工智能：机器学习智能和知识的探索逻辑，哲学规则与决策树神经科学神经网络统计数据朴素贝叶斯算法马尔科夫算法1956

1970-1980s

基因编程心理学支持向量机1990s

2006

2011IBMWatson首次亮相

2012“Google大脑”识别猫脸

2016AlphaGo战胜世界最强棋手

2017AlphaZero对弈

2020AlphaFold2高精度预测蛋白质结构1950s图灵测试

AI概念介绍

第一个AI冬天

1987-1993第二个AI冬天

机器学习和ANN的兴起

深度学习概念逻辑推理 专家系统 机器学习/深度学习(TheMasterAlgorithm,PedroDomingos,2017)AI/深度学习预训练，多模态，大模型,生成式深度学习强化学习 模仿学习 迁移学习

预训练

多模态

生成式LSTM RNN、CNN GAN

BERT,GPT-3语音识别

隐私安全人脸识别隐私安全

机器翻译NLP视频语义NLP

数据保护和治理

伦理和法规感知 认知 挑战物体分类 知识理解

透明性可解释性生成式AI高速发展“AIgtsct2年年度科学突破太空歌剧院由艺术家JasonAllen用文本到图像生成AIMidjourney制作，获得术比赛数字类别头奖(来源：https://\h/content/article/breakthrough-2022#section_ai)AIGC：图像生成GAN和DiffusionModels是最流行的图像生成模型DiffusionModels逐渐占主导地位，产生Midjourney,Diffusion等(图片来源：https://lilianweng.github.io/posts/2021-07-11-diffusion-models/)AIGC：由文本描述生成图像代表性平台Midjourney生成的图像真假难辨(图片来源：\h/midjourney-images-with-prompts)AIGC：可控图像生成ControlNet根据指定人物姿态，生成性别、衣着、环境各异的逼真图像(图片来源：https://\h/r/StableDiffusion/comments/1142dtt/controlnet_magicposer_app_realistic_vision)AIGC：DeepFake合成高度逼真的人像或视频(视频来源：https://\h/watch?v=oxXpB9pSETo&ab_channel=DiepNep)AIGC：语言大模型从词向量预训练转向双向语言模型，并最终转向生成式预训练word2vecBERTGPT-2GPT-12013年 2017年 2018年 2019年 word2vecBERTGPT-2GPT-1ELMo GPT-3ELMoGPT-3(Devlinetal.,2018)基础大模型(ChatGPT+,AIGC)预训练，自监督学习（MASK），（GPT4==》AutoGPT，GPT4+，。。。）PLLM+SFT指令微调+多项下游任务）人类反馈强化学习（RLHF）--训练奖励函数 =》对齐（EmergenceandHomogenization）：人的大脑工作原理规模效应带来质变，ChatGPT现象人类历史上最受欢迎的产品：2个月1亿用户（2022年12-2023年1月底）全球范围影响力巨大：远超AlphaGo提供用户界面：不完美但高价值获得各界高度评价，诞生若干“时刻”Gates：“GUI时刻”，地位类似PC、互联网……小度天猫精灵我的“ChatGPT”时刻！小度天猫精灵通过“图灵测试”对话式AI（conversationalAI）/聊天机器人已有50+年研究历史SiriCortanaAlexaGoogle第一个智能体（generativeAI）通过“图灵测试”SiriCortanaAlexaGoogleELIZA（伊莉莎）--JosephWeizenbaumMIT1966年，临床治疗中模仿心理医生我的“ChatGPT”时刻！（深度学习2.0）人脸围棋通识务 务人脸围棋通识语音 图像语音图像蛋白质自动驾驶蛋白质自动驾驶基础大模型常识翻译……基础大模型常识翻译我的“ChatGPT”时刻！GPTOS重构/重塑Intelx86+Windows+浏览器+应用PC互联时代Intelx86+Windows+浏览器+应用PC互联时代ARM+iOS/Andriod+应用商店+APP移动互联时代ARM+iOS/Andriod+应用商店+APP移动互联时代GPU/CPU/XPU+基础大模型+IAAS+垂直模型+SAASGPU/CPU/XPU+基础大模型+IAAS+垂直模型+SAAS智能时代未来的技术架构未来方向：效率当前的大模型稠密激活，计算效率远低于人脑，商用成本高昂改进方向：稀疏激活网络、效果更优的小网络等等 1.2～1.6kg,1015突触连接，约20瓦

10000块V100训练14.8天，单块V100250瓦(Pattersonetal.,2021;/wiki/%E4%BA%BA%E8%85%A6;https://\h/full-guide-gpt-3)未来方向：模型交互模型间如何互相调用？模型如何使用工具？基础大模型1如何联邦？基础大模型2基础大模型1如何联邦？基础大模型2垂直模型1垂直模型2垂直模型N工具未来方向：边缘部署边缘端算力有限，如何在边缘端利用基础大模型？数据数据边缘小模型基础大模型边缘小模型基础大模型边缘小模型边缘小模型AIGC大模型将带来新范式——生成AIDiscriminativeAIGenerativeAI:

What?GenerateImage,Video,Speech,Music

GenerateTextCodeTools

GenerateMoleculeDrugsMaterialsEquations(AI4S)

通用人工智能How?Why?通用人工智能总结：AI大模型时代多算法/多任务/多模型统一算法/多模态/预训练大模型ChatGPT:通过“图灵测试”，通识，开启通