6.2 新技术应用中的安全问题-上

第2节新技术应用中的安全问题-上第6章目

录01物联网技术应用02物联网安全问题03人工智能技术应用04人工智能安全问题01物联网技术应用物联网的概念定义物联网（Internetofthings，IoT）即“万物相连的互联网”，是互联网基础上的延伸和扩展的网络，将各种信息传感设备与网络结合起来而形成的一个巨大网络。可以实现任何时间、任何地点，人、机、物的互联互通。物联网的发展历程1991年1995年1999年2005年2015~2018年2020年后麻省理工学院（MIT）的KevinAsh-ton教授首次提出物联网概念比尔盖茨在《未来之路》中，提及“物物互联”这一概念MIT建立了“自动识别中心（Auto-ID）”，提出“万物皆可通过网络互联”国际电信联盟(ITU)，提出“物联网IoT”的概念阿里巴巴、百度、腾讯相继成立IoT物联网事业部随着5G的慢慢普及，物联网将爆发式发展物联网的关键技术应用层-数据处理网络层-数据传输感知层-数据采集射频识别（RadioFrequencyIdentification，RFID）技术，是一种利用射频通信实现的非接触式自动识别技术。RFID通过无线射频方式进行非接触双向数据通信，利用无线射频方式对记录媒体（电子标签或射频卡）进行读写，从而达到识别目标和数据交换的目的。感知层-RFID读写技术物联网的关键技术感知层-自动定位技术目前常见的定位技术主要有GPS卫星定位、蓝牙定位、WIFI网络定位、GPRS/CDMA移动通讯技术定位等。物联网的关键技术智能设备中的陀螺仪感知层-传感器技术传感技术利用传感器和多跳自组织传感器网络，协作感知、采集网络覆盖区域中被感知对象的信息，如：感知热、力、光、电、声、位移等信号，特别是微型传感器、智能传感器和嵌入式Web传感器的发展与应用，为物联网系统的信息采集、处理、传输、分析和反馈提供最原始的数据信息。物联网的关键技术感知层-嵌入式技术嵌入式系统是以应用为中心，以计算机技术为基础的，并且软硬件可量身订做，它适用于对功能、可靠性、成本、体积、功耗有严格要求的专用计算机系统。嵌入式系统通常嵌入在更大的物理设备当中而不被人们所察觉，如手机、PDA、甚至空调、微波炉、冰箱中的控制部件都属于嵌入式系统。物联网的关键技术感知层-NFC技术NFC（NearFieldCommunication，近距离无线通信）是一种在RFID技术的基础上，结合无线互连技术研发而成的能够提供轻松、安全、迅速的通信的无线连接技术。NFC目前主要应用在支付（银行卡、一卡通）、安防（门禁卡、电子门票）、标签等领域。与RFID的区别传输范围比RFID小距离比RFID近带宽比RFID高能耗比RFID低物联网的关键技术感知层-ZigBee技术ZigBee，也称紫蜂，是一种低速短距离传输的无线网上协议，底层是采用IEEE802.15.4标准规范的媒体访问层与物理层。特点有低速快速支持多种网上拓扑安全低成本支持大量网上节点低耗电低复杂度可靠物联网的关键技术蓝牙低能耗（BluetoothLowEnergy，或称BluetoothLE、BLE，旧商标BluetoothSmart）也称低功耗蓝牙，是蓝牙技术联盟设计和销售的一种个人局域网技术，旨在用于医疗保健、运动健身、信标、安防、家庭娱乐等领域的新兴应用。感知层-低能耗蓝牙技术物联网的关键技术无线传感器网络（WSN）是由大量无线传感器构成的自组织网络，其目的是协作地感知、采集和处理网络覆盖区域内对象信息，并将其传送给需要的用户。网络层-无线传感器网络技术物联网的关键技术网络层-M2M技术M2M全称MachinetoMachine，是指数据从一台终端传送到另一台终端，也就是机器与机器的对话。M2M应用系统构成有智能化机器、M2M硬件、通信网络、中间件。M2M应用领域有、家庭应用领域、工业应用领域、零售和支付领域、物流运输行业、医疗行业。物联网的关键技术应用层-数据处理、可视化物联网的应用层，包括应用中间件层和应用服务层，实现网络层与物联网应用服务间的接口和功能调用，也实现物联网的各类公共应用或行业领域的应用。物联网的关键技术某学校“智慧校园”应用案例物联网的应用案例02物联网安全问题案例导入案例一2019年末，亚马逊旗下的家庭安全硬件产品Ring爆出安全漏洞，黑客可以监控用户家庭，而且Ring还会暴露用户的Wifi密码，甚至有黑客通过Ring摄像头跟摇篮里的婴儿打招呼。案例二①2019年智能门锁SmartDeadbollts被研究人员发现安全漏洞，攻击者可以利用这些漏洞远程打开门并闯入房屋。②2019年6月，U-tec制造的智能门锁Ultraloq出现故障，攻击者可以追踪该设备的使用地点并完全控制门锁。物联网技术的安全威胁感知层安全威胁感知层的主要设备是RFID和Zigbee等各种无线传感器。主要是感知搜集特定目标的信息。但是大部分传感器设备部署在公共区域，无法进行实时监控，因此容易被攻击者控制利用。常见的攻击威胁有物理攻击伪造攻击重放攻击信息盗用传感器窃听路由器攻击网络层安全威胁网络层的安全威胁，主要来自于DDoS和协议缺陷攻击。由于智能设备需要通过互联网连接的原因，很多攻击者会通过网络来攻击并入侵物联网设备。常见的攻击威胁DDoS攻击2016年9月的Mirai僵尸网络感染250万个物联网设备，其中有打印机和联网摄像头。恶意数据2014年1月发生了一起邮件攻击，针对电视机、路由器和至少一台智能电冰箱，每天发送30万封垃圾邮件。隐私泄露网络层的传输并不能完全保证敏感信息的安全，仍然会有人获取到用户的隐私问题。物联网技术的安全威胁应用层安全威胁物联网的应用层大都存在其他设备的配合使用，它们很容易被攻击者直接利用。常见的攻击威胁01.身份盗用攻击者挟持这些设备，伪装成真正用户通过系统的身份验证，进而向系统发送不安全数据03.数据保护02.应用层设备漏洞攻击者将勒索软件安装到智能恒温器上，可以将温度调高到95度，拒绝调回到正常温度应用层会处理大量数据，若处理方式不够完善或者处理不够及时就会造成数据丢失等问题物联网技术的安全威胁物联网的安全体系感知层安全物理安全、信息采集安全网络层安全访问控制、信息过滤应用层（业务层）安全安全管理平台（包含认证、密钥管理、入侵检测、病毒检测、恶意代码分析和预防等安全机制）物联网三层安全体系结构物联网的安全技术物联网安全关键技术010203数据安全传输技术身份认证技术网络安全接入技术040506加密技术分布式密钥管理技术分布式安全管控技术03人工智能技术应用人工智能学科是一个以计算机科学（ComputerScience）为基础，由计算机、心理学、哲学等多学科交叉融合的交叉学科、新兴学科，研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能的概念定义人工智能（ArtificialIntelligence，AI）是研究使计算机来模拟人的某些思维过程和智能行为（如学习、推理、思考、规划等）的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机，使计算机能实现更高层次的应用。其中“知识”指的是：通过经验或教育获得的事实、信息和技能。

——ISO/IEC22989CD，定义3.2.02人工智能学科人工智能的发展历程20世纪50年代中期到80年代初期人工智能发展的第一阶段深耕细作，30年技术发展为人工智能产业化奠定基础。21世纪初期至今人工智能发展的第三阶段量变产生质变，人工智能有望实现规模化应用。20世纪80年代初期至21世纪初期人工智能发展的第二阶段急功近利，人工智能成功商用但跨越式发展失败。人工智能7大关键技术人工智能的关键技术技术简要描述应用程序示例统计机器学习自动化训练过程并将模型拟合到数据利用大数据进行高度精细的市场分析神经网络使用人工“神经元”加权输入并将它们与输出关联识别信用欺诈、天气预报深度学习具有多层变量或特征的神经网络图像和语音识别，从文本中提取含义自然语言处理分析和“理解”人类的语音和文本语音识别、聊天机器人、智能坐席基于规则的专家系统一组源自人类专家的逻辑规则保险承保、信贷审批物理机器人自动完成一个物理动作工厂和仓库任务机器人流程自动化自动执行结构化的数字任务并与系统对接更换信用卡、验证在线凭证1234567自动驾驶汽车依靠人工智能、视觉计算、雷达、监控装置和全球定位系统协同合作，让电脑可以在没有任何人类主动的操作下，自动安全地操作机动车辆。人工智能的应用案例自动驾驶汽车人脸识别人脸识别，是基于人的脸部特征信息进行身份识别的一种生物识别技术。“人脸识别系统”集成了人工智能、机器识别、机器学习、模型理论、专家系统、视频图像处理等多种专业技术。人工智能的应用案例虚拟个人助理是一个事实上的操作系统。它会连接人类与所有种类的服务，并在处理过程中确保个人数据安全。虚拟个人助理虚拟个人助理（VirtualPersonalAssistance，VPA），是一种能替个人执行任务或服务的软件代理。人工智能的应用案例在微信公众号、小程序、APP、企业网站等平台均有应用。AI在线客服AI在线客服是基于人工智能算法开发的自动回复客服机器人软件，能够根据用户咨询内容进行语义分析并智能回复话术为客户解答。实现场景人工智能的应用案例购买预测是人工智能在电商领域的一大应用，即通过大数据中的贝叶斯算法，实现智能推荐功能，降低用户选择成本。购买预测人工智能的应用案例04人工智能安全问题案例导入案例一2019年，国内某AI人工智能公司，在国外被爆发生大规模数据安全泄密，爆料者是GDI基金会荷兰安全研究员VictorGevers，他发现中国某AI人工智能公司的人脸识别用户行为数据库其实一直是“裸奔”状态，但这里面的可是大数据，如果被不法人员利用，后果不堪设想。案例二德国大众公司装配线上的机器人杀死了一名现场工作人员，根据大众公司的新闻发言人HeikoHillwig表示，这名工人在大众的Baunatal工厂工作，在法兰克福北部大约100公里。据了解，当时这名22岁的外包员工被机器人抓住，并将他碾压向了一块金属板，最终导致这名员工伤势过重被送医后身亡。人工智能的安全风险数据风险-数据投毒“数据投毒”指人工智能训练数据污染导致人工智能决策错误。通过在训练数据里加入伪装数据、恶意样本等，破坏数据的完整性，进而导致训练的算法模型决策出现偏差。“数据投毒”攻击方式模型偏斜方式反馈误导方式“数据投毒”危害导致车辆违反交通规则甚至造成交通事故信息伪装诱导自主性武器启动或攻击人工智能的安全风险数据风险-数据泄露逆向攻击可导致算法模型内部的数据泄露人工智能技术可加强数据挖掘分析能力，加大隐私泄露风险。智能设备（如智能手环、智能音箱）智能系统（如生物特征识别系统、智能医疗系统）采集：人脸、指纹、声纹、虹膜、心跳、基因等信息。01.02.人工智能的安全风险数据风险-数据异常运行阶段的数据异常可导致智能系统运行错误，同时模型窃取攻击可对算法模型的数据进行逆向还原。开源学习框架存在安全风险，也可导致人工智能系统数据泄露。人工智能的安全风险算法风险12图像识别、图像欺骗等会导致算法出问题算法设计或实施有误可产生与预期不符甚至伤害性结果3算法潜藏偏见和歧视，导致决策结果可能存在不公45算法黑箱导致人工智能决策不可解释，引发监督审查困境含有噪声或偏差的训练数据可影响算法模型准确性人工智能的安全风险网络风险01020304数据智能窃取风险数据勒索攻击自动生成大量错误情报以混淆判断自动识别图像验证码，窃取系统数据第三方组件问题

包括对文件、网络协议、各种外部输入协议的处理都会出问题。人工智能的安全风险其他风险ApacheShiro组件漏洞ApacheLog4j组件漏洞例如目前人工智能安全热点技术研究方向人工智能的安全技术热点技术方向提出年份提出国家中国创新成果对抗样本攻击和防御2014美国谷歌公司研究人员首次证实针对深度神经网络的对抗样本攻击威胁。2017，清华大学朱军教授团队在有斯坦福、约翰霍普金斯等世界著名高校在内的100多支队伍参赛的NIPS2017AI对抗性攻防竞赛中，获得冠军。训练数据投毒攻击和防御2017美国斯坦福大学首次证明了针对深度神经网络的对抗性投毒训练数据的存在2。2019年，创新工场、南京大学等提出了一种高效的训练数据投毒方法，论文入选人工智能领域顶级国际会议NIPS3。算法后门攻击和防御2013美国波多黎各理工大学首次提出神经网络木马攻击。2020年，腾讯在第19届XCon大会上首次演示验证利用算法模型文件直接产生后门效果的攻击。联邦学习2016美国谷歌率先提出联邦学习概念。1、2019年，我国香港科技大学杨强教授提出了横向和纵向两种联邦学习框架；2、2019年，微众银行推出了全球首个工业级联邦学习开源框架FATE。深度伪造及检测2017美国名为deepfakes的用户在Reddit网站发布难辨真假的“假视频”。2020年，中国科技大学俞能海和张卫明教授团队在有全球2265支队伍参赛的Kaggle深度伪造检测挑战赛中脱颖而出，获得亚军。机器学习开源框架平台安全漏洞挖掘修复2017中国安全厂商360首次发现并披露机器学习开源框架平台供应链安全风险。腾讯发现首个Tensorflow安全漏洞；目前全球著名漏洞数据库CVE披露的37个Tensorflow漏洞中，24个由中国安全厂商360发现。123456人工智能的安全框架在工业和信息化部网络安全管理局指导下，中国信通院联合瑞莱智慧、百度、腾讯、360、中科院信工所共同编制《人工智能安全框架（2020年）》蓝皮书。旨在为人工智能相关企业循序渐进提升安全能力、部署安全技术措施提供指导。人工智能