人工智能基础 课件 第11章 人工智能素养与风险

第11章

人工智能素养与风险1.

人工智能素养与使用规范2.

人工智能风险人工智能素养与使用规范1人工智能素养2024年6月18日，《人工智能素养：理解、评估和使用新兴技术的框架》框架发布。在该框架中，人工智能素养被界定为：使人们能够批判性地理解、评估和使用人工智能系统和工具以安全有效地参与日益数字化世界的知识和技能。其中，强调了人工智能素养实践、核心价值、参与方式及使用类型。人工智能技术的快速发展和应用场景的不断扩展，这也就要求我们要能够保持持续学习的能力，才能够灵活应对新环境和挑战，保持竞争力。联合国教科文组织于2021年11月正式发布的《人工智能伦理问题建议书》是首个关于以符合伦理要求的方式运用人工智能的全球框架。该建议书指导各国最大限度发挥人工智能优势，降低其带来的风险，其中不仅包含价值观和原则，还在所有相关领域提出详细政策建议。人工智能使用规范人工智能技术只是人类程序的结果，他们始终只能按照人类为它设定的程序来执行被人类赋予的“命令”。目前，他们还无法如人类那样有属于自己的思想及情感，它们根本无法去判断自己“行为”的对错，也无法自动停止自己的某项“行为”，所以如果人工智能技术一旦被不法分子利用，后果则不堪设想。而且，人类还没有一套解决人工智能技术在操作中一旦失控时该如何制止该项操作的技术方案，所以一旦发生操作失误，后果也很难想象。可见，人工智能技术自身的局限性是人工智能技术带来使用规范问题的内在因素之一。人工智能使用规范第11章人工智能素养与风险第11章

人工智能素养与风险1.

人工智能素养与使用规范2.

人工智能风险2人工智能风险传统行业受到冲击科技的进步也会对人类社会造成多方面的冲击。例如，无人驾驶技术发展使萝卜快跑无人驾驶网约车出现在了人们的视野中，“萝卜快跑”是百度Apollo推出的自动驾驶出行服务平台，已经于11个城市开放载人测试运营服务，并且在北京、武汉、重庆、深圳、上海开展了全无人自动驾驶出行服务测试。在给人们带来新奇体验的同时，也引起了社会对于“无人驾驶是否抢了出租车和网约车司机饭碗”的思考。传统行业受到冲击人工智能技术的发展确实给传统行业带来了巨大的挑战和机遇。它不仅改变了生产和工作方式，还催生了新的商业模式和服务。面对这样的变革，传统行业需要积极拥抱技术转型，这包括更新老旧的设备、采用智能系统、以及利用大数据分析来优化决策。传统行业要想在AI时代保持竞争力，就需要不断创新，积极适应技术变革，同时确保技术应用的安全性和合规性。知识产权风险【案例1】AIGC平台著作权侵权全球第一案。2024年2月8日，广州互联网法院作出涉及AIGC著作权侵权的（2024）粤0192民初113号判决，首次明确认定被告（某人工智能公司）在提供生成式人工智能服务过程中，侵犯了原告对案涉作品所享有的复制权和改编权，并应承担相关民事责任。知识产权风险AIGC发展带来的潜在风险是不可避免的，生成式人工智能类型多样、应用领域广泛，但模糊地带也很多。为了在风险可控的前提下推动人工智能的负责任发展，需要社会各界的共同努力。一般来说，AI服务提供方会对AI作品版权归属和商业使用权做一定的限制，使用者不当使用AIGC可能会构成侵权，所以我们在使用AIGC过程中，需要认真阅读用户协议。数据隐私风险【案例2】AI诈骗——“眼见不一定为实”。2024年3月15日，中央广播电视总台3·15晚会曝光了使用“AI换脸”进行诈骗的行为，如图11-4所示。“AI诈骗”是一种利用智能AI技术实施诈骗的手段，其中最常见的两种方式就是利用AI换脸和拟声技术伪造受害者好友的面貌和声音，通过微信视频电话等方式进行诈骗。数据隐私风险人工智能技术的广泛应用确实在一定程度上模糊了私密空间的边界，但这并不意味着所有人工智能应用都会对个人隐私造成威胁。例如，智能设备和自动驾驶汽车等产品确实需要收集数据以提供更好的服务，但同时也需要严格的法律法规和技术措施来保护用户的隐私安全。数据隐私风险在人工智能技术的日常开发和使用过程中，需要注意以下几个方面：第一，在使用智能设备和应用程序时，应增强隐私保护意识，了解设备和应用如何收集、存储和使用个人数据，并采取必要措施保护个人信息不被滥用或泄露。第二，在开发人工智能相关应用产品时，应确保在使用人工智能技术时遵守相关法律法规，如《中华人民共和国个人信息保护法》和《中