警惕“AI污染”心得体会发言_第1页
警惕“AI污染”心得体会发言_第2页
警惕“AI污染”心得体会发言_第3页
全文预览已结束

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

警惕“AI污染”心得体会发言林黛玉“倒拔垂杨柳”，宋江、吴用、花荣“桃园三结义”……刷手机时，你有看到过如此牛头不对马嘴的内容吗？而这些，统统都是AI的“杰作”。技术狂飙，“万事问AI”俨然成了新潮。舆论场更不乏“既然有工具，何必自己整理资料、遣词造句”之类的论调。不过，媒体调查发现，AI生成的内容很多时候并不靠谱。或是瞎编乱造，拼凑或虚构一些事实，让其生成的内容显得合理自洽；或是左右摇摆，在判断表态时顺杆儿爬，“说了一堆等于没说”。一来二去，有网友直呼，“为啥我的AI爱胡说？”说起来，这其实是大模型的原生性技术缺陷。学界频频提及的“AI幻觉”与“机器欺骗”，说的都是这个毛病，即便是全球最先进的模型也不例外。而与人说谎、说错话时容易心虚、打磕巴不同，AI在呈现错误答案时仍看上去“自信满满”，很容易让不熟悉AI或特定领域的人信以为真。至于出现“幻觉”的原因，目前尚无定论，有可能是AI在转录和翻译海量数据时出了岔子，也可能是它们在“数据不足”情况下的“急中生智”。如果说AI一本正经胡说八道属于“无心之失”，那么，利用AI造谣生事则是更值得警惕的“有心之恶”。以往，为了抓人眼球，造谣者很要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容，且能将文字、声音、图像和视频等深度融合，速度快、产量高，蛊惑力强，辨别难度越来越大。很多煞有介事的“小作文”原本还得自己编，现在都可交由AI定制，悬疑惊悚、卖惨苦情，样样信手拈来。一键生成、坐收流量。在AI助力下，一个人就是一支谣言队伍，一切信息都可能变得亦真亦假。从恶搞名人，到捏造热点，再到“改写”历史，AI在一些人手中迅速“黑化”，沦为哗众取宠的引流工具。更令人震惊的是，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。“后真相时代”，网络信息生态本就繁乱杂芜、泥沙俱下，在AI“加持”下，信息河流被污染的速度与烈度大有更快、更强之势。首要一点，网络高质量文本的产出会降低。试问，当AI生成的内容可以轻松“10万+”的时候，我们还会不会有写作热情？作家郑渊洁前段时间直言，自己写不过AI。但他没点明一个事实，AI之所以这么能写，是因为有太多“郑渊洁”为之提供了训练数据。据统计，“现实世界所能提供的用于训练AI模型的数据几乎已被耗尽”，且未来人类对高质量文本的需求量，远超于数据产生的速度。今后，如若一个个写作者开始“躺平”，我们可以拿来对抗“AI污染”的清新“水源”就会越来越少。另一方面，“AI污染AI”的现象会进一步加剧。有研究就发现，当人类越来越多地通过AI生成内容，这些数据会大量进入在线数据库，被用来训练未来的AI。如果一代又一代地延续下去，最终将导致“模型崩溃”，AI无法再区分事实和虚构。就像用塑料垃圾散布海洋、用二氧化碳攻占大气，长此以往，真假难辨的劣质信息很可能会填满互联网。AI污染泛滥并非耸人听闻，遵从科技伦理、人本主义、法治理念，不断完善AI相关法规，力求价值引领与技术“纠错

人人文库> 全部分类> 办公材料 > 办公文档

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论