挪威消费者协会-人工智能行业：生成式人工智能对消费者的危害（英译中）

TTTherehasbeenanexplosionofconsuintelligenceservices.Thesetext,images,sound,madecontent.AsgenerativeAIsystemsbe环境影响,例可能适用于生成人工智能系统的开发、部署和使用最后一章包含了许多关于如何解决生成AI问题的建议。这包括:ee挪威消费者委员会机器中的幽灵月关于如何控制或监管这些系统的讨论正在进制定者都在努力应对生成人工智能的承诺和挑战。费者角度对最紧迫的问题进行分析，以及从法律，出发的许多可能的解决方案和方法，对这些讨论做我们并不假装对生成人工智能提出的所有问题都有信，许多正在出现或正在出现的问题可以通过监管策的组合来解决，这些政策旨在引导技术朝着对消CESS·挪威消费者委员会机器中的幽灵月3that也可以在提示时生成图像。tc.y。6Google是72大型语言模型是复杂的AI模型，旨在生成类似人类语言的文本。它们通常在大量文挪威消费者委员会机器中的幽灵月9andmaintainedbysmall11aaff挪威消费者委员会机器中的幽灵月关于生成AI的论文，DALL-E。voiceclips,inaselectionofdiffeVideogeneratorscanbeuseprompts(texttovideo),images(imagetovideo(videotovideo).Asitismo挪威消费者委员会机器中的幽灵月在制作视频，元AIA有许多不同的参与者。这些参与者都可能以各数据集汇编器收集并系统化必要的数据以训练生成y挪威消费者委员会机器中的幽灵月在生成AI模型的分布和控制方式上存在显着差异“sys-对于闭源生成AI模型，不可能知道模型是如何工作的数据是什么，以及参数是如何加权的，除非模了足够的文件或提供访问第三方审计员，执法机CECE上esourcesesources然而，这并不一定意味着他们可以理解模型是如何工作的，因cereesofthetechnology.Thismakesitparticularmodelsaresubjecttotechnical,scientific,legislativ挪威消费者委员会机器中的幽灵月.·如今，消费者可以公开获得几种不同类型的家技术知识即可使用。其中一些可以通过Web生成AI技术也越来越多地集成到其他服务中，挪威消费者委员会机器中的幽灵月.TheissuesdiscussedthroughoutthroughoutthisreportarenotneworuniquetogenerativeAsystemshaveexistedforacentury,whilethete·,和挪威消费者委员会机器中的幽灵月关于人工智能危险的大量公开警告集中在开发人工智能（AGI）执行与人类思考能力相等的广泛任务。这与没有这种能模型截然不同。由于AGI系统目前不存在，并且对于挪威消费者委员会机器中的幽灵月.人工智能通常被称赞为从医疗保健和公共管理对于寻求销售软件解决方案的私营企业和寻求政治或监管疾病的简几乎任何问题都可以使用技术来改善或解决的信念被e根本不起作用。通过将多方面和复杂的问题作为一sect值得保持技术的愚蠢考虑到解决方案主义。如果正在推动生成AI模型。关于生成人工智能的论述的基础是权力问题。生成AI模型是文化AI模型商业化挪威消费者委员会机器中的幽灵月将生成AI模型集成到搜索引擎等服务中也会大大限制消费者singleanswertoanyquery,informationavailable.Ifsimilarbanded,filtered,orotherwiserestricted.Ifthesystemownersets些模型不一定受制于商业模式、目标或模型原始创竞争，为消费者提供通用的人工智能解决方案。大应中受益匪浅，因为更多的用户意味着更多的数据t“wha是最适合我需要的咖啡机吗？ℽr42挪威消费者委员会机器中的幽灵月.这可能会对大型在线平台的直接竞争对手以及将生成AI模型集成到他们的服务中。随着公司竞相开发“杀手级应们退出应用程序的理由较少。这将有助于将权力将生成AI集成到搜索引擎中引发了出版商和广告商44作为削减成本措施的一部分。人们也很清楚，少数参与者之间的数据殖民主义ddAlackoftrafficposesaproblemtbescrapedtodisplayinginformationininterface,butwhomay挪威消费者委员会机器中的幽灵月究转化为产品后共享论文。47微软研究人员对自己的AI系统提出了线模型的开发人员不一定能看到或理解下游4949最后,b给别人机会会带来竞争50explanationaboutwhyacheksforgenerative公司对潜在的危害感到“害怕”t提供“高度个性化和直观的购物”普林斯顿大学的研究人员声称，OpenAI可能机构能够访问和评估推荐系统如何影响消费者的数据机构能够访问和评估推荐系统如何影响消费者的数据Whilecompaniesthemselvesareattemptinsystemsfromexternalscrew,lawigtransparencybytradeagrees.InternaldocumeCommission-sionshowsthatdigitaltradeagre方服务提供商的OpenAI不向外部参与者提挪威消费者委员会机器中的幽灵月.面向消费者的生成式人工智能系统背后通常复使消费者在出现问题时非常难以与负责任的实体Itisimportantthatcompani60挪威消费者委员会机器中的幽灵月·擦除器擦除器ast酸ces68也有担忧t传统的互联网搜索引擎将使识别不准确或不正确的信息挪威消费者委员会机器中的幽灵月获取信息是他们需要法律咨询的。这种脆弱服务服务挪威消费者委员会机器中的幽灵月d对生成AI模型能力的误解也受到故意营销的77。。对mtore准确猜测关于意大利美食的对话的一部分。挪威消费者委员会机器中的幽灵月.e易用程序中推出实验性AI驱动功能通常在道德和。他们必须订阅的“朋友即服务”yydisinform-mation或在妥协情挪威消费者委员会机器中的幽灵月。产品 印。挪威消费者委员会机器中的幽灵月.此方法的显着限制。水印系统仅在系统开发人员和/截取屏幕截图并分享屏幕截图而不是原始图像。可以至于明显降低了图像质量。可以通过稍微改变图bAI99检测某些东西是否由生成AI模型生成需要比生成etask,whichmeansthatateatheflaggingsystem(forexampleat如果要识别和删除似乎由AI生成的内容，这些系统可能会错误挪威消费者委员会机器中的幽灵月.tor，例如在广告中或在媒体或公共机构使用时。它可以是快此外，期望人们扫描他们在网上看到的每一条媒体来检测它是否例如强大的媒体素养和可信赖的媒体机构。媒体和107Thisfeaturewouldaccelerateandfacil'abilitytotargetthecontentofadsautomatically,rathertheadsthemselves.Combcreasethemanipulativecharacterofsurvehance人们越来越担心聊天机器人中的生成人工智能告或操纵消费者购买产品或服务。虽然这一挑战呼奥德尔斯，Xplicitvited奥德尔斯，Xplicitvitedp挪威消费者委员会机器中的幽灵月.·与其他形式的人工智能一样，生成AI模型新的偏见。根据从互联网上获取的大量信息进行其训练数据的偏见。因此,模型可以生成再现负的内容。这导致许多服务提供商添加内容过滤器tseseeset挪威消费者委员会机器中的幽灵月训练数据的选择和标记不是中性的。某些人群地代表，而公司选择标记图像的方式可能反映出偏见者可以选择在训练数据标签中包括多少种类的种族和/者可以选择根本不包括这些属性作为标签。如果在其内容上训练模型，则存在进一步强化偏见的风险。因使用generativeAI模型产生的偏见或用于生成非法、歧视性和其他不可接受的合成可能包括各种可疑内容的数据集上进行训练的。,许多生成AI模型都有内容审核来过滤和标记某些内容，或者以其他方式限制如何使用该技术。虽然内容过滤器首先，内容审核赋予系统所有者很大的权力,声称ChatGPT通过拒绝生成有关某些政治化主题的文本来限制某些观点。这可能导致滥用权力，这可能会对下人们发现了不同的提示可用于生成被禁止的内容挪威消费者委员会机器中的幽灵月.trainingdataormodersforcertainlanguageord在许多情况下,诸如数据清理、内容分类和内容审xploitation.e制的t·inf关于自己。数据保护是一个子-从互联网上抓取的训练数据通常包含大量的个人挪威消费者委员会机器中的幽灵月有时生成AI模型可以准确地再现图片。如果模型在某些数ogeneratingfalseand/orlibellousc·oDeepfaking也可以用来绕过安全措大型语言模型容易受到利用旁路过滤器和安全措施（“越狱”）挪威消费者委员会机器中的幽灵月 tAut省略这些任务可能会增加致命的风险Automatedsystemsdonothavethecapacityf挪威消费者委员会机器中的幽灵月输出的风险可能会增加。最终用户认为他们与有感觉·研究和科学界越来越多的人提出了生成AI模型开发对环境称生成AI可以解决气候变化与此类技术的实际环境影响挪威消费者委员会机器中的幽灵月.。在报告中，他们自我报告能源和水的使用以及碳排放，像“调查显示，超过一半的排放量是挪威消费者委员会机器中的幽灵月158.为了解决生成人工智能对环境的重大影响，公了多少能源，如何获取能源，尤其是一个模型在整放了多少碳，包括培训、开发、部署和使用。除非获得这些数据，理想情况下由第三方专家进行衡量水是气候危机的核心。政府间气候变化专门委员会（IPCC）osoft没有报告其活动的任何类型的用水情况。人工智能开发的水足迹在挪威消费者委员会机器中的幽灵月.andbalancecarbonemisedtcarboncapture.Thus,carbonoffsettingisoftentre原力.sionssions标签semisrancemisranc176尝试使AI部门更具可持续性应该从增加透明CESSCESSoo·挪威消费者委员会机器中的幽灵月ossoss贫困和创伤的斗争在很大程度上被遗忘了。这种对包给美国公司Sama。该公司以“道德AI越来越多地使用生成人工智能引发了关于该技术如果雇主可以简单地提示人工智能模型生成文本或图像，这ceports。在最终用户依赖人类服务的部门中，后果尤其严重，例如当饮·许多生成AI模型的训练数据中有大量内容受到挪威消费者委员会机器中的幽灵月.理由是该工具使用来自数百万艺术家的受版权挪威消费者委员会机器中的幽灵月如果现有法律不能充分解决新兴技术的风险，则可能有必要对s挪威消费者委员会机器中的幽灵月o挪威消费者委员会机器中的幽灵月生成的文本的内容审核竞争主管部门必须监控生成人工智能的市场，以ftbots（佣金草案或挪威消费者委员会机器中的幽灵月c挪威消费者委员会机器中的幽灵月欧盟（EU）或欧洲经济区（EEA）处理数据主体的个人数据eo加工加工可以使用生成AI来生成与可识别的自然人有关的图像，文本200这是真的201如上所os挪威消费者委员会机器中的幽灵月therearevariousotherrelevproductiveAImodel.Thediscussiononthep了使选择退出系统有效，需要个人的知识，即训练了一个通用的AI模型。这对消费者来说并经常使用生成AI模型，即使这样，他们也不太从训练数据中删除个人数据的一个重要障碍是用于训练生成Aoodd处理个人数据的人员（数据主体）(prOtesting关于个人数据的处理)。0挪威消费者委员会机器中的幽灵月.ChatGPT服务最终用户的个人数据处理有关的问题，r温情la处理或问责226挪威消费者委员会机器中的幽灵月·不公平商业惯例指令（UCPD）231铺设outthelegalprovisiotoallbusiness-to-cons标签，以确保它不是一种误导性的做法。如果使用服消费者保持对服务的关注，例如通过持续通信，者的识别弱点（对于被编程为生成和模拟浪漫的涉及的聊天机器。挪威消费者委员会机器中的幽灵月出出Atthesametime,therearesomepotentiallimitUCPD’sapplicabilitytogenerativeAI.Premuably,gey用方式也要求“设计公平”beofferedbydigitdetails,ratherthanfocusingondiscloTheEUCommissionshouldtakeadvantageoftheongoidigitalfitnesscheck,whichisanevaluCC产品产品248挪威消费者委员会机器中的幽灵月·产品安全立法旨在确保市场上的产品对消费者使用-deticallycoveredphysmentionedintheGSPD.Whilesomedis不准确的个人数据或深度伪造，ccm挪威消费者委员会机器中的幽灵月.·264至关重要的是，任何与生成人工智能相关的新临反垄断机构的审查，以避免在这个市场中出势的公司，这些公司可能会滥用自己的地位。竞争执法机构显然可以发挥作用，以解决本报告中概述的一些危害。英国竞争与市场管理局（CMA）开发和使用生成人工智能时的保护考虑因素。其·的在线平台（VLOP）和非常大的在线搜索引擎（VLOSE挪威消费者委员会机器中的幽灵月rapplytogenerativeAIinpracticeapplytogenerativeAIinpracticesociety.Certainexclusivelylisted挪威消费者委员会机器中的幽灵月havenolegalobligationverybroadrangeofAIsystems,whileimpveryfewofthem,andexadditionalobligations.283这,模式检测，问答，翻译等；通用AI系统可以在多个上下文“may被用作高风险人工智能系统或高风险人工智能系统的组成部e挪威消费者委员会机器中的幽灵月性能、可预测性、整个生命周期的可解释性、能效措施和技术文f其他法律框架的执法机构，以保护消费者免受上述生成人工·目前的欧盟责任规则——产品责任指令（PLD302TheexacttimingdifferentbetweenthedifferentpositionsthefirsttheAIAwillbefullyapplicableafter24monthsaft挪威消费者委员会机器中的幽灵月.。欧盟委员会（EuropeanCommission）提出了一项更新的产品304虽然欧盟委员会提出了一项草案，但很可能在A希望对AI系统造成的危害进行索赔的消费者需要证明AI系统Tha将为消费者提供真正的选择来寻求补挪威消费者委员会机器中的幽灵月·与行业和第三国就同一主题制定的其他自律自愿协议在欧盟尚未定义这些参与者的法律要求时可求。显然存在自愿承诺与最终法律文本不符的风险。将受到行业参与者对产品货币化的可行性和可能性的响，而不是消费者和人权。最后，友邦保险也可能受e挪威消费者委员会机器中的幽灵月使用相关的重大危害和挑战。这些不是未来反我们认为，尽管这些问题令人担忧，但它们并AI模型的快速发展和采用意味着采取行动解决这些危害是相关的craticsocieties.ToensurethatgenerativeAIisdevclearlyunoughtorelyoncotheresponsibilityofhowthetechnologyistrained,devel月.挪威消费者委员会机器中的幽灵月·