计算机伦理学讲义

引言：计算机带来的社会、伦理和职业问题计算机技术是我们这个时代最核心的技术。计算机已成为工业社会运转的中枢。如果没有计算机和网络，从制造业、商业、运输配送业到政府、军队、医疗卫生、教育和研究部门的许多工作将陷于停顿。毫无疑问，计算机技术是本世纪最重要的技术，当前的信息技术革命迟早会和工业革命一样，甚至会更深刻地影响整个人类社会。然而随着整个社会更加依赖计算机和网络，我们在遭遇计算机故障（通常是有问题的软件引起的）和计算机滥用（当然那是指人类自身对计算机和网络的滥用）时也变得越来越脆弱了。计算机故障和计算机滥用已经产生了一系列全新的社会问题，比如计算机犯罪、软件盗版、黑客、计算机病毒、侵犯隐私、过于依赖机器和工作场所的压力等。这些社会问题中每一个都会造成计算机专业人员和用户的道德困境。道德规范和职业道德守则能够在一定程度上帮助我们解决这些道德难题，但是计算机教育者们负有特殊的责任，即给未来的计算机使用者树立起符合社会伦理的行为规范。计算机化的社会每当公共事业单位、信用审查机构、警察、税务部门以及机动车执照中心出现严重差错时，它们就一律归咎于计算机故障。在上述这些场合，以及更多其他的场合，可怜的老式计算机都要受到责难，尽管实际上往往是其他方面出了毛病。即使问题确实是和计算机有关时，最终的事故原因也更多的是来源于人所犯的错误，而非机器，因为是人设计了计算机并编写软件来告诉它做什么。近来，计算机和一些重大事故联系在一起。例如，海湾战争期间，爱国者导弹防御系统的一个软件缺陷使得伊拉克的一枚飞毛腿导弹击中了达兰的一座美国军营，造成军人伤亡。同年，众所周知的哈勃太空望远镜故障问题因计算机程序差错而越发严重，导致其携带的计算机最终停止工作计算机和网络在面对物理方面的破坏时是很脆弱的，比如火灾、洪水、地震和电力中断。其中电力中断包括很短的电脉冲和电压突降（即“电网污染”），它们都足以让一个敏感的系统停止工作。最著名的事例：2001年2月9日，上海崇明岛渔船作业失误，导致跨太平洋的中美海底光缆受损中断，国内用户无法访问国外网站。2006年12月26日，南海海域受强烈地震影响，多条国际海底通信光缆发生中断，中断点在台湾以南15公里的海域，致使附近国家和地区的国际和地区性通信受到严重影响。中国大陆至台湾地区、美国、欧洲等方向国际港澳台通信线路受此影响大量中断，国际以及港澳台互联网访问质量受到严重影响，国际港澳台话音和专线业务也受到一定影响，经过20多天的紧张抢修，受地震影响中断的国际通信业务才全部恢复。当硬件设施遭人为破坏，软件系统受到外部黑客或内部员工的恶意破坏时，计算机和通信网络是很脆弱的。近年来发生的一些事件更突出地暴露了我们对计算机日益严重的依赖性。2007年9月，英国广播公司、《泰晤士报》、《世界新闻报》等相继报道，英国EDS公司丢失了一块硬盘，硬盘上包含有“英格兰和威尔士全国罪犯管理署”雇员其中包括监狱工作人员）的资料，造成数百万英镑的损失，同时，监狱工作人员被迫调换工作地点、全家搬迁［2］；2008年5月众多门户网站以《香港汇丰银行遗失大量客户资料》为标题报道了汇丰银行电脑服务器失窃事件；07年底因电脑返修而导致的艳照门事件至今令人印象深刻。美国零售商蒙哥马利沃德公司发现了一个位于加利福尼亚的已失踪三年的货仓，而这当初正是因为公司的存货管理程序错误造成的。表而看起来，从某天开始运货的卡车不再来到仓库，没有东西运进运出。但员工工资的支付是由另外的计算机系统控制的，于是在整整三年的时间里（情况一直如此）货仓的工人每天都来上班，把箱子移来移去，然后填上工时卡 从不告知公司总部。另一个关于计算机依赖性的特别糟糕的例子来自海湾战争期间的伦敦，在皇家空军攻击作战司令部联队指挥官大卫•法卡尔停着的小汽车里，存有盟军“沙漠风暴”作战计划的计算机磁盘连同一台手提电脑失踪了。对联军来说幸运的是，窃贼不知道这些没有加密的数据的重要价值，所以数据并没有落入伊拉克的手中。计算机正在全方位地改变我们的生活方式。不要试图删除电子邮件中对你不利的东西，因为你写的内容别人可能已作了备份。伊朗门事件是，美国向伊朗秘密出售武器一事被揭露，从而造成里根政府严重政治危机的事件，因人们把它与尼克松水门事件相比，故名伊朗门事件。白宫顾问奥利弗•诺斯上校和里根总统的前国家安全顾问约翰•珀恩德克斯特就做过这样的蠢事，企图毁灭伊朗门丑闻的证据。据说珀恩德克斯特熬了一整夜删除了电子邮件信息，诺斯又删除了，但他们两人没有想到，这些信息都被保存在备份盘上，后来被国会的调查人员读到了。计算机带来的新的社会问题尽管总的来讲社会从计算机和网络的使用上获得了好处，但计算机化也给全社会带来了一些未曾预见的严重问题。计算机带来的新社会问题分为七大类：计算机犯罪和计算机安全问题；软件盗版和知识产权问题；黑客现象和计算机病毒的制造；计算机的不可靠性和软件质量的关键问题；数据存储和侵犯隐私；人工智能和专家系统的社会意义；计算机化的工作场所所产生的诸多问题。这些新问题已被证明是高成本的：计算机犯罪让那些公司每年损失巨大，软件制造商也因盗版的泛滥而损失惊人。近年来，大量的时间和金钱不得不被用来弥补恶意的黑客和病毒制造者对计算机系统造成的损坏。从停机费时、成本透支、系统报废等方面来看，不可靠的硬件和软件每年让社会损失数十亿财富，同时，对隐私的侵犯和数据库的错误导致大量的诉讼和过大的个人压力。就像现在的好莱坞艳照门事件。就是黑客攻击了明星的iCloud账户，窃取了明星的隐私。计算机犯罪对于公司是日渐严重的问题。每一项新技术进入社会都会带来新的犯罪机会，信息技术也不例外。熊猫烧香跟灰鸽子不同,这是名副其实的病毒，是一种经过多次变种的“蠕虫病毒”变种，2006年10月16日由25岁的中国湖北武汉新洲区人李俊编写，这是名副其实的病毒，拥有感染传播功能，2007年1月初肆虐网络，它主要通过下载的档案传染，受到感染的机器文件因为被误携带间接对其它计算机程序、系统破坏严重。2013年6月病毒制造者张顺和李俊伙同他人开设网络赌场案，再次获刑。软件盗版或非法复制是一个大问题，它每年给软件制造商造成的损失估计有员圆园亿美元。最近的一些软件盗版的案例凸显了盗版行为的普遍性和有组织的盗窃者带来的全球威胁。计算机用户和软件开发商在软件拷贝的问题上总是会有完全不同的伦理立场，而大多数国家的相关法律又是混乱且过时的。关于版权法和专利法是否要对软件提供适当的保护，人们现在仍然争论不已。问题是如何奖励创新以免窒息创造性，但是对这个难题现在还没有明显的答案黑客和病毒制造者对计算机系统的攻击给计算机用户造成的损失是惊人的。不可靠的计算机正成为现代社会一个令人头痛的大问题。当充满缺陷的软件被用来控制飞行系统、铁路信号和救护车调度系统时，其代价有时要以人命来估量。计算机会变得不可靠，是因为它们的数字式设计易于整体性出错，同时其复杂性也使得人们无法在使用前彻底地进行测试。巨大的复杂性会使计算机系统完全不可控制，并且会导致成本和预算的大幅超支。温州动车相撞事件。2011年7月23日晚上20点30分左右，北京南站开往福州站的D301次动车组列车运行至甬温线上海铁路局管内永嘉站至温州南站间双屿路段，与前行的杭州站开往福州南站的D3115次动车组列车发生追尾事故，后车四节车厢从高架桥上坠下。这次事故造成40人（包括3名外籍人士）死亡，约200人受伤。经调查认定，“7•甬温线特别重大铁路交通事故是一起因列控中心设备存在严重设计缺陷、上道使用审查把关不严、雷击导致设备故障后应急处置不力等因素造成的责任事故。于信息技术应用得缓慢和无序，还没有大规模的技术性失业，现在则有更多关于计算机在制造行业和服务行业不断侵夺工作机会的担忧。现在的企业管理者在新生产系统的设计和应用方面有许多选择，这使得人们对于计算机影响职业生活的质量的担心也在增长。富士康机器人：作为苹果公司在华最大的代工商，富士康近年来频频采取行动进行产业升级。“3年增加100万台机器人”便是最显眼的代表。但该公司对外披露的公开信息显示，在2011年，富士康拥有1万个机器人，时隔两年，机器人工人数量翻倍，机器人数量约为2万台。2012年3月，机器人来了之后，工作量提升惊人，每台机器人每12个小时可取出2.4万个产品，此前人工12小时仅1万个产品的工作量，而且一个工人照看两台成型机就够了，此前是两个人照看一台成型机。计算机用户的道德困境上述每个新的社会问题都会造成计算机用户的种种伦理困境。其中一些 比如是否应该拷贝软件 是全新的问题，而另一些则是旧的道德问题的新变体，像对与错、诚实、忠诚、责任、自信、信任、义务和公平等。有些伦理困境是所有计算机用户都会面临的，有些只是计算机专业人员要面临的。其中许多问题构成了新的灰色地带，对此我们还没有广泛接受的规则或社会惯例，更不用说有判例的成型法律了。关于计算机造成了传统道德问题新变体的另一种说法是，信息技术改变了旧的伦理问题出现的语境并且给旧的问题加入了有趣的新花样。〔员源）这些问题的出现源于这样一个事实，即计算机是控制别的机器的机器，也源于信息技术那种特定的、革命性的特质。新的存储设备让我们能够存储大量的信息，但在获取那些信息以及使用或滥用那些信息上，又产生了新的道德选择。因此关于隐私、信任和保密方面的道德问题就走到了前台。像电子邮件、电子公告、传真、移动电话和电子数据交换等新的传媒手段产生了新的伦理和法律问题，涉及使用者的身份、真实性和这种交流的法律地位，还有保护言论自由和关于诽谤的法律是否适用于它们等内容。信息技术为我们提供了强大的新功能，比如检查、监督、数据链以被用来制造祸害，用来暗中监视人们或从新骗局中获利。信息技术从形式上改变了人们之间的关系，用瞬时的、非纸化的交流代替人性的接触交往并使之非人格化。通过制造对现实的虚幻感，掩盖行为的真实性，这种现象有时会使人受到诱惑，比如侵入一个计算机系统。信息技术从形式上改变了个体和组织之间的关系，引起了新类型的责任和义务等问题。最后，信息技术的不可靠性产生了新的不确定性，并给那些控制着复杂系统的人以及设计和生产这些系统的人带来一系列的伦理选择问题。计算机生产商和销售商总是顾不上认真考虑它们产品的最终使用者，但是他们不应该逃避为其产品所带来的后果负责在计算机犯罪和安全的标题下，一些伦理问题正在浮现 尽管事实是，对大多数人来说，是否实施一项犯罪并不面临道德难题。简便的计算机软件拷贝让计算机使用者和专业人员几乎每天都面临着伦理难题。有些人为软件拷贝的蔓延辩解说，是因为别人都那么做，或者是因为那些知名的软件包似乎太贵了。但是拷贝软件是一种偷窃行为，是对软件开发者知识产权的明显侵犯。在过去，像文学作品和机械发明之类的知识产权有版权和专利权保护，但是软件是一种新的独有的混合体。我们该怎样保护软件开发者的权利以保证产业创新的持续？一个负责任的计算机专业人员该怎样做？所有的软件拷贝行为都是错的，还是其中一些更为恶劣？当法律没有明确规定并且整个行业在伦理规范方面还没有共识的时候，每个计算机使用者又该怎么做？黑客和计算机病毒的制造带来尚未解决的伦理问题。黑客仅仅是无害的玩笑，还是计算机领域内的偷窃和欺诈？什么时候高科技的嬉闹行为会成为严重的犯罪行为？由于黑客几乎总是在未经允许的情况下进入他人的系统，是否所有的黑客行为都应被视为不道德的？我们该怎样对待黑客？他们是我们公民权利的好卫士和管用的业余安全顾问，还是头脑混乱的青少年，其惯用手段总是恶意损坏和偷窃？制造病毒是否在任何情况下都能找到辩解的理由？如果不是，该给予病毒制造者什么惩罚？最后，一个负责任的人得知别人在从事黑客活动时该怎么做？计算机的不稳定性带来了许多道德难题，面临这些难题的主要是负责系统制造和安装的专业人员。发生差错后谁该负责？当一个系统因为程序的一个差错发生故障或者完全瘫痪，谁来负责 是最初的程序员、系统设计者、软件供应商，还是别的什么人？进一步来说，系统供应商是否该提醒用户计算机系统易于出错，常常因过于复杂而难以完全熟练掌握，在销售前没有彻底地进行测试，可能会有软件缺陷？是否该让软件制造商提供软件质量的保证书？一个计算机专业人员最终要向谁负责 自己所在的公司、同事、顾客，还是更广泛的社会？计算机专业人员和用户在各方面都会反复遇到隐私权的问题。首先有一些基本问题，比如什么是隐私权，在当今社会，个人被赋予多大的隐私权。存储在数据库的个人信息是对隐私权的威胁吗？政府和商业组织有多大权力来保留个人信息？需要采取什么措施来保证这些信息的准确无误？计算机专业人员和用户会面临这样的难题:要不要使用那些以其他目的收集的信息，要不要购买那些非法获取的个人信息，要不要连接根本不同的数据库，等等。事实上在各个组织中，每一个改善安全（有时甚至是生产率）的尝试都有一个雇主在多大程度上干预隐私权的问题，现在的电子邮件和电话号码身份验证又产生了关于隐私权范围的新的争论。某种意义上说，对人工智能的追求是计算机领域一个很大的伦理问题，因为我们还要判定人工智能是否是人类的正确目标 尽管它离现实的目标还差很远。计算机专家是否该研究设计那些他们明知会使更多的人显得多余的系统和设备？我们是否真的应该把用机器代替人类做更多工作当做目标？对人类智慧来说，如此强调造出一个机器的智慧形式是否有点屈尊了？也许可以更进一步讲，假定我们知道计算机的不可靠性，我们能否把自己的性命交托给人工智能的专家系统？一个负责任的计算机专业人员该持何种态度：他们是否应该提醒用户相关的危险性或者拒绝操作那些性命攸关的设备？有些人可能会觉得工作场所不会给计算机专业人员和使用者带来明显的道德难题。然而工作场所的计算机化使生产管理有许多选择，包括不同操作系统的选择，而不同的系统对于生产数量和质量都有完全不同的影响。总的来说，工厂的计算机化可以提高工作环境质量，促进工作满意度，更加明确责任，提高工作能力或技巧，当然，计算机化也会使老板裁掉尽可能多的人员，使剩下的人员在一个无个性、无精神的环境里，变成无需技能只需按电钮的机械工作者。假如新的工作程序和办公设备设计得比较糟糕，办公室的计算机化会增加人的工作压力并损害身体健康。对雇员的监督常会使事情变得更糟，同时一味提高速度和过度的重复操作（比如强调每小时键盘输入数）有时会因重复性压力导致人的损伤。计算机专家和企业管理者有责任来保证避免出现这些后果。伦理学的理论有何帮助“伦理学”被定义为规范人们生活的一整套规则和原理。伦理道德就是指人们认为什么是对的，什么是错的。但当人们在日常生活中面对伦理方面的难题时，对于什么是对什么是错总是会作出完全不同的判断。当事人之间随后的争执经常没有结果，因为每个人都发现很难弄懂他们主观的道德判断背后的推理和思考。实际上，什么是最适当的行为是不可能有结论的。伦理学的理论 有时也指道德哲学 是研究道德决定背后的规则和原理。它可以给我们提供道德判断的理性基础，使我们能对不同的道德立场作分类和比较，使人们能在有现成理由的情况下坚持某种立场。这样，运用伦理学的理论就给我们解决计算机专业人员和用户面对的道德难题带来一丝光明，甚至可能会帮助找到某种方法来决定人们使用计算机时的行为准则。伦理学和计算机专业人员因为相对而言计算机是一个新的领域，新出现的计算机职业既没有时间也没有组织能力来建立一整套道德规范或伦理学。较早的职业，像医疗和法律行业，有数世纪的时间来形成他们的道德规范和职业操守。并且还有一个问题，计算机不像医疗和法律，它的行业活动超出自己的专业范围，是一个开放的领域，没有边界。计算机，包括像软件工程这样的学科分支，还没有成为一个完全成型的专业。传统的职业包含了脑力劳动、高水平的技巧和长时间的训练，为社会提供必不可少的服务就像计算机行业那样。但除了这些，传统职业是高度组织化的，有一个核心体，它在成员们达到一定技术水平时承认其资格，尽管成员有相当大的自主权，但他们被要求在从事职业时必须遵从行业核心组织制定的一套行业道德守则。违反者会受到惩戒，甚至完全被驱逐出这个行业。有些人把行业的发展视为一个社会成熟有序的标志，但在批评者眼里，它们就是一伙自我保护的诈骗者（英国作家和剧作家萧伯纳就曾把所有的职业描绘成“一个与人民对立的共谋集团”）。那么