如果说大数据是21世纪的“新石油”，人工智能就是社会发展的引擎，世界各个国家纷纷将人工智能的发展上升至国家发展战略层面。2017年，日本出台《下一代人工智能推进战略》，明确了人工智能发展的技术重点，并推动人工智能技术向强人工智能和超级人工智能的方向延伸。2018年，印度出台《人工智能国家战略》，充分利用人工智能这一变革性技术，促进经济增长和提升社会包容性，寻求一个适用于发展中国家的人工智能战略部署。在我国，人工智能从2017开始连续三年写进政府工作报告，侧重点从技术的研发转向研发应用上，这意味着发展AI已经全面上升至国家战略高度。

一、人工智能伦理问题概况

1956年被誉为人工智能的元年，在该年的美国达特茅斯（Dartmouth）会议上，首次提出人工智能（Artificial Intelligence，简称AI）这一术语，标志着人工智能这一学科的正式诞生。从诞生之日起，人工智能一方面被视为一颗冉冉升起的新星，受人追捧而蓬勃发展，经历了两次高潮；另一方面也备受质疑，遭受了两次严重的挫折，被称为“人工智能的两次寒冬”。1993年以后，人工智能才算赢来了崭新的春天。

到今天，从来没有哪项技术能够像人工智能一样引发人类无限的畅想，人工智能题材的电影越来越多地涌进市场，2019年春节后上映的被誉为开启中国科幻片新纪元的电影《流浪地球》，再次引发了知识界关于人工智能伦理问题广泛的讨论。在影片中，超级人工智能机器人Moss最后一句话“让人类永远保持理智是一种奢求”，发人深省。“人工智能没有情感，不相信希望，更不相信奇迹，因为程序的思维方式和它的计算中没有奇迹。”[1]毫无疑问，在Moss看来牺牲空间站去换取挽救地球微弱的可能性简直毫无理性，但它不明白的是在人类历史进程中，正是这种在危机关头的奇迹、希望与自我牺牲才使得人类繁衍下去。

在人工智能发展的初期，科学家主要关注人工智能技术本身的发展，并且经常会和哲学联系起来，那是因为人工智能顾名思义是研发用于模拟、延伸和扩展人的智能的理论。1950年发表的《计算机与智能》这篇文章中，作者阿兰·麦席森·图灵设计了一个非常有名的测试——图灵测试，如果机器人能通过这一测试说明其会思考，反之则不会。图灵测试为人工智能的研究奠定了基础，将人工智能与人紧密联系起来，人工智能的伦理问题也悄然而至。

同年，美国著名科幻作家阿西莫夫在《我，机器人》这本书中提出了三条机器人定律：“第一条，机器人不得伤害人类个体，不能目睹人类受到伤害而不干预；第二条，机器人必须服从人类的命令，命令与第一条冲突除外；第三条，机器人在不违反第一条、第二条原则的情况下，要保护自身安全。”[2]“机器人三定律”的初衷是为了让机器人的行为规范受到限制，使其道德地位处于人类之下，避免人工智能机器人的意志与人类的意志产生冲突，从而走向“毁灭人类”的歧途。

美国著名科学家J.R.塞尔根据人工智能的智能化程度将其区分为弱人工智能和强人工智能，简单地来说，两者的主要区别就在于弱人工智能是作为一种工具而存在，自身不具备独立发展的意识。强人工智能不能简单地称之为一种工具，它具有像人一样独立思考和决策的能力，可以产生一种理性的行动。而且强人工智能奇点的存在（在物理学中奇点表示不存在的点）说明了人类有被人工智能超越的可能。著名物理学家霍金也说过：“生物大脑与电脑所能达到的成就并没有本质的差异。因此，从理论上讲，电脑可以模拟人类智能，甚至可以超越人类。”

人工智能为人类社会带来的潜在利益十分巨大，但是我们要警惕其带来的各种危险，包括强大的军事武器。除此之外，人工智能还有可能进化出自己的意志，对人类社会的影响更无法估量。对人类而言，强大的人工智能技术的崛起可谓“不成功，便成仁”，有时候，看似不太起眼的翅膀扇动，却很可能在不远的将来，引起人类社会山呼海啸般的巨震。

关于人工智能问题的研究国外比国内起步要早，比较知名的有《智能的本质》《人工智能简史》《人工智能哲学》等，这些书在描述技术发展带来便利的同时也早早就对人类发出了警示，其中，诺伯特·维纳指出，未来的机器人代替人类从事劳动可能会导致人类的生存危机——使人类变得好吃懒做和愚笨，变成机器的附庸品。我国人工智能研究起步虽比国外稍晚一些，但对于人工智能的研究文献却不少，也取得了一定的研究成果。比较著名的有浙江师范大学郑祥福教授在《人工智能的四大哲学问题》[3]提出来的关于人的意向性问题、概念框架问题、语境问题以及日常化认识问题。这四个问题的阐述将有助于人工智能科学的基础性问题的解决。北京邮电大学的刘伟教授在《关于人工智能若干重要问题的思考》[4]中启发我们要用一个综合性的眼光来看待强人工智能，而不能仅仅以一种工具的眼光视之。除此之外还有陈立鹏的《人工智能引发的科学技术伦理问题》、刘燕的《情感机器人哲学的伦理维度》、李琼的《人工智能的哲学思考》等。整体来看，我国在人工智能伦理领域研究并没有特别的深入，只是由少部分的学者对其进行了反思和初探，相关成型的伦理书籍著作更少。笔者试图在以上成果的基础之上，对当前人工智能伦理问题的困境进行进一步探究，以期推进对该问题的思考。

二、人工智能引发的伦理困境

1.人工智能带来劳动异化问题

从人工智能的定义来看,人工智能研发的目的是将其作为人的对象化产物，即作为劳动的外化而存在。劳动外化本身并不造成劳动的异化，反而可能促进人的本质的实现。那人工智能是如何导致劳动的异化这一结果的呢？这就不得不说到资本的本质，资本的本质是在运动循环中实现增值，追逐利益是资本的唯一目的。在科学技术是第一生产力的时代，人工智能所表现出的巨大的生产力必然吸引资本蜂拥而至，在资本的强烈的“裹挟”下，人工智能违背了设计的初心。“人正面临着一股自己根本无法控制的力量，与这股力量相比，人只是一粒尘埃罢了”[5]资本与技术的合谋使人工智能越来越走向一条不归路。

具体来说,这种合谋导致的劳动的异化是通过两条途径实现的：首先，自动化缩小了社会的横向分工，人工智能实现了生产的半自动化、全自动化，消除了生产对人类个体差异性的依赖。随着人工智能研发的深入，更加完善的功能使得人工智能在社会分工体系中越来越占据主导地位，减弱了横向分工之间的差距，普通劳动者之间技术的差异性逐渐丧失，高效率自动化生产的背后是资本剥削的进一步加深，所有发生的一切都是静悄悄的，被一种貌似平等的假象所掩盖了。人越来越成为资本追逐利益下技术手段的附属品，工人的生存状态并没有得到很大的改善，相反，随着劳动力对技术依赖性的增加以及由此造成的劳动力本身在分工体系中竞争力的下降，其生存状态会进一步的恶化。

其次，人工智能技术的垄断阻隔了社会的纵向分工。在信息时代，基于大数据以及计算机应用的自动化生产成为了拉动经济增长的主要驱动力，资本追逐利润的本质使得大量资金都流入了那些掌握前沿科技的企业和人才手里，这样造成了一方面是一些常规性的工作被代替以及由此造成的整个社会失业率的增加，在美国一些中产阶级的工作被计算机、机器取代；另一方面，一些本来就处于社会分工等级上层、掌握前沿科技的企业，由于资本的大量流入使得这些企业的地位更加稳固，甚至通过新的技术垄断切断了其他企业以及劳动者突破社会分工的机会，进而将不平等的社会分工等级秩序的牢笼扎得更紧。社会分工顶层和底层间不可逾越的断裂带的出现，使得社会两极分化更加严重——穷人更穷、富人更富。收益最大的只是资本的拥有者，广大劳动群众在现代化技术革命的浪潮中只是作为大量且廉价的技术附庸品而存在，而且随着科学技术的进一步发展将越来越多地被抛弃。

2.人工智能带来的技术形态意识化问题

技术本身承载着传播意识形态的功能。马尔库塞在肯定资本技术的同时也高高地举起了技术理性批判的旗帜，认为科学技术与私有制度的结合造就了一种新的社会的统治力量。在发达资本主义社会，技术披着超阶级的、非政治的面纱，反而呈现出更大的控制能力。“发达工业社会和发展中工业社会的政府，只有当他们能够成功地动员、组织和利用工业文明现有的技术、科学和机械生产率时，才能维持并巩固自己。”[6]在马尔库塞看来，科学技术的广泛渗透使得人们受奴隶的方式发生了很大的变化，显而易见的剥削方式消失了，取而代之的是看似公平合理的新型剥削，人的身体和思想彻底被附庸在机械化生产的体系中，在“科学”、“合理”的名头下，底层劳动者的不满和愤怒被贴上了“反科学”的名称，似乎生产效率决定一切。“技术的解放力量转而成为了解放的桎梏”[7]马克思说，人应该是处于社会关系中的人，而在科学技术浪潮的冲刷下，人越来越成为单向度的人，关于人的本质、关于自由而全面的呐喊淹没在了科学技术的巨轮里。

科学技术的发展会创造更多的生产力，会创造更多的物质财富，但是追求物质财富是人的本质吗？答案是否定的，这就是近几年风靡全国的一个问题：今天你幸福了吗？相比于十年前，社会的物质财富集聚增加，但是人们的幸福指数相比于十年前却是有减无增。资本与技术合谋创造出了越来越多的物质财富，引导人们产生一种“虚假的需求”，人就拜倒在物质的脚底下，技术理性将人类引向效率原则，在高效率生产力所带来的物质财富增加的烟雾弹下，人逐渐变成物质财富的奴隶。

3.人工智能的权利与责任

随着科学技术的发展以及人机交互应用范围的扩大，人工智能的伦理问题已经超出了一般的技术性伦理，其范围延伸到“机器的人权伦理问题”。2016年，中国第一台美女机器人诞生于中国科技大学，取名“佳佳”，佳佳的外形接近人，佳佳目前具备了人机对话理解、面部的微表情、口型及躯体动作匹配、大范围动态环境自主定位导航等功能。2017年10月26日，沙特阿拉伯授予美国汉森机器人索菲亚公民身份，索菲亚成为世界上首个获得公民身份的机器人。伴随“类人类生命”陆续问世，它们不再是仅从事简单的体力劳动的机器人，而是具备了一定的感知能力以及像人一样的情感特征，甚至在与人类不断交互的过程中会进行情感的自动进化，这种发展的趋势使得机器人的人权问题不得不引起重视。美国未来学家雷·库兹韦尔预言道：“拥有自我意识的非生物体（机器人）将于2029年出现，并于21世纪30年代成为常态，他们将具备各种微妙的、与人类相似的情感。”[8]他还预言，2045年是极具深刻性和分裂型的转变时间，“非生物智能在这一年将会10亿倍于今天所有人类的智慧。”[9]

人工智能技术的进一步发展，一方面给人类带来了巨大的便利，一方面使人权伦理问题更加尖锐地摆在了人类面前。比如，机器人是否应该具有像人一样的休息的权利，是否具有接受教育的权利，机器人是否可以作为家庭成员而存在，机器人有没有可能损害人的生命安全。当这种“类人类”的智能生命体不仅在相貌上越来越像人，而且能产生像人一样的情感特征的时候，我们必须思考这些“类人性”的机器人是否应该被赋予一定的人权。反对者有之，他们认为给予智能体权利就是对人类权利的破坏，智能机器人的想法从一开始就是为人类服务的，如果给这些机器人以一定的人权就违背了研发的初衷，甚至会带来一些难以预料的后果。支持者有之，他们认为在现在社会，人权的特征已经不仅仅局限于普世性和道义性两个基本特征而是具有了基础性，既然机器人拥有一定的道德修养，并且可以与人类进行一定的情感互动，而且人类本身也可以看做是一个复杂的机器，甚至从某些方面来看，人工智能的智力情况已远远超过了人类，所以智能机器人理所应当被赋予一定的权力。

近年来，随着科学技术的迅猛发展，人工智能正在凭借其巨大的优势向教育、交通、服务业、制造业、金融行业等领域进军。人工智能与人交互的机会越来越多，其凭借自身的学习能力会进行自我的进化和升级，升级和进化的方向我们没有办法完全预测到，甚至不排除在一些情况下它会自作主张。人工智能的初心是为人类服务，最开始的目的是想让人类从复杂繁琐的工作中解放出来，但是在人工智能的深层次的发展过程中有可能背离这个初心。美国科学家霍金就曾经提醒过，人类缓慢的生物进化机制没有能力与人工智能以一种不断增长的速度竞争。人工智能的这种自我进化的能力让人类非常的纠结，没有一个人工智能的算法是绝对安全的，可以把包罗万象的人类社会发生的可能性全部预测到。“随着医学、生物学及计算机等学科关于意向性研究的突破，意向性在一定程度上可以通过程序自主生成，这会使得责任的划分更加困难。”[10]与此同时，人工智能技术规范远远落后于技术的发展，甚至在实验室里，这种规范的伦理意识刚刚处于萌芽阶段。于是，人工智能的责任伦理的问题越来越尖锐地摆在人类面前——谁应该为这些不确定性的风险事故买单，是机器人本身还是其研发者还是应用者？比如，工业自动化时代，谁来对那些失业的工人负责，自动驾驶车问世以后，谁来为汽车事故承担责任？如果用于医疗诊断的专家系统出现失误，谁来为医疗事故买单？如果没有这方面的规范，责任界定的不清楚，潜在的责任方就会相互推诿，长此以往势必会造成人工智能风险事故的频发。

4.人工智能带来的环境伦理问题

在世界范围内，环境主义的运动是从《寂静的春天》这本书萌芽的，它的一声呐喊，拉开了保护环境的大幕。从那时候起，保护环境，拒绝污染就逐渐成为了一种道德的规范。进入二十一世纪，随着科学技术的进一步发展，各个国家在许多领域都加大了对人工智能的投入，一些模拟人类智能的科技产品与人类日常生活、学习的联系也越来越密切，这些被投入应用的科技产品在给人们的日常生活和工作带来便捷的同时，也给我们的环境带来了很大的压力。首先，人工智能的发展会加剧人类对自然资源的掠夺，技术无论发展到何种程度，它都需要有固定的载体来实现这些功能，这些载体，甚至载体的零部件的研制都需要利用自然界的各种材料，经过很多步骤的工序才能制作出来。“人工智能技术无法摆脱技术的自然属性，以人工智能机器人为例，它的研制需要从自然界索取不同的物质，经过多种复杂的程序，是诸多种材料、学科知识、技术的合成。”[11]长此以往，势必会使自然界的性质和状态发生变化。

其次，人工智能频繁的更新换代会严重污染环境，人工智能要想实现更好的性能就必须加速更新换代，而且人类想要享受到更好的功能和服务，也不得不对这些科技产品进行升级甚至淘汰，淘汰下来的产品如果不能被循环利用，会对生态环境造成很大的压力。特别是在一些发展中国家，急于发展科学技术，而对这些技术的预判不足，预料不够，大量的环境问题就暴露了出来。此外，人工智能应用过程中产生的噪音以及辐射等，不仅会影响人类的生存环境，还会对一些动植物的栖息地产生难以估量的影响。技术的发展为我们带来了源源不断的生产力，但是也对生态环境造成了巨大的压力，形成所谓的技术发展悖论。悖论背后的根源在于人性的贪婪和无所节制，这种贪婪不仅体现在个人层次的自我私利上，更是体现在了地区、国家间的利益纷争中。追求技术的进步本身没有什么错误，错就错在了技术的应用主体被一时的利益所蒙蔽。随着互联网的发展，各个国家的联系也更为密切，全世界应该树立命运共同体意识，共同合理利用全球资源，开展国际合作时发达国家不应该利用技术优势转嫁污染给发展中国家，发展中国家在发展高新技术的同时要兼顾环境保护，制定政策时不应该以牺牲环境为代价。

三、人工智能的伦理问题思考

人工智能技术的发展与人工智能技术所带来的问题是相伴相生的，我们不能因此完全否定人工智能技术的发展，也不能任由其“随意生长”，应该辩证地看待这一现状，在发展的基础上规范，在规范的前提下发展。为此，我们可以从以下几个方面入手：

1.增强研发主体的道德责任感

人工智能是一把双刃剑，它既可以创造出巨大的生产力，同样也会产生巨大的破坏力。相关领域的科学家与人工智能的发展方向有着紧密的联系，科学家的价值取向、道德观念，对人工智能技术的开发和应用有着重要的作用。因此，规避人工智能伦理困境的一个重要方面就是加强科学家的道德建设，培养其道德责任感。

首先，应该加强科学家的责任意识，过去那种认为科学家的任务是开发研究，而技术的应用和管控是政府责任的想法是非常危险的。随着技术的快速发展，科学技术带来巨大生产力的同时，造成的一些事故也是非常危险的，而事后的补救措施又显得相对苍白无力。比如，应用于生产的机器自动化系统每年造成大量的人员伤亡、用于医疗的专家系统的错误诊断使紧张的医患关系更为紧绷，再如，无人驾驶车辆在试运行阶段就出现了很多的责任事故......谁应该为这些事故买单？我们不应该把技术的管控完全交给政治家，而是应该从源头开始，在人工智能的研发过程中注入更多的人文情感和人文关怀，增强科学家的责任意识。

其次，要培养科学家的道德感，加强思想道德方面的教育，促使其养成良好的习惯，确保他们拥有正确的价值观念。加强辩证法思想的引导，使其对研发的性质和方向有一个正确的把握，防止科学家在开发研究过程中，因为一己私利或者一时兴起，再或者受到一些野心家的诱惑、威胁而开发出危害人类安全的反社会性武器。最后，要加强对科学家的监督管理，通过制定一些规章制度来监督科学家的科研方向和状态，自律和他律相结合，只有这样，才能让人工智能造福人类，而不是危害世界。

2.积极构建人工智能的法律规范

人工智能技术的研发和应用正在蓬勃发展，与此同时，人工智能伦理方面的法律规范却相对空白，目前国内用来规范人工智能发展的立法还未正式出台。“没有规矩，不成方圆”，人工智能技术的发展也不能缺少法律的规范。我们应该积极关注国内外出现的伦理问题，通过立法的的方式对其进行规范，鉴于技术的伦理问题是全世界各个国家面临的共同挑战，各个国家应该积极促进通过一部具有最高效力的国际通用法则，保证人工智能伦理问题不会在个别地域“生根发芽”，进而造成世界范围的伦理问题。每个国家也应该根据人工智能技术发展的程度以及各个国家的实际情况，制定出属于自己国家的法律准则，只有具备了法律的规范，把人工智能的发展关进法律规范的笼子内，才能让其造福人类。

3.加强国际合作

随着互联网和其它电子媒介的出现，以及现代交通方式的飞速发展，人与人之间的时空距离骤然缩短，整个世界紧缩成"一个村落"。人工智能是一项造福全世界的财富，人工智能的伦理困境也是各个国家所面临的共同的挑战。因此，各个国家要加强彼此的联系，互通有无。目前，人工智能存在着很多空白区域，具有较大的发展空间，各个国家应该进一步加强国际间的交流协作，通过构建国际人工智能人才交流的体系、组织国际间人工智能的学术会议来进行交流合作，突破技术壁垒的界限，共享人类发展的成果，让人工智能沿着造福全人类的轨迹前进。

此外，这种国际间的交流合作不应该仅仅局限于技术层面，还包括道德、责任、伦理、制度等方面的内容。每个国家都有其独特的文化氛围，中国文化博大精深、源远流长，中国文化重视人的本质，这对于跳出人工智能伦理的困境给予了一个更为开阔的视野。同理，西方文化中也有许多有益的因素，因此，我们要大力加强国际间的文化交流，消除各国的文化隔阂，人工智能技术的发展和伦理问题的规避从来不是一家之言、一国之事。

四、结论

我们正处于现代文化核心的“伦理真空”，这个真空是由传统伦理学的缺失与现代自然科学的发展导致的。今天人工智能发展所带来的全世界范围内人类行为方式、思维方式的变化是加速、不可逆转的影响，但是传统伦理学的发展却是相当缓慢，而且具有地域性和民族性，这就在现代社会中出现了巨大的伦理真空地带。因此，在大力发展人工智能的同时，必须高度重视可能出现的社会风险和伦理挑战，大力加强人工智能伦理学研究，揭示人工智能发展面临的伦理难题，为技术发展清理路障，同时为其提供价值的指引。

参考文献：

[1]仪欣妍.科幻电影中人工智能伦理意识探析——以电影《流浪地球》为例[J].戏剧之家,2019(29):93+95.

[2]阿西莫夫.银河帝国8:我,机器人[M].叶李华,译.南京:江苏文艺出版社,2012:2.

[3]《科学技术与辩证法》,2005年第5期.

[4]《人民论坛·学术前沿》,206年第7期.

[5]陈学明.吴松,远东.痛苦中的安乐——马尔库塞､弗洛姆论消费主义[M].昆明:云南人民出版社,1998∶162.

[6]赫伯特·马尔库赛.单向度的人—发达工业社会意识形态研究[M].刘继译.上海:上海译文出版社,2014∶5.

[7]哈贝马斯.作为"意识形态"的技术与科学[M].李黎､郭官义,译.上海:学林出版社,1999:4,58.

[8][美]库兹韦:《如何创造思维》,盛杨燕译:浙江浙江人民出版社,2013年11月年版,第195页.

[9][美]库兹韦尔:《奇点临近》,李庆诚,董振,田源译:北京机械工业出版社,2011年版,第80页.

[10]闫坤如,马少卿.人工智能伦理问题及其规约之径[J].东北大学学报(社会科学版),2018,20(04):331-336.

[11]陈首珠.人工智能技术的环境伦理问题及其对策[J].科技传播,2019,11(11):138-140.

吴娜.人工智能的伦理困境与出路[J].机器人产业,2020(03):85-92.