人工智能体引发的伦理困境

2.人工智能体的伦理困境随着人工智能的普及应用，其引发的社会伦理问 题也变得越发多样。的生产生活提供了便利。但是随着人工智能技术的发 展，人工智能体的性能不断丰富，出现了越来越多的

伦理性问题。因此，对于目前的人工智能技术研究而言, 找到走出人工智能体伦理困境的方法至关重要，这也

(1) 人工智能存在算法歧视问题。从本质上而言,

算法是一种客观的数学表达，但是算法模型和数据输 入都是由人来完成的，而在此过程中人类固有的偏见

已经成为技术研究人员关注的重点。1.人工智能技术概述人工智能即AI,是一种可被应用于各个领域中的 模拟人的机器，极大程度地推进了社会进步和经济发 展。当前，人工智能技术被广泛应用在医学、地质、

和歧视会对算法决策的结果产生影响，进而引发算法 歧视一类的伦理问题。比如，微软公司在社交平台上

的聊天机器人可以与网民实现良好互动，但是在使用 中逐渐成为了一个拥有性别歧视和种族歧视的“机器 人”，这就是算法歧视结果的直接体现。算法决策不

化学和电子学领域。基于人工智能的特点和性能，可 以将其分为弱人工智能和强人工智能2种。弱人工智

仅会将代码中的固有歧视保存下来，更会在预测未来 的过程中不断固化歧视进而创造出新的现实，形成一

能体所表现出的行为虽然与人类相似，但其并不具备 思想意识，也就是说弱人工智能只是一种可以模仿人

个“自我实现的歧视性反馈循环”。(2) 人工智能存在社会伦理问题。人工智能在人

类低等行为的工具,能代替人们完成一些简单的操作。 比如，洗衣机、微波炉等都属于弱人工智能体。而强

们生活中的应用，使人与机器之间的关系逐渐变得复 杂，进而引发了一系列的社会伦理问题。其中，最为

人工智能则属于高级人工智能，研究人员认为强人工

主要的是人工智能是否可以代替人来工作？从作业有 效性和经济性上来看，在未来有大量的白领或蓝领职 业可由人工智能体来从事，那么必然会引发大规模的

智能体具备思想意识、思考能力和情感，能在解决问 题和推理环节发挥自主性。当前，人工智能体所面临

的伦理困境就是基于强人工智能背景而言的。86 角中国高新科技2020年第3期技术性失业，在一定程度上会导致人与人工智能体的

MANAGEMENT SCIENCE | 管理科学对立。同时，人工智能体的社会伦理问题还表现在社 会不公以及军事应用方面。由于各区域间经济和科技

理困境，相关工作人员需要从根本的算法设计层面着 手。人工智能算法的伦理性问题主要存在于道德层面，

水平发展不一致，所以必然会出现人工智能技术福利 所以研究人员的算法伦理设计也应该基于道德层面来 开展。研究人员需要同时构建人工智能算法道德体系

分配不均的问题，那么相关的伦理问题也将随之而来。 而在军事方面，是否能用机器人代替人类战士以及是

和人工智能监管体系，依靠达到标准和准则对人工智

否主要实现未来战争机器人的去人格化也是引发伦理 能的行为进行评定和约束。问题的主要议题。(3)人工智能

3.1.1构建人工智能道德体系为了使人工智 能体走出伦理困境,

存在责任与情感伦理 问题。人工智能的大

构建人工智能道德 体系十分必要也十 分重要，甚至可以

范围促使许多事件或

案件出现主体判别困

难的伦理问题。比如， 无人驾驶车辆的突发 情况急刹车问题，人

被看做是解决相关 问题的核心性工作。

伦理和道德都是较 为复杂的概念，其

工智能的每一步都由 算法规定，而算法确

内涵也极为丰富， 所以确保人工智能 的算法符合伦理道

是由人来设定的，所

以在突发问题的责任 主体追究方面必然会

德标准也是一项复

杂的社会工程。这份工作的开展，不仅需要人工智

出现伦理问题。同样，在情感方面也存在伦理问题， 当人工智能的智能特征越来越明显，类人化程度越来 越高，甚至产生了自主意识后，人类与人工智能之间

能领域研究人员的努力，更需要整合社会各行业的

专业资源，只有依托于跨学科的协作研究才能有效 完成。而构建人工智能道德体系的根本目的，就是

的感情关系将会引发新的伦理问题。虽然，就目前而 言拥有自主意识的人工智能还只存在于科幻电影当中， 但是随着人类科技水平的发展和对人工智能研究的深 入，这种高端人工智能体极有可能面世，若不未雨绸

为人工智能嵌入人类价值，进而提高他们的环境适 应性和行为道德性，让人工智能的行为合乎人类社 会的伦理道德，避免引发伦理问题。由于人工智能

缪则必然无法妥善地处理因情感而引发的伦理问题。的行为大多由算法控制，所以保证算法设计环节的 道德影响因素平衡性至关重要。比如，在实践中可

3.人工智能体伦理问题的解决路径基于当前已经产生的人工智能伦理问题以及研究

以合理调配不同道德观念、宗教、民俗、政治观念 和历史文化等内容的权重，使人工智能设计系统与

人员对未来人工智能伦理困境的预测，相关工作人员 应该调整人工智能的研究方向，将解决人工智能引发

人类社会的价值标准保持最大限度的统一和协调。的伦理问题也作为重点研究项目来开展。基于此，研 基于此，人工智能研究人员可以从以下5个方面 着手，合理地开展人工智能算法道德体系构建工作：究人员既需要遵循人工智能体的算法设计特点来开展 实践研究，又需要深化对人工智能时代人工智能体管

(1) 构建道德评判机制，为建立人工智能伦理道

德体系提供基础框架。理问题的研究。3.1人工智能的算法伦理设计引发人工智能伦理困境的主要原因是其算法的伦 理性缺失问题，所以为帮助人工智能体消除或摆脱伦

(2) 落实人工智能道德评判机制和基础框架，保

障算法具备帮助人工智能拥有道德环境适应性的作用。(3) 基于人工智能的应用范围和需求，完善隐私

2020年第3期吵中国高新科技 87管理科学 MANAGEMENT SCIENCE保护和人权保障相关的法律法规，为开展人工智能伦 理问题执法提供依据。(4) 推进人工智能算法设计行业标准的统一。(5) 建立人工智能道德评估机制，对人工智能的

行为进行公正评价。3.1.2构建人工智能监管体系为了实现对人工智能行为的约束和伦理问题的预 防，相关工作人员应该推进人工智能监管体系的有效

构建，借助于自上而下的科学监管提高人工智能管理 水平。从人工智能的设计和使用特征来看，数据分析、

算法策略和成果应用是人工智能体发展过程中最重要

的3个阶段。而这些环节的作业质量和科学性都将会 对人工智能体的行为模式产生影响，为了避免出现伦 理问题应该对这3个阶段进行全程监管。但就目前而

言，我国尚未形成具体的、针对人工智能环节的监管

制度，也还不具备实现人工智能研发改进全流程监管 的能力。所以，当前在人工智能管理和算法道德约束 方面的首要任务是建立从上至下的人工自能监管体系o

为了构建有效的人工智能监管体系，相关工作人员可

以从2方面着手作业。(1) 明确各部门的监管职能。基于对我国当前的

人工智能发展推动计划以及相关的纲要方案，能够对

人工智能体开展监管的部门和机构包括国家制造强国

建设领导小组、工信和信息化部、科技部以及中央网 信办。那么，为了让各部门之间实现协调与配合，共

同实现对人工智能体的有效监管，在实践中相关工作

人员必须对各部门的职责和监管范围进行明确划分，

进而保证上述各个国家部门都能够积极发挥自身对人 工智能产业的监管作用，提高监管工作质量。当然， 在工作开展过程中,还需要各部门积极完善监管内容，

提高监管能力，避免出现监管空白问题。(2) 确立监管标准。如今，在人工智能体的监管

问题上，各部门尚未出具统一的监管标准。不仅如此， 在人工智能监管的检测、跟踪、预警以及找回等方面

也并未建立规范性机制，更没能实现对人工智能风险

的有效防控。基于当前人工智能事前监管少、事后监

管的问题，相关工作人员需要进一步完善监管标准。 比如，建立人工智能全程追踪机制和风险预警机制， 依托于科学的监管标准对人工智能的不合理行为进行

88

®中国高新科技2020年第3期有效预判，解决人工智能的伦理问题。3. 2科学设计人工智能社会治理框架在未来，人工智能体在人类社会的应用必然会越

来越多，那么基于人工智能时代的社会治理也必定会 与传统的人类社会治理存在差异。所以，为了解决人

工智能引发的社会伦理问题，相关工作人员需要先对 人工智能的伦理准则进行合理设计。当前，国际电气和电子工程师协会发布的文件不断呼吁在研究人工智 能时优先考虑伦理问题，而我国国务院更是对人工智 能伦理问题的研究提出了明确的要求。这表明，人工

智能伦理问题已经成为了国际社会的关注重点，建立 和完善人工智能法律法规势在必行。基于《新一代人

工智能发展规划》，在人工智能伦理和法律方面，我 国已经制定了 “三步走”的战略目标，到2030年，

我国将建立相对完善的人工智能法律、伦理和政策体 系。所以，在此环节，为了保障人工智能时代社会治

理框架的合理性，相关工作人员必须基于我国基本国

情和人工智能发展水平作业。以人工智能的替代就业 问题为例。为了解决这一问题，有关部门深度分析人

工智能的岗位替代和任务替代功能，完成产业结构调 整和优化，而后通过制定针对性的鼓励和保障政策，

规避伦理问题。4 •结语综上所述，当科技高度发达且机器拥有了高自由 度后，在易出现基础层面问题的同时还容易引发伦理

问题。为此，科研人员必须加强对人工智能体伦理问

题的重视，对引发社会伦理问题的因素加以控制，并 且通过建立人工智能算法道德体系和监管体系推进人

工智能体道德伦理问题的解决。(作者单位：国家互联网应急技术处理协调中心)