智能化战争的伦理与法律探讨

智能化战争的伦理与法律探讨

张乐刚， 张秋菊 *

空军军医大学基础医学院， 西安 710032

摘要：智能化战争是目前世界上各国谋求发展的新战争方式，各国希望以机器人代替人类进行战斗或用智能化系统装备提高战争效率的方式取得胜利。常规战争方面已经有《国际人道法》《日内瓦公约》等伦理、法律依据，但是在新兴的智能化战争中缺乏同样的法律依据。因此，论文从智能化战争的内容、伦理道德、伦理冲突三个方面论述智能化战争伦理的意义和未来智能化战场伦理应当涵盖的内容。

Intelligent warfare is a new way of warfare that countries in the world are seeking to develop. All countries hope to use robots to replace humans in fighting or use intelligent system equipment to improve the efficiency of warfare. Conventional warfare already has ethical and legal basis such as International Humanitarian Law and Geneva Convention, but the same legal basis is lacking in the emerging intelligent warfare. Therefore, the paper discusses the meaning of intelligent war ethics and the content that the future intelligent battlefield ethics should cover from the three aspects of intelligent warfare, ethics and ethics conflict.

关键词：智能化；战争；伦理；战场；道德

intelligent; war; ethics; battlefield; morality

【中图分类号】E11；F49 【文献标志码】A 【文章编号】

1 引言

目前，随着人工智能在我国的飞速发展，智能化技术在计算机、机器人、视觉内容自动识别等其它技术领域不断进步。在军事领域，利用人工智能研发新军事武器、进行人才选拔、指挥决策等方面的技术逐渐走向成熟。智能武器的定义是指具有人工智能的武器，通常由信息采集与处理系统、知识库系统、辅助决策系统和任务执行系统等组成。能自行完成侦查、搜索、瞄准、攻击目标和收集、整理、分析、综合情报等军事任务^[1]。在智能化武器装备不断发展的过程中，我们应当反思这些年的人工智能的发展是否符合伦理道德的准则，智能化武器的应用是否合法，并应当对未来智能化战争的发展设立伦理规范和进一步在卫勤保障中完善人工智能技术使用的法律条目。

2 智能化战争的含义

智能化战争是以人工智能技术手段为主要支撑的战争，是信息化战场发展的必然变革^[2]。海湾战争中，美军用高精尖的武器和先进的军事理论造成了自称“第四军事强国”的伊拉克10万人的伤亡，自己却只付出了606人的代价。战后我们才认清了如今国外作战样式发生了根本性的变化，从此我国被迫投入了大量军费学习美国的作战模式和标准，实行军队改革使军队尽快从实现机械化到信息化部队的进步。目前，伊拉克针对ISIS的作战中，大规模的应用的国产的彩虹-4无人机执行侦察和打击任务，体现了现代战场上智能化系统的成熟应用和广泛前景。美国国防创新委员会主席埃里克·施密特也请求国防部在人工智能领域开展更多布局，其特别强调“某些对手”最新的人工智能国家战略将“威胁”到美国在此领域的领先地位。有一种说法是科技革命引发战争，而在未来要想获取战场的制高点、话语权，就必须拥有先进的作战理论和武器装备。如今，5G传输、量子通信等技术得到了充分的发展，基于这些技术人工智能对大数据的分析和学习能力也得到了提升。随之而来的是新的作战样式的变化如军队编成、作战方式、军事理论、日常训练的更新换代。另如深度学习武器装备、智能作战机器人、“蜂群”无人机作战的出现也给了我们对战争新的启示。

3 智能化战争涉及的伦理法律问题

3.1 智能化战争需要伦理与法律约束

战争伦理是指社会集团及其武装成员在政治交往中，针对组织化暴力对抗所遵循的暴力使用的行为规范体系。学术界将战争伦理大体分为两个方面：一是“指向战争的伦理”或“战争权利的伦理”，即有关战争的权利、战争的性质、战争的责任的问题；二是“战争的行为伦理”，即有关战争中使用的各种手段的规则问题。历史上随着工业革命的发展，战争的样式也逐步发生着改变，战争也同样促进着科学技术的进步。目前，关于智能化战争的伦理道德规定还很欠缺，战争需要伦理道德的存在才能被世人所接受。各国需要统一伦理准则，才能判定战争行为是否合理。人工智能的伦理终究是工程师、程序师的哲学修养所决定的。其深层含义是世界各国政府利用人工智能的技术完成具体什么样的任务。当人工智能应用于军事领域就涉及军事技术的伦理价值，它是军事技术的客体本身所具有的能满足军事技术主体伦理道德和伦理精神需求的属性，它反映了军事技术主体在进行军事技术的设计、发明、生产和使用等有关活动时所持有的价值理念，伦理取向以及道德规范。军事技术的伦理价值始于过去，将会不断的完善更新适应现代化战争，满足国际社会的需要。

3.2 军用机器人引发的心理情感问题

目前，美军的无人装备数量最多，类型最齐全。据统计，美军已有各类无人机1.13万架以上，各种地面机器人1.5万以上。预计到2040年美军将会拥有达到一半以上的机器人成员。在控制方式上，其现役无人装备仍主要采用遥控或预编程自动控制方式，不过随着其算法战、蜂群、忠诚僚机等项目的持续深入，预计无人装备的自主性、以集群或编组方式完成任务、有人-无人协同等能力都将取得较大突破。军用机器人的大量使用，将给现代的战争道德带来巨大冲击。比如，在战场上具有自主攻击能力的智能化武器对主动放下武器或被剥夺武器的敌方人员，如何辨识对方的真正意图并做出正确决定，这是智能化系统难以准确抉择的。因此，我们在使用人工智能武器进行战争的过程中需要保持谨慎的态度，不能完全放任人工智能的自主学习、自主判断的能力，以防止出现严重的伦理道德后果，未来在研究智能化武器装备的同时要建立有完整的伦理道德委员的监督和审核。香港的汉森机器人技术公司（Hanson Robotics）开发的类人机器人索菲亚，是历史上首个获得公民身份的一台机器人，人类赋予了她“人”的意义，并或多或少地产生了一定的感情。这是智能化机器进入社会的极特殊一步，未来当人工智能发展到了一定程度，那就必须对它进行伦理约束。这种心理认知的现象同样适用于军用机器人拥有人类面孔的情景。机器人未来可能和人类一起战斗或者参与后方工作等需要与人类相处交流的机会越来越多，人们可能会对机器人出现角色归属不清的心理情感问题。这种认同感可能是社会职责的认同，也可能是对机器人社会角色的认同。但其中包含着对传统伦理道德冲击以及现代社会文化的影响。

3.3 智能化武器装备设计的伦理与法律问题

随着智能化装备进入部队的方方面面，这些武器装备也将会被赋予更多的角色。智能化战争将会重新建立人与武器装备的关系，随着深度学习技术的提升，人工智能在不断的执行人类的命令的同时不断地综合各项工作的深层次规律，从而产生主动的执行人的意识，超越人类的决策能力。我们必须清楚地认识到，智能化装备仅仅只是工具，是为战争服务的，在战场上我们可以参考智能系统的决策和判断。但机器就是机器，它不存在人类的道德思维能力，我们需要将人类的伦理道德思维运行到人工智能的程序里，以减少出现的伦理问题。智能化武器装备的设计必须严格按照交战规则和战争法则设定程序。2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能的八项原则：和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放合作、敏捷治理。基于委员会提出的人工智能治理的框架和行动指南，我军未来可以依据或修改这些原则，作为未来研发人工智能的准则，之后不断完善更新，逐渐形成适应我国伦理道德的规则。只有使智能化装备基于如此的约束我们才能保证未来大规模应用智能化武器出现意料之外的问题。再者，应用智能化武器装备要吸取全面的经验，动员多元化的力量，将科研人员、伦理学家和广大人民的意见结合起来，共同建设人工智能的伦理。

4 智能化战争的伦理准则

人工智能是科技的产物，应当严格遵守科技伦理。科技伦理规范是观念和道德的规范，就是从观念和道德层面上规范人们从事科技活动的行为准则，其核心问题是使之不损害人类的生命健康和生存条件（环境），保障人类的切身利益，促进人类社会的可持续发展^[3]。

4.1 尊重生命原则

生命是人最重要的基础，没有生命就没有人的自然属性、社会属性、精神属性。作为文明高度发达的国家，我们更应当关注人的生命的重要性，我们没有权利剥夺人的生命，但在无法控制的事件中，我们更应当考虑的是伦理的准则的遵守。其中，最关键的问题就是生与死的问题。军事技术的生命伦理价值就源于人类维持生命、保护生命的天然需求。而在军队使用智能化武器装备的初衷一部分就是为了减少己方在战场上的牺牲，谋求完全替代人类去实现作战的目的。为了降低战争中死亡数量从千方百计追求增加杀伤力到考虑武器“慈化”，即设法研制非致命武器。如反恐作战中使用的闪光弹、维稳安保使用的电击枪等。因此，在未来的智能化战场上，应尊重人道主义原则，即尽可能少的人员伤亡下获得正义战争的胜利，一方面取决于设计者的初衷，但另一方面主要取决于指挥官的素质和驾驭能力。所以在和平时代我们要加强伦理法则的制定以及积极广泛地向全军指战员宣传教育伦理道德的含义和内容，以确保军队保证打赢的同时不会成为“绞肉机”。

4.2 保护生态原则

随着人们的生活理念的发展和对生态保护理念的增强，国际社会对环境保护的意识越来越强。人工智能被大量应用于环境监测、突发环境事故处置等种种生态保护的领域当中。人们在集中精力研发人工智能的同时忽略的研发过程二氧化碳的排放对自然的影响，运算模型的大小与排放的成本成正比，因此对环境造成了不可估量的影响。但根据马萨诸塞大学阿默斯特分校的研究人员对几种常见的大型AI模型进行了生命周期的评估。他们发现这个过程可以排放超过626，000斤的二氧化碳当量。这其中人工智能对环境的影响对生态影响深远，其伦理道德值得深究。随着大规模杀伤性武器的发展，战争对环境破坏的程度也是随之加深。生态环境的破坏不只是对森林、草原、湖泊的影响，我们还应该关注动物、土地的保护。在《自然》杂志发表的一篇论文

Warface and wildlife declines in Africa's protected areas 为战争对野生动植物造成的影响进行了定量分析。莫桑比克内战期间，超过70%的非洲保护区受到战争的影响。研究说明武装冲突是非洲珍稀野生动物数量持续下降的主要因素之一。智能化战争交战过程中，不免会造成对动植物的损害，相比二战热兵器时代依赖于大范围火力覆盖的战争方式会更偏向于精确打击以减少不必要的损害。实施精准打击既是为了提高效率也可以能对环境的损害。未来我们应该更多的研发对生态小损害或完全无破坏的武器，减少有害气体释放和对结构复杂的生态环境的影响。针对以传统武器对自然环境造成的损害，环保武器的概念应运而生。环保武器是指借用“绿色保护”的概念，对自然环境不产生或者少产生污染，有利于环保和不破坏生态平衡的武器。而在智能化武器的战争中，将环保武器弹药装备在智能化武器上，可充分减少对环境的破坏。同时，智能化武器对生态环境的影响也必须纳入伦理评判的准则之中。

4.3 优化生存原则

生存是所有生命的基本诉求，没有生存就没有文明的存在，也就没有了伦理的意义。现代社会人们对生存环境的要求越来越高，如网络、美食、居住条件、人文环境等。叙利亚战争中，不少千年的名胜古迹被战争摧毁，过去繁华的阿勒颇街道如今满目疮痍。阿拉伯人中流传着这样一个谚语“人间若有天堂，大马士革必在其中；天堂若在天空，大马士革必与之齐名。”如今的大马士革城区损毁殆尽，百姓流离失所。如此情况下，未来不管任何一方取得胜利，叙利亚人民如何在这样一片破碎的土地上求生存、谋发展，都将是政府和联合国棘手的问题。在这其中带给我们的启发就是如何确保在战争过后，能让当地居住生活的百姓得以维持基本生存条件，以防止釜底抽薪的事情发生。而在智能化战争中我们可以在付出非人员伤亡的代价下确保当地生活条件，更可以做到对历史文明、基础设施、赖以生存的土地和收入来源的保障。维持和营造国家在国际社会中的良好形象就应当充分利用智能化的武器装备、后勤保障和大数据分析确保交战区的百姓生存环境的完整以及将来发展的需要。

今天，军事智能化的程度已经成为未来战争胜负的关键要素，智能化武器装备层出不穷。随着智能化武器装备的研发，带来的是伦理道德的进步滞后于新技术，联合国曾于2013年讨论军用机器人的使用问题，要求冻结这些智能化武器的研发，并成立讨论委员会。而智能化武器在战场上的伦理道德，我们应当从社会道德评价以及道德自我评价的方面充分考量军事行为是否正义。具体而谈，一次正义的军事行为，要符合战场伦理的约束。评价的维度可以从起因、动机、过程、结局和反思与自我评价决定，最终智能化战争的结局要经受国际的认同以及全世界的伦理道德评定。智能化战场伦理的确立需要经过武器装备功能的实验和不断的与社会磨合。就现在的发展情况而言，还需要大量的时间以及国际社会的通力合作。德国屠戮犹太人以确保雅利安人的血统，他们的子孙一直在为先辈的行为所反思和补偿。我们没有权利让我们的后代承受世界的批判，中华民族一直以来都渴望和平的相处以及不战而屈人之兵的理念，合理地运用智能化武器将会为后代设立一个完善又先进的研发和使用规则。所带来的福祉将会是功千秋，利万代。

【参考文献】

[1]陈多闻,何祖龄.军事技术伦理价值的三重形态[J].长沙理工大学(社会科学版),2018(33):21-27.

[2]潘舰萍,史如松.新概念武器研发和使用的伦理考量[J].世纪桥,2011(17):2.

[3]丁宁,张兵.世界主要军事强国的智能化武器装备发展[J].军事文摘,2019(01):43-44.

作者简介：张秋菊（1977-），指导教师兼通讯作者，空军军医大学基础医学院军事医学伦理学教研室。

作者姓名：张乐刚（1998-），空军军医大学基础医学院五大队十七队，本科学历。