科幻作品视角下的人工智能伦理

科幻作品视角下的人工智能伦理

梁卫国

(中央民族大学哲学与宗教学学院，北京 100081)

摘 要：人工智能快速发展的现实为科幻作品提供了创作素材和科技佐证，而科幻作品为人工智能提供了未 来想象和发展可能，两者既相离又相交的关系构建起了丰富的精神实验和感觉体验。产生这些实验和体验的 根本原因是，在符号主义、连接主义和行为主义指导下，以数据和算法为技术核心的人工智能逐渐突破了人 类中心主义的伦理观。这种伦理观可能会导致人类丧失对机器的控制权，甚至导致人类的毁灭。要避免这种 悲剧发生，需要构建起人类与人工智能相处的新伦理：重新审视人本身，保持对人造自然物——人工智能的敬畏，在人类中心主义的主体下，构建起人类与人工智能相处的准伙伴关系。

关键词：伦理 人工智能 科幻作品 主体性 人类中心主义

　　[ 中图分类号 ] TP18;B82-057 [ 文献标识码 ] A [ DOI ] 10.19293/j.cnki.1673-8357.2020.03.005

　　Research on Artificial Intelligence Ethics from the Perspective of Science Fiction Creation

Liang Weiguo

(School of Philosophy and Religion，Minzu University of China，Beijing 100081)

Abstract：The rapid development of artificial intelligence(AI)provides creative materials and scientific evidences for science fiction creation，while science fiction creation provides AI research with future imaginations and developing possibilities. Such separating and interacting relationship forms rich spiritual and sensory experiences. The fundamental reason for these experiences is that AI(which takes data and algorithms as its core technology)has gradually broken through the ethics of anthropocentrism under the guidance of symbolism，connectionism，and behaviorism. This change of anthropocentric ethics may lead to the loss of human control on machines，or even the destruction of humankind. To avoid this predicament，we need to build a new ethic in which human and artificial intelligence could coexist，namely，a quasi-partnership between humans and artificial intelligence based on anthropocentrism.

Keywords：ethics;artificial intelligence;science fiction creation;subjectivity;anthropocentrism

　　在众多的科幻作品 中，人类与人工智 能相处的伦理问题常常让人揪 心。 在《终 结者 》(The Terminator ) 中，最新型终结者 T-X 美丽俊秀、身手毒辣，以能量形式存在 各种网络之中;她能随心所欲地变成各种形 态，并能操控其他机器人，连最先进的液态 金属 T-800 也无法逃脱她的操控。《黑客帝 国》(The Matrix )中，在 22 世纪，人类生活 在机器所虚构的世界之中，肉体和精神都被 超级机器控制。电影《机械姬》(Ex Machina ) 中，人类造出的机器人具有独立意识，利用 感情成功欺骗人类，逃离实验室，并试图毁 灭人类。从逻辑上看，科幻片的构思似乎无 懈可击。一方面，人工智能的确具有人类所 没有的无限寿命、超强的计算能力及其他高级智能。另一方面，在现实生活中，人类似 乎无处可逃：街头车站涌现大量的手机“低 头族”，网络社交评分无处不在，狂热青年忙 着赚虚拟货币。导致人类无处可逃的是高速 运转的人工智能，人工智能正把虚拟世界与 物理世界的边界变得愈加模糊。这些巨变使 得一些科学家认为，奇点来临后，科幻片中 人类被追杀、毁灭的景象就会变成现实。那 么，人工智能和科幻作品有何关系?如何看 待人类和人工智能相处的伦理问题?面对这 种伦理问题，人类应该何去何从?

目录

1 人工智能和科幻作品的关系

　　1.1 科幻作品为人工智能伦理研究提供可能

　　1.2 共时性中的人工智能伦理问题

　　1.3 历时性中的人工智能伦理问题

2 人工智能伦理与人类中心主义

　　2.1 人工智能发展中人类中心主义的悖论

　　2.2 人工智能伦理应随着时代发展而变化

3 构建人工智能伦理的思辨

　　3.1 人工智能伦理在哲学上难以构建

　　3.2 人工智能伦理在社会学上态势复杂

　　3.3 人工智能伦理的困境是人自身矛盾的展开

　4 结语