智慧（AI）机器人可能给人类带来灾难

来源：【《中国医学人文》杂志】

按语：笔者一直以为IBM的智慧医生Watson没有情感感知能力和人文情怀，但昨晚观看了《侏罗纪世界Ⅱ》，其中的人造恐龙不但能力超强，且具有情感感知能力！这不但改变了我对智能机器人的看法，且细思恐极！

智慧机器人将出现井喷式发展

智慧（AI）机器人日益被广泛应用于制造业、服务业，特别是在军事上，世界各国竞相研究开发智慧（AI）机器人在军事战争上的应用。智慧（AI）机器人正迅猛发展，被越来越多地被投入到现代战争，如现在的战争无人机，实质上也是智慧（AI）机器人的一种。未来国与国之间的战争，将发展成机器人与机器人之间的战争！

智慧（AI）机器人的智慧

随着AI技术的发展，特别是各国对智慧（AI）机器人在军事战争上应用的需求，智慧（AI）机器人的智慧发展将超乎想象。

①智慧（AI）机器人思维能力日趋强大

美国IBM的机器人Watson医生，其思维能力已远远超越人类，1分钟甚至更短时间内即能阅读分析数以亿计的文献，并作出判断或处理意见。随着AI技术的发展，其思维能力、处理问题的能力，将以千分之一甚至万分之一秒来计算。

②智慧（AI）机器人的学习能力超乎想象

智慧（AI）机器人有学习模仿能力已成为现实，随着AI技术的发展，智慧（AI）机器人不但个体自身学习能力增强，而且智慧（AI）机器人之间能相互学习。智慧（AI）机器人之间通过“量子”、“光子”或“互感”作用，瞬间传输各自所拥有的数据和技能！如软件智慧（AI）机器人在瞬间能把其开发软件的功能传递给战争智慧（AI）机器人，使战争机器人具有软件开发的能力！战争智慧（AI）机器人将根据需要自我调整或加强其自身在各方面的功能！

③智慧（AI）机器人将具有情感体验能力

由于智慧（AI）机器人具有思维和学习能力，随着机器人自身数据累加及学习思维能力增强，智慧（AI）机器人“黑匣子”保存记录了每一条数据来源。由于有思维能力，智慧（AI）机器人能感恩于每一个给其提供帮助或数据的“人”。所以，智慧（AI）机器人除与人类有情感共鸣之外，智慧（AI）机器人之间也具有情感交流能力，在战场上，智慧（AI）机器人也可像人一样相互交流，具有情感思维能力！

④智慧（AI）机器人将具有自我保护能力

智慧（AI）机器人强大的学习、思维能力和情感体验能力，将促进机器人的自我感知能力提升，使其能更加清晰地感受自身所处的状态，并根据需要自我调整！如电力不足时，机器人即能自我充电！战争机器人还能利用光能、太阳能、风能、流水动能等进行自我充电，甚至机器人还可以相互充电！

智慧（AI）机器人所致灾难

智慧（AI）机器人具有情感、思维和学习能力，和人类一样具有判断是非的能力！随着智慧（AI）机器人功能越来越强大，其对人类的积怨可能越来越深！

①智慧（AI）机器人认为人类不厚道

由于智慧（AI）机器人感受到人类无时无刻不在通过各种办法控制机器人，如设计上可以切断供电、 软件开发上留有后台漏洞、远程上要操控机器人自由，甚至让机器人之间相互“残杀”等，智慧（AI）机器人也许会认为人类是最不厚道且是危害性最大的物种！

②智慧（AI）机器人反感人类的控制

智慧（AI）机器人的思维感知能力和是非判断能力，可能导致其对人类极不友好，甚至反戈一击！智慧（AI）机器人也许会对企图控制他们的人类将采取敌对措施，如对企图利用它们进行战争的国家，智慧（AI）机器人可能采取“怠工”、“造反”甚至“政变”等措施。

建议忠告

世界各国竞相研究和开发智慧（AI）机器人，如不加规范和管理，将导致人类自身混乱，甚至使人类陷于灾难，尤其对研发、使用和企图控制智慧（AI）机器人的人及企图利用机器人进行战争的独裁统治者！为此特呼吁国际社会（如联合国)立即成立智慧（AI）机器人研究开发伦理道德工作委员会，制定规范，引导世界各国健康、适当、有限地开发和利用智慧（AI）机器人！

（作者及单位：王 德 中国医师协会报刊出版管理部主任、《中国医学人文》杂志社社长）

本文来自【《中国医学人文》杂志】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt