文|黑石谈法

编辑|黑石谈法

二、多重不确定性

1、普遍不确定性

一般认为人造风险具有不确定性，这表现为风险发生的时间、地点、影响程度、波及的范围等都具有不确定性。

在时间上人类并不清楚风险可能发生的具体时间，正如人类无法预测食用经过基因编辑的农作物在何时可能产生风险；

在地点上人类也不清楚这些经过基因编辑的农作物是否会因地域不同而产生不同的风险；

在影响程度上，人类无法得知经过基因编辑的农作物所产生的风险是可以忽略不计还是异常严重的；

在波及范围上，人类并不清楚这些经过基因编辑的农作物是否仅对人又或是对自然生态环境也将产生重大的影响。

作为人造风险的人工智能技术应用风险自然也存在着上述的不确定性。

其一，人工智能技术应用风险在风险发生的时间上具有不确定性。

人工智能技术从诞生之初就是向往着“不确定”进发的，从最初的人机对话程序到今天各种领域运用的人工智能系统都突出着对人脑的模拟，对人主观能动性的模拟，正如没有一个人知道另一个人在想什么，同样人类也不知道人工智能系统的决策是如何做出的，它的决策何时会产生风险。

其二，人工智能技术应用风险在风险发生的地点上具有不确定性。

由于人工智能技术并不需要非常庞大的载体，只要一个微型终端即可使用，这可能是一台电脑甚至一部手机就可以搭载人工智能技术，那么只要这些微型终端在移动，那么其人工智能系统所造成的风险就跟随移动，因此其风险发生的地点并不固定。

其三，人工智能技术应用风险在影响程度上具有不确定性。

自人工智能技术诞生以来其已经深入了人们的生活，人们可以确定的是人工智能技术已经对人们的生活产生了深刻的影响，但每个领域人工智能技术的使用情况各不相同，因此难以测定其究竟对人们产生了多深远的影响。

其四，人工智能技术应用风险在波及范围上具有不确定性。

人工智能技术应用风险不仅在横向上将波及全球个人，在纵向上其还可以对社会主体，国家产生影响，甚至于国际组织也可能受到冲击。

2、特殊不确定性

上述的不确定性已经使人工智能技术应用风险相当难以应对，但这仅是人工智能技术应用风险作为人造风险所具有的一般性的不确定性，而人工智能技术“黑箱”难以解释的特性使得人工智能技术应用风险的不确定性上再度加剧，具有了特殊性。

例如，在上述吃牛肉的问题中，选择吃牛肉有得疯牛病的可能，这或许会使风险在发生的时间、地点等维度上具有不确定性。

但需要注意的是这些风险通常产生于人们的决策与选择后，而决策与选择的过程是可知的，即使是做出“吃或不吃牛肉”之外的决策都是可以人为预见的，因此人们能够提前做一定的风险预防准备，例如给人打疯牛病疫苗。

但当人工智能代替人类进行决策时会使得风险所造成的不确定性在阶段上向前推移，这将造成比以往更加深远且不确定的影响。

通常人作为主体对客体进行决策才会得出某一具有风险的结果，也即是在人做出决策前这一阶段是不会产生风险的。

但在人工智能技术“黑箱”的影响下，当人工智能进行决策的过程成为了“黑箱”，人们无法知晓决策过程，因此人们必须对决策做出前的阶段也做好应对风险的准备，特别是当人工智能做出人类预料之外的决策时人类将难以应对，而这将大大增加风险的不确定性。

正如在人工智能系统错误识别小女孩的自动驾驶事故中，人们就没有预见人工智能系统的决策，因此这实际上就是将风险出现的阶段提前了，导致了风险既出现在选择人工智能进行决策时，又出现在人工智能进行决策后，因此具有决策多阶段的不确定性。

另外，在奈特的定义中风险是可测量的不确定性，是可以测量的。

但由于人工智能技术的复杂性这使得单纯靠人类过去的测量技术是难以测量人工智能技术应用风险的，因此不得不依靠人工智能技术来预测人工智能技术应用风险。

虽然这在一定程度上确实可以让人们对人工智能造成的风险有一定的预期，但是用来预测的人工智能技术因为本身在进行预测时就会产生不确定性的风险，因此当使用人工智能来应对人工智能时，就将产生多重风险，制造更多的不确定性。

三、差异普遍性

1、普遍性

人造风险之所以具有普遍性，是因为现代化的人造风险具有“回旋镖效应”，其可以打破阶级图式，冲击风险的制造者与受益者，使得所有人都成为人造风险的受害者。

外部风险之所以具有阶级图式，是因为单纯的外部风险如天灾导致的食物短缺上层阶级可以通过金钱规避风险，而下层阶级则必须面对食物短缺带来的损害。

进入现代化的风险社会后，全球性的生态危机乃至核危机都使得风险像回旋镖一样不仅会命中下层阶级，而且还会返回并攻击包括人造风险的制造者与受益者的上层阶级，没有人能够能独善其身。

不仅如此，“回旋镖效应”在对所有个人造成风险的同时，还影响传输的媒介，如金钱、财产和正当性。

1、无限制的滥伐森林不仅会导致鸟类的消失，还会使得土地和森林资产的价值遭到削弱。

2、核电站的建设会使得周边地价暴跌。

这些都说明了人造风险对人对物都具有普遍的威胁力量。

作为人造风险的人工智能技术理所当然的具有普遍性的威胁力量，其不仅使得普通的个人受到诸多损害，即使是开发者甚至是国家也难逃遭到人工智能算法歧视的厄运。

除此之外，人工智能技术所应用的领域在提高效率的同时也可能使得该领域异化。

例如，外卖平台的算法不断更新寻找着更短，更“合理”的配送时间，这不仅将“外卖小哥”逼成高危群体，加深了该领域不正常的内卷，而且还加剧了所有人出行的风险。

2、差异性

除了人工智能技术应用风险作为人造风险所拥有的普遍性外，人工智能技术应用风险实际上还具有差异性的特征。

一方面，由于“回旋镖效应”，人工智能技术本身的使用会让所有人承受其带来的风险。

另一方面，人工智能技术所产生的风险让所有主体在面对同一风险时将面临不同的处境。

在过去的人造风险中，“回旋镖效应”使每个主体都面临风险，但这并不是让所有主体需要应对的问题完全相同。

例如在核危机中，国家如果不能及时处理好国际关系，不能提前做出应对措施，那么整个国家包括国家公权力都将受到毁灭性打击。

对社会公权力持有主体而言，其需要做的是如何能够利用其公权力最大程度地保证自身在遭遇核危机时仍能生存下去。

对个人而言，必须在遭遇核危机之前就使用权力督促政府解决问题，或拿出应对措施保障其生命健康。

可见当遭遇核危机，所有主体均面对核风险时，他们需要面对的问题是各不相同的但具有共性的是他们都在寻求要么让核危机不要发生，要么寻求一个事后保障措施来保证自己的安全。

并且保障国家安全、社会主体安全、个人安全具有一致性，只有在保证个人安全的前提下国家与社会主体的安全才会得到保证。

也即是说，当人造风险出现时，虽然每个主体均需面对不同的问题，但他们都将以共同的目标为指向来解决问题。

人工智能技术应用风险与通常的人造风险不同。

其创造的风险因为人工智能“黑箱”等原因，很难有完美应对之法，虽然所有主体都将受其影响，但并不是每一个主体都有足够的动力去解决风险中的如人工智能技术“黑箱”这样的问题(有些社会公权力持有主体甚至不希望解决“黑箱”问题)。

所以这些主体在应对相应的风险时将不再以同一目标为指向不再以同一目标为指向的各个主体势必会在各自应对人工智能技术应用风险时发生利益冲突。

例如，在同样的自动驾驶风险中，由于无法保证自动驾驶的汽车不发生事故，因此各个主体在面对风险时都有着独自的目的。

在一项关于自动驾驶的调查中调查者发现接受调查的人们普遍希望自动驾驶汽车能够保护行人。

即使这意味着牺牲乘客，但同时他们也表示不会购买被编程为以这种方式行驶的自动驾驶汽车。

由此可见无论什么情况自动驾驶汽车的驾驶员及乘客一定不会接受人工智能做出威胁其生命健康权可能的决策，因此人工智能的设计与制造者为了经济利益也会倾向在遭遇“电车难题”时首先命令人工智能做出保护驾驶员及乘客的决定。

但这相当于把除国家司法权力外无人有权剥夺的个人人身权利交予作为人工智能设计与制造者的社会公权力持有主体的手中，这是国家公权力所不能接受的。

而国家公权力的过多介入又可能使人工智能的开发受阻，这当然又是社会公权力持有者所难以接受的。

因此人工智能技术应用风险因各主体面对风险欲达成的目的各不相同而具有差异性。

参考资料

1、叶良芳、马路瑶:《风险社会视阀下人工智能犯罪的刑法应对》，载《浙江学刊》2018第6期。

2、叶强:《德国自动驾驶立法评析》，载《国外社会科学》2022年第2期88.于海防:《人工智能法律规制的价值取向与逻辑前提一-在替代人类与增强人类之间》，载《法学》2019 年第6期。

3、余谋昌:《走出人类中心主义》，载《自然辩证法研究》1994 第7期90.詹福满，苗静:《有限政府理论的现代解读》，载《法律科学(西北政法学院学报)》2005第3期。

4、张爱军、李圆:《人工智能时代的算法权力: 逻辑、风险及规制》，载《河海大学学报(哲学社会科学版)》2019 年第6期。

5、张富利、郑海山:《大数据时代人工智能辅助量刑的定位、前景及风险防控》，载《广西社会科学》2019第1期。

6、张富利:《全球风险社会下人工智能的治理之道一一复杂性范式与法律应对》，载《学术论坛》2019 年第3 期。

相关链接

AI智能技术应用风险的特征，普遍性、差异性、多重不可控性（一）