从“网课猎手”看科技向善与成长“双刃剑”

核心：该文主要从当前社会备受关注的一起事件引出，在技术快速发展的今天，我们需要去关心借助新技术新工具滋生出来的灰暗。技术本身没有价值观优劣之分，可使用技术的人有价值观优劣之分。前面一部分主要讲解技术发展过程中可能遇到哪些方面的问题。后一部分讲解决方案，尤其是数字技术转型阶段与工业革命转型明显不同，需要企业承担更多责任。技术在发展不能走“先污染后治理”的路子，举例数字化产品，比如云服务，在灾备方案上的努。再比如电子签名发展，会不断在加密安全性上进行努力。同时，现在电子签名发展迅速，头部玩家本身在安全性上做得好，自然会被更多天生谨慎的企业级客户所接受。

背景

最近看到这样一则热搜：#新郑三中老师网课去世#。

一条人命背后，暴露出的是“网课猎手”这一黑色群体。而这一群体所造成的影响之大，受害人群之广泛，到了令人发指的程度。

然而，愤慨谩骂声讨是一方面，或许我们也应该反思一下技术进步过程中滋生的那些不好的东西。去思考如何让伴随技术发展滋生的“恶”更早地被发现、被解决，也让我们少一些惋惜与痛心。

双面技术革新：向善原始初衷与使用者价值偏差

让技术造福人类是技术发展的原始初衷。

从第一次工业革命开始，每一次技术工具的发展一定是人类进步的标志，但在成长的过程中或许难免会有阵痛、难过，甚至是愤慨。

此前国际关系学院组织编撰的《国际安全蓝皮书：中国国际安全研究报告（2018）》，针对科技所带来的负面影响总结成了三方面因素，一是科技滥用风险，二是科技伦理风险，三是科技失控风险。

首先是科技滥用风险，军事上的应用我们不做过多讨论，就说与商业社会和人们生活相关的。譬如在信息安全领域，科技手段被滥用的风险比较突出，而与此同时很多新兴经济体的基础信息产业薄弱，这就带来了信息安全隐患。还比如此前“3·15”晚会曝出的人脸识别被滥用的问题。一些门店安装了可以人脸识别的摄像头，大肆收集到店顾客的人脸信息。

二是科技伦理讨论，也就是科技创新活动中人与社会、人与自然和人与人关系的思想与行为准则，最典型的无疑就是克隆技术。就像国际关系学院蓝皮书讲述的，克隆技术已经形成了较为成熟的技术体系，对人类的克隆只剩最后一步，但这却考验道德伦理底线。

最后是科技失控，譬如白色污染的出现，石化燃料发展带来的大气污染等问题，这都是技术创新逐渐演化出现的失控局面。

而在老章看来，对于大众而言，可能感受更直接的是科技使用者的价值观偏移。

谈到初创企业从发展到崛起，有一个非常有名的说法叫做“英雄变恶龙”。而在技术基础设施发展过程中，同样需要注意类似的场景。不过准确的说法不应该是技术本身英雄变恶龙，而是一些不怀好意的使用者挖掘出“恶”的场景，脱离了技术向善的原始初衷。

某些关键性技术一旦成为生产生活中的支撑技术，会成为全社会人们共识性的一种使用习惯。久而久之，随着越来越多人使用，使用方法开始变得有些脱轨。譬如今天的远程会议，谁会想到出现“网课猎手”这样的群体。

其实类似这样的场景我们已经感受过多次了；电商发展解决信息不对称，但是后来的假货横行让不少人叫苦连连；区块链技术的发展，初衷是好的，却因为使用者价值观因素导致技术一度被妖魔化；再比如P2P前几年的摸索与试错，高举科技向善的普惠价值，带来的教训同样惨痛。

任何一项技术本身其实都可利可弊，社会对其会有一种天然的自我选择自我过滤能力，因为社会总体价值观是向善。而人却不会，不是每个人都有正确的价值观。

“当利润达到100%的时候，他们敢于践踏人间的一切法律；当利润达到300%的时候，他们敢于冒绞刑的危险”。

数年前的棱镜事件闹得全世界人人自危，而2017年初，全球众多厂商的Mongo DB、ES等未做登录验证的数据库遭到黑客入侵。Yahoo也曾对外声明，超过10亿的用户信息遭到泄露。“脸书”两次信息泄露事件让扎克伯格也被冲到全世界舆论的风口浪尖上。

因此，回归技术发展史，如果与“恶龙”的缠斗无可避免，那么如何在其尚未壮大时屠掉或许是我们现在需要关注的问题。

科技公司向善：治理与发展并举的风险预防机制

今天我们正处在又一波技术变革的浪潮下。

一面是高速发展的技术，我们总能想象到它们的美好蓝图；另一面则是未知的，技术的发展永无止境，技术的未来图景具有多样性和长期的不可预测性。或许也因此，才会有许多人感到恐惧，会有技术威胁论的声音出现。

但在老章看来。从烽火信鸽驿站传递到卫星互联网，从刀耕火种牛耕驴磨到农业现代化，从男耕女织到机械化制造，新技术发展是不可逆的。所以，要做的只是思考如何解决。

站在大众角度，从预防治理的角度来总结，技术发展分为三个阶段，第一阶段社会对新技术或者服务不熟悉；第二则是产品快速发展，“善”大家已经感受到，而在看不见的角落，可能滋生出“恶”；第三是在“恶”出现甚至爆发之后，平台是否采取科学、合理的解决方案。

关于监管，过去最有力的无疑是政府监管。针对近两年的云服务安全问题，2017年6月正式实施了《网络安全法》，2021年6月10日，历时三年的《数据安全法》才被表决通过，于9月1日正式实施；8月20日，《个人信息保护法》出台，于11月1日起实施。这三部法律也被称作数据保护的“三驾马车”，形成网络空间治理与数据保护。

然而与此同时，技术还在不断地发展进步，许多基础性、前沿性的技术在发展初期，其监管一定是处于空白阶段。因为对于新事物，过于监管不利于成长，而放任不管又容易野蛮生长。而且，既然是新技术肯定是无法预先设想到的新问题，即便想监管也无从下手。就比如好好的远程会议，谁知道会有这种“网课猎手”。

另一方面，也是数字经济时代突出的，那就是企业端的预防与研判机制。

中央网信办近日印发《关于切实加强网络暴力治理的通知》指出要切实加大网暴治理力度，进一步压实网站平台主体责任，并要求网站平台建立健全网暴预警预防机制。

这其实是强调企业在科技向善的引导和责任。

北京大学社会学教授邱泽奇就曾针对科技向善这个话题谈道：过去，政府承担规制责任，企业承担产品责任。如今，政府依然承担着规制责任，但是企业除了承担产品责任，也需要承担起规制责任。

为此，邱教授提出科技产品“说明书”这个概念，而这里的“说明书”，在老章看来就像药物生产者需要知道它是治疗什么的，但更要知道药品的副作用，尤其是什么人群不能服用。技术也是，初衷、善意我们都可以理解，企业一定也要去研究技术可能产生哪些“副作用”，这种副作用说明书可以不对外公布，但企业自己要事先清楚，在技术研发时去做相应的预判。在“恶”行发生时，及时采取治理方案，去解决问题或者减少损失。

因此，老章认为，数字技术转型阶段与工业革命转型明显不同，这个时代需要企业承担更多价值观层面的责任。另外，承担责任与市场拓展本身其实是相辅相成的。

处于数字化转型十字路口的企业是焦虑的。

一方面期盼转型，给自己降本提效，提高生产力。另一方面也有未知的恐惧。在某种程度上，安全性、信任感已然成为一项新技术扩张速度的有力影响因素。

以云服务为例，更完善的灾备方案是企业首选，一方面要避免数据丢失，另一方面还要评估是否有利于公司未来经营发展。而最根本的，其实还是安全可靠性，譬如计算、网络、管控的多级隔离。而在灾备方案安全性上表现不足的企业，客户恐怕也不敢与其合作。云服务在今天能“飞入寻常百姓家”，与不断完善和进步的安全性成正相关。

还比如近两年炙手可热的电子签名市场，有人说受益于疫情，可如果没有安全可靠的保障，即便无法签约影响企业发展企业也不会冒险采用电子签名。如今行业快速发展，恰恰从侧面反映电子签名在安全技术层面的成熟。从立法到企业发力，行业拥有较为完善的科技产品使用“说明书”。只有企业能够真正提供完善的解决方案，政策才会更大力度的支持其推进。

使用技术的人无法决定，因此科技向善其实只是我们大家的美好愿景。而公司的价值观可以向善，科技公司向善是我们可以轻松做到的事情。

数字化时代，更需要的是科技公司向善，把自己价值观树立好，然后再去打击科技向恶，引导科技向善，让技术回归造福于人类的原始初衷。