信息茧房与智能教育的风险

人工智能作为当今时代人类一项重要的发明，将带来整个社会的颠覆性变化。由人工智能驱动创生的智能教育，将在人类历史上革命性地实现大规模的个性化教育。但人工智能的不确定性很可能诱发或带来教育领域中隐私、公平、歧视、真实、情感、法律、责任、安全等诸多方面的新风险与新隐患。面对天真活泼、善良可爱、代表着人类未来的儿童，省思智能教育的风险与隐患不是可有可无，而是必不可缺。

接下来，让我们通过本书的内容“信息茧房与教育真实风险”，来进一步了解为何要省思智能教育。

案例：游戏少年身陷信息茧房

日前，《半月谈》在一篇文章中讲述了一个爱玩游戏的少年小明陷入信息茧房的故事。小明喜欢玩游戏，有一天他在抖音上看到一个游戏大神的操作视频，就多看了几遍，然后关注了这位游戏主播。抖音根据特定信息生成了用户画像，不断过滤、筛选、推荐个性化信息。一段时间后，小明的抖音推荐界面大部分都是关于游戏操作技巧的。有一天，一位游戏主播在抖音上开了直播，小明留言夸赞主播的游戏技巧了得，得到了主播翻牌回应，同时，小明还在关注其他粉丝的留言并与之互动。在这一过程中，小明先在兴趣导向下编织了自己的信息茧房；然后在观看类似视频、与有相同爱好的朋友的交流中形成了“回声室”；最后，小明的“回声室”和信息茧房加深了他的游戏欲望，促使其沉溺于花钱购买游戏装备和打赏游戏主播。

私人订制编织信息茧房

如果从现象层面来解释，信息茧房指的是人们所浏览、拥有的信息，会像蚕茧一样把当事人困住，换言之，信息会成为无形的网，把人们软禁在一定范围内并使其难以察觉，从而使当事人永远生活在这个圈子内。

1995年，比尔·盖茨在《未来之路》一书中最早提出了关于“私人订制”的预想。

次年，美国计算机科学家尼古拉斯·尼葛洛庞帝在《数字化生存》中预言了个性化定制产品“我的日报”即将出现。

2006年，美国哈佛大学法学院教授，也是奥巴马总统的法律顾问凯斯·桑斯坦出版了《信息乌托邦：众人如何生产知识》一书（见图4-1）。该书在尼葛洛庞帝所提出的“我的日报”的基础上，第一次提出了信息茧房的概念。

从“私人订制”到“我的日报”，再到“信息茧房”，这些概念无一不围绕着个性化展开。当下，互联网高速发展，信息量呈现出爆炸性增长的趋势。人类作为信息的受众，面对纷繁复杂的信息，选择时必然会带有偏好。天性使然，人们会更愿意选择自己喜欢的内容，也更有可能阅读与自己观点一致的信息，个体之间就形成差异化的信息选择。2016年中国互联网络信息中心发布的互联网新闻市场研究报告显示，近一半的中国网民对自己感兴趣的新闻会阅读深度报道或持续关注（见图4-2）。

每个人在面对信息时，都会留下选择或阅读的痕迹，而每一次的选择都为算法提供了偏好数据。无数次选择之后，智能算法就会为个体精准画像，为个人提供反映其偏好的精准化个性服务。

个性化选择是个性化服务的基石，而个性化服务反过来也限制了个人的进一步选择。在日常网络浏览或购物中，如果搜索过某个东西，在短时间内会不断获得与之相关的推送。比如，A喜欢看娱乐新闻，那么A每天看到的大多都是娱乐新闻，几乎不会获得体育方面的资讯。智能算法推荐的信息都是基于我们个人偏好的选择，我们不喜欢的信息被算法排除了，表面上看是我们在选择信息，实质上偏好限制了我们的选择，最终我们就会像蚕一样逐渐被囚禁在信息茧房之内。

信息茧房给人们带来的危害无疑是巨大的。

首先，认知窄化。智能算法基于个人偏好所推送的资讯，限制了我们接触的信息的范围，长期浏览这些内容又使智能算法更加确定我们对这类信息的偏好，长此以往，我们的认知反而不断被窄化在特定范围内，影响我们对外部世界的认识。这种影响对于未成年人来说更是不容忽视。在互联网时代，青少年学生借助网络本来可以获取更丰富的信息资源，了解外部更广阔的世界，但是现在的智能推送、个性化定制反而将学生禁锢在狭隘的信息世界里，严重影响着他们的发展。

其次，思维固化。同声相应，同气相求。人们总是倾向于选择那些自己认同或喜欢的信息、观点与态度，以此找到一种认同感。在智能算法的“协助”下，我们在各网络平台不断受到同类信息的“狂轰滥炸”。在此背景下，个体越来越接触不到与自己观点不同的信息，从而越来越陷入一种自我确认的固化陷阱，最终导致思维固化，甚至产生极端的思想和行为。

信息茧房建构“真实世界”

信息茧房对于个体认知与思维发展的影响是巨大的。如果这种影响扩大到群体层面，则会产生更大的“地震”。

陷入了信息茧房的人们由于长时间被推送某一类或某几类信息，无法踏入茧房以外的信息世界，慢慢将自己固化于特定的世界。同样的，由于爱好、观点相似，志趣相投，部分个体出于某种偏好就会慢慢积聚于某一网络平台，形成一个个同质小群体，最终构建起他们所认为的“真实世界”。他们喜好的话题相同，观点相似，交流频繁，再加上缺乏与异质群体的对话，结果整个群体都会表现出共同的倾向与行为，并可能出现群体极化现象。

中国互联网络信息中心发布的《2019年全国未成年人互联网使用情况研究报告》显示，玩游戏、看短视频在未成年人上网从事的活动中占据了较大比例，“粉丝应援”在初中生、高中生从事的网络活动中所占的比例均超过了10%。（见图4-3、图4-4、图4-5）

青春期是人成长中的一个特殊阶段，这一时期的青少年正经历着生理与心理的巨大变化。美国心理学家爱利克·埃里克森的人生发展八阶段理论指出，这一时期青少年面临角色同一与角色混乱之间的矛盾，他们想要获得社会认同感与群体归属感，从而分化进入不同的小圈子内。由于青少年的心智尚未成熟，极易受到群体内领头人意见的影响，再在同伴的影响下形成符合这个圈子的思维与行为模式。如果这个群体的价值观出现了问题，青少年就极容易在群体的鼓动下发表不合适的言论、做出不理智的极端行为或者受到这些行为的伤害。图4-6显示，近一半的未成年人在网上遭到过讽刺或谩骂，这些网络暴力的施加者往往也是未成年人。当这些青少年熟悉并认同的“群体世界”与现实社会的主流价值观不一致时，他们在现实生活就中就会遭遇更大的价值矛盾与心理混乱，影响身心健康发展。

教育真实风险的防范

当信息茧房中的未成年人醒来，从茧房世界迈入现实世界时，便会迷茫、彷徨、不知所措。这时，部分人就会逃避现实甚至是走向极端。事实上，尽管在信息茧房的形成中，智能算法难辞其咎，但其主要原因仍在于个体本身：一方面，部分人尚未意识到自己被困；另一方面，部分人即使已经意识到了茧房的存在也不愿意离开。成长在互联网世界中的年青一代更易受到信息茧房的困扰与影响。为了更好地促进青少年学生认知与行为的健康发展，在当前及未来的智能化教育中，迫切需要采取措施，预防学生陷入信息茧房，避免出现群体性的极端行为。

首先，学校要注重媒介素养教育，提升学生的批判思维能力。早在1933年，英国学者利维斯就预见性地提出了学校教育要引导学生抵制媒介带来的负面影响，媒介素养教育就是一个有效途径。媒介素养是指人们对于信息的解读和批判能力，以及将这些信息应用于生活与社会发展的能力。学校要有意识地引导学生学会尽可能从不同角度收集信息、收集不同观点的信息，对获取的信息加以判断，不盲从某一种观点。学校、教师应该有意识地培养学生倾听他人的习惯，让学生学会聆听并接受与自己不一致的观点，激发学生独立思考与自我反思的意识。学校也应该重视与加强教师媒介素养的提升，通过开展集中培训与专题讲座等方式，提升教师自身对于信息的判断力和利用信息开展教育教学的能力。

其次，学校、社会要注意价值与舆论的引导。从群体生态可以看出，群体的舆论氛围对于群体的发展起着重要的导向作用。对于未成年的学生而言，尤其要注意价值与舆论的引导。学校要充分利用自身优势，营造健康、积极、向上的舆论氛围，对青少年学生的意见与舆论加强了解，积极加强对青少年学生的正面引导，针对个别学生群体的极端言论和行为要及时制止。

再次，学校要开展社会实践活动，提高学生对于社会主流价值观的认同感。在进一步加强马克思主义、社会主义核心价值观等主流思想教育的同时，学校可以积极开展社会实践活动，让学生走出校门、走出茧房，走进现实、走进社会，接触更多元的价值，了解更多元的社会，让学生在实践中真正理解这些主流思想，并且看到其现实的转化力量，真正提高学生对社会主流价值观的认同。

最后，不断创新，推动智能算法为个体提供更多元的信息。现有的算法还停留在基于个体偏好的推送状态，长此以往就会让个体陷入信息茧房。人工智能的研究者要密切关注这一问题，不断加强算法创新，努力打破智能算法基于用户偏好与舒适区的信息推送，为人们提供更多样化的信息，促进个体享受更加健康、智能的网络与信息生活。

本文节选自《智能教育的风险》，编辑时有删减。教育科学出版社2022年1月出版。