有关教育方面的数据,可以从国家统计局网站查询,数据比较详细,学校数量、学生数量、教师人数等等,但是我更喜欢知网,界面比较友好:
可以查全国的,也可以查各省的数据:
今天我们就试试从知网获取辽宁省中小学数量的数据,当然有了这个经验,就可以方便的从知网上获取指数相关的其他数据,这对于即将毕业,要写论文的同学很有帮助,论文需要一定的数据支持。
与昨天的中小学校外培训机构管理平台一样,是POST方式的网站:
参数:
URL:https://data.cnki.net/KeyIndicator/GetPageData
Content-Type:application/x-www-form-urlencoded; charset=UTF-8
Cookie:你自己的浏览器中的cookie就行
User-Agent:你自己的浏览器
Content:就是下面的Form Data的字符串格式
Query:Form Data的Record格式、
我做过测试,需要同时提交Content与Query,才能查询,直接使用汉字即可,也可用Uri编码。
接下来就是Form Data里面的内容:
1.是省级编码,不同省份,编码不同;
2.类型,好像默认都是level;
3.是项目名称,直接用中文就行;
4.项目代码,与项目名称一一对应;
5.年份
6.每页显示条目
这六个参数,我们要用到1、3、4、5四个参数,这样我们定义出来的函数,可以通用。
其实我在定义函数之前是做了好几次的测试,在只传递Content和只传递Query时,返回的结果是不同的,只传递Content返回的是默认页面,全国的GDP数据;只传递Query时,直接报错。所以虽然是相同的参数,却是需要都传递一边:
四个参数,我们调用函数,抓取2015年辽宁省普通中学数量:
我们的目标有两个,先来抓中学的:
观察了一下,1997-2017各市的数据比较完整,再早的数据,就有断续,所以统一时间:
展开就可以了:
同样的抓取小学的数量:
展开:
把两个查询追加合并一下,然后加载到Power BI Desktop:
数据地图:
为了显示这个函数的通用性,我们抓点别的数据:
修改一下参数,抓取离婚数据:
结婚数据:
不过如果抓取过多,知网还是会屏蔽IP,拒绝访问。
页面更新:2024-06-18
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号