Power Query 辽宁省中小学数量近20年变化数据

有关教育方面的数据,可以从国家统计局网站查询,数据比较详细,学校数量、学生数量、教师人数等等,但是我更喜欢知网,界面比较友好:

Power Query 辽宁省中小学数量近20年变化数据

可以查全国的,也可以查各省的数据:

Power Query 辽宁省中小学数量近20年变化数据

今天我们就试试从知网获取辽宁省中小学数量的数据,当然有了这个经验,就可以方便的从知网上获取指数相关的其他数据,这对于即将毕业,要写论文的同学很有帮助,论文需要一定的数据支持。

网站分析

与昨天的中小学校外培训机构管理平台一样,是POST方式的网站:

Power Query 辽宁省中小学数量近20年变化数据

参数:

URL:https://data.cnki.net/KeyIndicator/GetPageData

Content-Type:application/x-www-form-urlencoded; charset=UTF-8

Cookie:你自己的浏览器中的cookie就行

User-Agent:你自己的浏览器

Content:就是下面的Form Data的字符串格式

Query:Form Data的Record格式、

我做过测试,需要同时提交Content与Query,才能查询,直接使用汉字即可,也可用Uri编码。

接下来就是Form Data里面的内容:

  1. XjCode: xj06
  2. Type: level
  3. FullIndicate: 普通中学数
  4. FullIndicateCode: YI0361
  5. Time: 2017
  6. pagesize: 500

1.是省级编码,不同省份,编码不同;

2.类型,好像默认都是level;

3.是项目名称,直接用中文就行;

4.项目代码,与项目名称一一对应;

5.年份

6.每页显示条目

这六个参数,我们要用到1、3、4、5四个参数,这样我们定义出来的函数,可以通用。

定义函数

其实我在定义函数之前是做了好几次的测试,在只传递Content和只传递Query时,返回的结果是不同的,只传递Content返回的是默认页面,全国的GDP数据;只传递Query时,直接报错。所以虽然是相同的参数,却是需要都传递一边:

Power Query 辽宁省中小学数量近20年变化数据

试抓

四个参数,我们调用函数,抓取2015年辽宁省普通中学数量:

Power Query 辽宁省中小学数量近20年变化数据

抓取

我们的目标有两个,先来抓中学的:

观察了一下,1997-2017各市的数据比较完整,再早的数据,就有断续,所以统一时间:

Power Query 辽宁省中小学数量近20年变化数据

展开就可以了:

Power Query 辽宁省中小学数量近20年变化数据

同样的抓取小学的数量:

Power Query 辽宁省中小学数量近20年变化数据

展开:

Power Query 辽宁省中小学数量近20年变化数据

把两个查询追加合并一下,然后加载到Power BI Desktop:

Power Query 辽宁省中小学数量近20年变化数据

数据地图:

Power Query 辽宁省中小学数量近20年变化数据

为了显示这个函数的通用性,我们抓点别的数据:

修改一下参数,抓取离婚数据:

Power Query 辽宁省中小学数量近20年变化数据

结婚数据:

Power Query 辽宁省中小学数量近20年变化数据

不过如果抓取过多,知网还是会屏蔽IP,拒绝访问。

展开阅读全文

页面更新:2024-06-18

标签:辽宁省   中小学   国家统计局   数量   汉字   数据   函数   定义   名称   参数   格式   中学   项目   科技   网站   知网

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top