一年一度的公务员国考要来了。复习公务员考试的小伙伴,您们好,作为一个看 华图在线 刷题的程序员自闭了。手机刷题好累呀,强烈要求华图做PC版exe.
为了实现能在 PC 端抓取华图在线App题库,决定用Charles(小花瓶)抓包,抓取api数据,编程实现 PC 版题库。
环境搭建篇
Windows 系统电脑
手机 (android 或 ios ,本文以 IOS 系统手机为例)
App 华图在线
官网下载地址:
https://www.charlesproxy.com/download/
下载后,双击,选择软件保存目录安装即可。
2.Charles设置不代理计算机的请求(推荐)
proxy -> windows proxy (勾选则抓取计算机的请求)
proxy -> Mozilla Firefox proxy (勾选则抓取计算机上 Mozilla、Firefox浏览器的请求)
对 app 进行数据抓取的场景,这两项 不勾选 。(特别重要,要不然有一堆电脑端的请求干扰我们分析问题,排除干扰,才能更专注于问题本身)
3.SSL Proxying Settings
安装 charles 根证书
Help -> ssl proxy -> Install Charles Root Certificate
跳转至系统证书安装流程 安装 charles 根证书
4.查看手机所需配置
Help -> ssl proxy -> Install Charles Root Certificate on a Moblie Device or Remote Browser
手机端设置
1、 手机连上同一网段的网络,设置代理。
2、 手机浏览器(android 手机使用系统浏览器)访问 chls.pro/ssl 安装证书
贴图环节:
需要抓取的题目题库
华图在线 行测题库 页面
手机上操作华图在线App, 电脑端Charles 抓取 Api 数据:
申论 归纳总结 部分抓取
后续:尝试做一版PC端 华图题库,用于电脑端公务员刷题,喜欢我滴,记得关注点赞。
只要地球不爆炸,心态永远不炸!
参考链接:
Windows 版 Charles 使用指南
前言:一年一度的公务员国考要来了。复习公务员考试的小伙伴,您们好,作为一个看 华图在线 刷题的程序员自闭了。手机刷题好累呀,强烈要求华图做PC版exe.为了实现能在 PC 端抓取华图在线App题库,决定用Charles(小花瓶)抓包,抓取api数据,编程实现 PC 版题库。环境搭建篇Windows 系统电脑手机 (android 或 ios ,本文以 IOS 系统手机为例)A...
基于Python的粉笔和
华图
网站错题
爬虫
粉笔网站
华图
网站总结
这篇博客对于考公人或者其他用
华图
或者粉笔做题的人比较友好,通过输入网址可以自动化获取
华图
以及粉笔练习的错题。
我们从做过的题目组中获取错题
打开某一次做题组,我们首先进行
抓包
看看数据在哪里
我们发现现在数据已经被隐藏,事实上数据在这两个包中:
https://tiku.fenbi.com/api/xingce/questions
https://tiku.fenbi.com/api/xingce/solutions
一个为题目的一
前段时间,报名个软件设计师
考试
,自然需要复习嘛,看到软考
在线
这个平台有历年来的题目以及答案,想法就是做一个题库小程序咯,随时随地可以打开复习。很多人问,这不出现很多类似的小程序了?是的,但是他们的要不需要付费,要不一大堆广告,这激发我自己做一个小程序的想法。
实战爬取题库
随便找一科(这里就拿软件设计师上午题吧)
进入某一道题目点击查看答案,会出现要开通权限才行,正好有一个免费开通的方式,...
fiddler。大家可以百度上面好多选择一个安装。这里随便扔一个
在电脑上安装以后。你再配置
手机
上的一些设置。
首先保证
手机
和电脑在同一个局域网上,连得wifi域名前面一样的,在电脑的cmd输入ipconfig
然后打开
手机
的设置。wifi页面点开查看你连的wifi的域名
这里都是192.168.31所以没问题啦。把这个页面拉到最下面找到配置代理
设置Fiddler
菜单:Tools-> Fiddler Options->Connections,勾选"Allow remote
文章目录第一章 · 起源第二章 · 尝试第三章 · 脱狱第四章 · 柳暗花明第五章 · 终结
第一章 · 起源
某日,想做个
爬虫
工具,爬某个网站上的数据已做实验之用。大家都知道爬pc网页上的数据有几个常见的问题:首先是数据不规范需要自己解析html,第二现在很多网站是前
端
动态渲染的,直接爬取的html可能就是个静态页面什么也没有,还需要执行js才能生成最终的页面。因此就考虑,能否用它
App
的接口去爬数据,因为一般
App
调用的接口返回的都是json格式,解析起来比较方便。
第二章 · 尝试
既然要
抓取
App
的
1、下载:
从官网下载对应系统的
Charles
最新
版
本,双击下载的安装包,一路默认安装,安装完成会在桌面生成类似花瓶的图标。
官网地址:https://www.
charles
proxy.com/download/
2、注册:
Charles
是个收费软件,可以免费试用一个月。
Charles
-> Help -> Register
Charles
Registered name:XXX
License key:XXX
备注:如果你在公司开发下载的话,一般公司会有购买激