推广 热搜: 行业  机械  设备    系统  教师    参数  经纪  蒸汽 

Python爬虫何如抓包?这三个案例手把手教会你,非常详细...

   日期:2025-01-03     移动:http://sjzytwl.xhstdz.com/mobile/quote/86758.html

Python爬虫何如抓包?这三个案例手把手教会你,非常详细...

很多小伙伴总是问我,数据来源怎么找啊,怎么抓包,其实很简单,多操作几遍就记住了。

今天咱们通过三个案例来展示一下

首先咱们进入目标网页,随便找一个视频,通过开发者工具抓包分析。

首先按F12或者点击右键选择检查,打开开发者工具,依次选择 network(网络面板) → AII (全部

然后刷新网页,让当前网页内容重新加载出来。

以前是可以直接选择 media (媒体文件)就能看到了,现在不行了,所以说,互联网更新迭代很快,网站经常更新,技术也需要时刻准备更新,我们也是学习不能停,一停就落伍。

我们完整的视频是2.26分,但是每一个片段只有几秒钟。

但是它有一个专门的m3u8格式的文件,保存了所有的ts文件内容。

我都注释一下吧

接下来看看微博视频

第一步详细介绍,后面就不做太多截图一一展示了,只展示大概流程了,所以如果忘了,建议多看看第一步的,当然,两个网站之间不一样的地方,我都会一一截图展示。

确定目标网址,打开一个视频播放页面。

按F12 打开开发者工具,点击network 点击Aii ,刷新网页。

然后此时发生了一件愉快的事情😂

刷新一下视频不见了,于是我又去搜博主名字

我太南了,算了 ,换一个吧…

对于绝大部分网站来说,他的第一个数据包就是当前网页。除了一少部分特殊网址不一样。

因为有一些数据,它是会动态加载的,或者说不在同一个数据包里面。

第二种方法,我们把当前目标的标题复制到搜索框,然后回车,当然,也有可能搜不到。

第三种方法,我们直接点击 fetch/XHR 动态数据抓包,这里面是实时加载的。

算了,我再找新的吧。

我们可以看到,左边有那么多数据,那么谁才是我们需要的呢

然后点击右边的倒三角,一一展开,往下拉,找到这个urls,就可以看到视频地址了,各个清晰度的都有。

为什么说要一个个点,你看这两个长得一样的, 我刚刚点的是第一个,现在看看第二个。

接下来来到某手,这次咱们正经一点,找个正经的视频来示范。

还是一样的操作,打开开发者工具,点开network,刷新,选择AII 。

这次咱们直接复制这个小姐姐的名字搜索

搜索之后,这里有两个一样的选项,咱们需要一个个点击打开看看,确定哪一个是咱们需要的。

一个是博主的ID简介等等,另外一个就是视频的数据了。

这里我直接点第一个graphql → preview 总共是21个视频,可以看到,下图最下方的protourl就是视频的url,photoH265Url 则是音频url 。

为什么只有21个?因为没加载出来,刷新后默认只给你加载那么多,所以爬的时候,可以用selenium自动翻页,就能自己加载了。

最后给大家推荐一套视频正好实战一下:代码总是学完就忘记?100个爬虫实战项目!让你沉迷学习丨学以致用丨下一个Python大神就是你

本文地址:http://sjzytwl.xhstdz.com/quote/86758.html    物流园资讯网 http://sjzytwl.xhstdz.com/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


0相关评论
相关最新动态
推荐最新动态
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号