阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

使用Python爬取B站全站视频信息

78次阅读
没有评论

共计 581 个字符,预计需要花费 2 分钟才能阅读完成。

B 站我想大家都熟悉吧,其实 B 站的爬虫网上一搜一大堆。不过纸上得来终觉浅,绝知此事要躬行,我码故我在。最终爬取到数据总量为 760 万 条。

准备工作

首先打开 B 站,随便在首页找一个视频点击进去。常规操作,打开开发者工具。这次是目标是通过爬取 B 站提供的 api 来获取视频信息,不去解析网页,解析网页的速度太慢了而且容易被封 ip。

勾选 JS 选项,F5 刷新

使用 Python 爬取 B 站全站视频信息

找到了 api 的地址

使用 Python 爬取 B 站全站视频信息

复制下来,去除没必要的内容,得到 https://api.bilibili.com/x/web-interface/archive/stat?aid=15906633 ,用浏览器打开,会得到如下的 json 数据

使用 Python 爬取 B 站全站视频信息

动手写码

好了,到这里代码就可以码起来了,通过 request 不断的迭代获取数据,为了让爬虫更高效,可以利用多线程。

核心代码

使用 Python 爬取 B 站全站视频信息

迭代爬取

使用 Python 爬取 B 站全站视频信息

整个项目的最主要部分的代码也就是 20 行左右,挺简洁的。

运行的效果大概是这样的,数字是已经已经爬取了多少条链接,其实完全可以在一天或者两天内就把全站信息爬完的。

使用 Python 爬取 B 站全站视频信息

至于爬取后要怎么处理就看自己爱好了,我是先保存为 csv 文件,然后再汇总插入到数据库。

数据库表

使用 Python 爬取 B 站全站视频信息

由于这些内容是我在几个月前爬取的,所以数据其实有些滞后了。

数据总量

使用 Python 爬取 B 站全站视频信息

查询播放量前十的视频

使用 Python 爬取 B 站全站视频信息

查询回复量前十的视频

使用 Python 爬取 B 站全站视频信息

阿里云 2 核 2G 服务器 3M 带宽 61 元 1 年,有高配

腾讯云新客低至 82 元 / 年,老客户 99 元 / 年

代金券:在阿里云专用满减优惠券

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2024-07-24发表,共计581字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中