Hero scripts of machete.
You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
 
 
filesite 73ca0d77e0 Readme update 1 year ago
bot bot for bilibili done 1 year ago
bypass bot lib for douyin done 1 year ago
test Readme update 1 year ago
tmp bot kuaishou support share url 1 year ago
.gitignore bot kuaishou support share url 1 year ago
LICENSE Initial commit 1 year ago
README.md Readme update 1 year ago
config.mjs pc and mob share link test done for douyin, kuaishou and xigua 1 year ago
install_cloud.sh cloud start command update 1 year ago
install_hero.sh cloud and hero install script ready 1 year ago
package.json bot lib for douyin done 1 year ago

README.md

machete的hero爬虫脚本库

Hero scripts of machete. 本项目基于Node.js和开源工具Hero(官网:https://ulixee.org)。

支持以下平台视频分享网页数据抓取:

  • 抖音网页版
  • 快手网页版
  • 西瓜视频网页版
  • Bilibili

爬虫采集到的数据结构见Machete项目的TaJian皮肤文档。

目录/文件说明

  • bot - 针对各大平台的网页HTML解析类
  • bypass - 针对各大平台的常用域名收集
  • test - 类库测试代码
  • tmp - 临时文件保存目录
  • install_cloud.sh - hero服务端安装(非必需)
  • install_hero.sh - hero客户端安装

使用方法

  1. 下载本源码到本地后

  2. 执行下面命令安装依赖包:

npm install

如果你对npm和node不熟悉,请自行了解。

  1. 写一个.mjs脚本,调用bot/下的类库,自行解析目标网页获取所需数据。

bot/目录下的类库调用方法,可参考test/scrap_test.mjs测试脚本。