简介
谷歌开源的 robots.txt 解析器。Google 称过去 25 年 Robots Exclusion Protocol (REP)协议一直是一种约定的标准,给网站管理员人员和爬虫工具开发者带来了很多不确定性。Google 现在宣布它将率先致力于让 REP 成为一个行业标准,作为这个努力的一部分... 更多
其它信息
地区
不详
开发语言
C/C++
Python
开源组织
Google
所属分类
程序开发、 常用工具包
授权协议
Apache
操作系统
跨平台
收录时间
2023-09-28
软件类型
开源软件
适用人群
未知
评价
0.0(满分 10 分)0 个评分
什么是点评分
全部评价(
0)
推荐率
100%