防止内容被抓取训练AI:百度百科屏蔽谷歌_必应等搜索引擎
原标题:防止内容被抓取训练AI:百度百科屏蔽谷歌_必应等搜索引擎
导读:
我听说华为降价了却未曾料到降幅竟如此之大月下旬徐岙化名在社交平台上分享他在今年月购入的订单配置为的罗兰紫版本当时售价高达元然而仅仅过了两个月同款手机的标价降至元这一落差让徐岙难...
“我听说华为降价了,却未曾料到降幅竟如此之大。”7月下旬,徐岙(化名)在社交平台上分享他在今年5月购入的HUAWEI Pura 70 Pro订单,配置为12GB+512GB的罗兰紫版本,当时售价高达6999元。仅仅过了两个月,同款手机的标价降至6199元,这一落差让徐岙难掩惊讶与无奈。“...
快科技8月22日消息,据报道,近日开始屏蔽谷歌和必应等大多数,预计是为了阻止这些搜索引擎和其他爬虫,未经授权抓取百度百科的内容用于训练AI。
百度百科的robots.txt文件显示,目前仅有百度搜索、搜狗搜索、中国搜索(Chinaso)、YYSpider和宜搜搜索(EasouSpider)等少数几个搜索引擎被允许抓取其内容。
谷歌搜索、必应搜索、微软MSN、UC浏览器的Yisouspider以及其他一切搜索引擎爬虫均被明确禁止抓取百度百科的内容。
虽然360搜索没有在封禁列表中单独列出,但百度百科的策略是禁止一切非白名单爬虫抓取,所以360搜索和其他搜索引擎也都是被屏蔽的。
不过百度百科这种做法其实也只是防君子不防小人,肯定还有很多爬虫通过各种方式继续抓取内容然后拿去训练AI。