最近被亚马逊和facebook的爬虫爬的很痛苦，跟DDOS攻击一样，网站全面崩溃。。。
它官方不是说会遵守robots.txt协议的，都加上去超过24小时了，还在爬。
为了自己训练AI到处乱爬，小网站的命不是命了吗！！！
亚马逊爬虫Amazonbot这么不要脸，不遵守robots.txt协议规则！！
隐藏内容，支付积分阅读
已有90人购买此隐藏内容
隐藏内容，支付费用阅读
௹
已有86人购买此隐藏内容
隐藏内容，仅限以下用户组阅读
隐藏内容，登录后阅读
登录之后方可阅读隐藏内容
隐藏内容，评论后阅读
请在下面参与讨论之后，方可阅读隐藏内容
隐藏内容，加入圈子后阅读
您需要加入圈子之后才能查看帖子内容
您猜对了答案，下面是向您展示的隐藏信息：
[]
[௹]
向
提问：
隐藏内容，猜对答案后阅读
猜错啦：您选中的是「」，正确答案是：「」
多选人参与投票
单选人参与投票
PK人参与PK
·已选
已选·
投票后查看结果，您的选择是？
思想因碰撞产生火花，真理因辩论获得升华
热门评论
:
该帖子评论已关闭
讨论
-
阅读剩余条回复 加载中... -
没有讨论，您有什么看法？
请先登录！
图片审查中...
![]()
登录之后回答问题，请先登录！
编辑答案：
我的回答：
最多上传一张图片和一个附件
x
