日本女优图片 Claude团队引公愤,为爬数据不择技艺,给爬虫更名字无视辞让礼貌
Claude团队此次惹了公愤!日本女优图片
原因:24小时内捕快某公司作事器100万次,以不付费款式,爬虫捏取网站实质。
不仅暗渡陈仓无视了“辞让爬取”的公告,还强行占用了作事器资源。
这家“受害者”公司其实辛勤细腻无比了,但进击失败,实质数据如故被Claude捏走了。
公司厚爱东说念主气得吹胡子横目,在x上情绪开麦:
嘿,Anthropic,我知说念您渴慕数据。Claude确实很智慧!
但你造吗,这少量也不!酷!哦!
很多网友为此日本女优图片愤愤不屈,有个搞案牍责任的网友留言称:
“我提出用‘偷’,而不是‘不付费’来描摹Anthropic的这种行径。”
一时之间,群情激怒!
撑持声讨的,条款Claude付费的,指摘区险些乱成一锅粥了。
这是奈何回事
历害责问Anthropic的这家公司叫作念iFixit,是一家好意思国电子商务和操作指南网站。
iFixit的业务的一部分,是为糜费电子家具和吝惜具提供类维基百科的免费在线维修指南。
网站内稀有百万个页面,包括修理指南、指南的改换历史、博客、新闻帖子和计议、论坛、社区孝顺的修理指南和问答部分等。
但,iFixit一会儿发现,Claude的爬虫材干ClaudeBot在几个小时内,每分钟齐稀有千次肯求捕快。
这约就是一天内捕快其网站近百万次。
据统计,它一天内捕快了10 TB的文献,通盘5月份经营捕快了73 TB。
为此,iFixit的CEO老K(Kyle Wiens)丢下一句话:
未经许可,ClaudeBot偷走咱们通盘的数据,还把咱们的作事器占满了……Fine,这也没什么大不了。
不知说念它有莫得爬到咱们的许可领会??
对你没看错,「未经许可」。
iFixit其实有写声明——
未经iFixit明确预先书面许可,严禁因为任何其他主见(包括检修机器学习或东说念主工智能模子)复制、复制或分发本网站上的任何实质、材料或想象元素。
然并卵。
Claude不仅视而不主见链接落拓捕快-捏取,还障翳了iFixit的细腻无比。
iFixit其实胜利进击了两个Anthropic的AI捏取机器东说念主,永别称为“ANTHROPIC-AI”和“CLAUDE-WEB”。
但这俩AI捏取机器东说念主似乎依然是往常式了,现时的主力爬虫恰是没被进击胜利的“ClaudeBot”。
必不得已,老K示意,iFixit本周修改了robots.txt文献,挑升用来进击Anthropic的爬虫机器东说念主。
那,Anthropic那儿有啥反馈不?
它们倒是莫得闭麦,对媒体回话说念:
ANTHROPIC-AI 和 CLAUDE-WEB 这俩如实是公司使用过的旧爬虫,但现时依然罢手使用了。
固然了,Anthropic侧目了现时活跃的ClaudeBot是否尊重防爬虫robots.txt进击被爬取的问题。
AI公司不是第一次干这事儿了
天天影视最新网站翻看Anthropic的官方网站不错发现,早就挂着一篇名为《Anthropic是否从采集上捏取数据?网站通盘者怎么进击捏取器具?》的著述。
内部提到:
凭证行业圭臬,Anthropic使用多样数据源进行模子开发,举例通过采集爬虫采集的来自互联网的公开数据。
咱们的爬取不应具有侵入性或浮松性。
咱们的方针是通过沟通爬取疏导域的速率,并在稳妥的情况下尊重爬行蔓延来将干豫降到最低。
但一派公论声中不难发现,Anthropic领路不是这样作念的。
它,未经允许爬取别东说念主数据,老惯犯了。
就说本年4月的时候,Linux Mint论坛就惨遭被爬。
在几个小时中,ClaudeBot屡次捕快论坛爬取数据,导致论坛在几个小时内处于超低速or崩溃状况,最终透澈崩掉。
有东说念主示意,在并吞时天职,ClaudeBot占用的流量独占鳌头,是第二名的20倍、第三名的40倍。
在4月经件和本次事件的商量贴中,齐有东说念主提出:
既然放禁爬取公告莫得用,那不放在网站中搞一些带有可跟踪or特有信息的失实信息,以便检测是谁偷走了数据。
iFixit如实也这样作念了。
而且确实有用——发现自家网站的信息不仅被Claude爬个底朝天,还被OpenAI也爬走了……
讲意象,有什么办法呢?确实少量办法也莫得。
因为除了Claude和GPT之外,这样强行偷家的AI挺不少的。
前几天就有一家名为Tollbit的机器东说念主检测初创公司宣称Perplexity、Claude、OpenAI会忽略爬取网站上的robots.txt开拓——其时有东说念主跑去问了OpenAI的格调,OpenAI不予置评。
再往前看,上个月也闹过一次。
《福布斯》责问AI搜索家具Perplexity涉嫌抄袭其新闻著述;一石激起千层浪,更多媒体站出来,指责Perplexity的爬虫机器东说念主PerplexityBot积恶捏取自家网站信息。
而Perplexity一直的格调齐是:
尊重出书商不捏取实质的条款,何况在合理使用版权法的边界内运营。
表面上讲,岂论是ClaudeBot如故PerplexityBot,在遭逢表明“辞让捏取”“辞让robot.txt”的文献时,齐应该死守公约,规避爬取声明方网站的实质。
既然声明无效,就有东说念主命令创作家把实质尽可能飘摇到付费区域,来驻扎无尽定的捏取。
你合计这样的办法会有用吗?日本女优图片