首页 > 教程资讯 > 教程详情

CBC:AI 抓取机器人冲击大学图书馆,公开资源变慢甚至宕机

AI 与前沿 极客小林 2026-11-07
文章分享

据 CBC 于 2026 年 11 月 5 日报道,多所大学图书馆正应对数据抓取机器人的密集访问,面向学生、研究人员和公众的网站因此变慢,甚至短时宕机。这些机器人由 AI 企业及第三方公司使用,抓取的数据常被用于训练大语言模型。图书馆为保护服务而设置的验证和登录机制,也给开放访问带来了障碍。

密集抓取挤占正常访问

圣何塞州立大学编目与政府文件负责人 Jill Strykowski 向 CBC 表示,机器人持续密集访问,试图获取尽可能多的材料。维多利亚大学图书馆的 Dean Seeman 则称,机器人流量有时大到让网站短暂完全下线,影响公众使用。

据 CBC 转述,北卡罗来纳大学教堂山分校在 2025 年报告,同一天收到来自数千个不同网络地址、超过 11,000 次针对芬兰音乐的检索。该校称,机器人流量导致图书馆目录间歇性地拒绝学生、教师和员工访问。

安大略理工大学的加拿大可信人工智能研究主席 Peter Lewis 认为,普通用户实际上正在与机器人农场近乎无限的流量竞争。

提供整库下载,仍遭逐份抓取

Project Gutenberg 负责人 Eric Hellman 告诉 CBC,自他去年撰文讨论这一问题以来,情况进一步恶化。他解释,搜索引擎和 Internet Archive 的机器人会遵守 robots.txt 中的访问规则,但部分 AI 抓取机器人会忽略这些规则;个别情况下,它们每秒请求数千份文档,并下载所有可用格式。

Hellman 表示,同一家公司或机器人农场可以使用数千个 IP 地址,过去封禁问题 IP 的办法已不再有效。Project Gutenberg 欢迎其材料用于 AI 训练,还提供整个图书库的一键下载,但据他所述,相关机器人并未利用这一方式。他希望抓取能够以不导致网站宕机的方式进行。

防护措施也会增加访问门槛

CBC 报道称,部分图书馆已经设置验证码或其他验证系统。关注文化机构开放访问政策的 GLAM-E 联合主任 Michael Weinberg 指出,这些措施也可能拦下善意机器人。另有图书馆开始要求登录凭据,受访者表示希望避免这种做法,因为它会妨碍人们获取本应容易访问的资料。

据 CBC 报道,Anthropic、OpenAI、谷歌和微软在报道发布前一周表示,支持遵守网站 robots.txt 文件中统一的标准化退出信号,让网站表达拒绝抓取的意愿。不过,遵守这一信号仍属自愿,协议也未涵盖第三方公司和较小 AI 初创公司的问题机器人。

Weinberg 表示,当前的机器人访问正在削弱图书馆等机构将部分馆藏向线上开放的意愿。

来源