用AI制作爬虫机器人——只需一行博客地址即可收集27篇文章

介绍“用AI创建机器人(测试版)”:只要用语言说明网站地址和所需内容,AI就会生成爬虫机器人,并按对话顺序展示为一个博客创建机器人、收集27篇文章的过程。

• 1,307
用AI制作爬虫机器人——只需一行博客地址即可收集27篇文章
目录

“我想收集这个网站的数据,但机器人列表里没有。”

这是想委托爬虫的人最常遇到的难题。自己写代码要花时间,找外包又得先为小需求询价。因此 Hashscraper 以 Beta 版开放了用 AI 创建爬虫机器人功能。只要用文字说明想收集的网站和所需字段,AI 就会创建采集方法,先进行示范采集展示结果,经人工确认后再作为机器人运行。本文将按照实际对话顺序,展示为一个博客创建机器人的全过程。

定义。 无代码爬虫是一种无需编写代码即可收集网页数据的方法。既可以通过在页面上点击选择字段,也可以通过说明想要的内容,让 AI 创建采集方法。

定义。 Hashscraper 的“用 AI 创建机器人(Beta)”是一项通过对话创建采集方法(机器人),经安全检查和管理员确认后,在 Hashscraper 服务器上进行采集的功能。收集到的数据将以数据集形式提供。

[左侧菜单中的用 AI 创建机器人(Beta)页面 — 新建机器人按钮与已创建机器人列表](images/040/00_AI로봇만들기_메뉴.png)

▲ 在菜单中的“用 AI 创建机器人(Beta)”点击“新建机器人”,即可打开与 AI 的对话。


TL;DR

  • 用文字写下地址和所需字段,AI 会创建一个能够处理列表 → 文章详情 → 多个页面的机器人。
  • 例如,我们选择了 Hashscraper 代表金京浩的个人博客(bamchi.me),仅通过几轮对话就创建了机器人,并在约 1 分 20 秒内收集了 27 篇文章(标题、发布日期、浏览量、正文、地址)。
  • 创建和示范采集免费,正式采集每条基础费用为 25 积分。无法创建需要登录的页面、验证码、App 或涉及个人信息的采集机器人。

1. 从一行地址开始

最开始发送的话只有这一句。

收集 Bamchi.me 博客文章

AI 首先直接打开查看了页面,并这样回答:“每页有 9 篇文章,分为多个页面。列表中每篇文章都有标题、发布日期、摘要和文章地址。”

这里重要的是,人并没有说明 HTML 结构。标题在哪个标签里、下一页地址如何变化,都是 AI 读取页面后自行识别出来的。

[与 AI 的对话 — 发送一行地址后,AI 打开页面查看,并询问只收集列表还是连正文也收集](images/040/01_대화주소와방식.png)

▲ 实际对话界面。发送一行地址后,AI 会先打开页面查看,并询问要收集什么、如何收集。

2. 只收集列表?还是连正文也收集?——AI 会先询问

AI 并不会马上创建,而是先询问采集方式。

  1. 只收集列表 —— 快速获取标题、发布日期、摘要和地址
  2. 连正文也收集 —— 先从列表收集文章地址,再进入每篇文章获取完整正文

选择第 2 项后,接着出现了下一个问题:“要收集到第几页?3 页大约是 27 篇。也可以让您在每次采集时修改页数。”在提出这样设置后,“要采集的页数”就成了机器人的设置项。这周可以收集 1 页,下个月收集 10 页,无需重新创建机器人即可修改使用。

从列表进入详情页的两阶段爬取,以及翻页,原本是写代码时最费工夫的部分。这个过程只用两次提问就完成了。

3. 通过示范采集提前查看

AI 先从第一页试着收集了 5 篇文章并展示出来。

标题 发布日期 浏览量
GPT-5.6 Sol,最强模型的陷阱 2026年07月13日 2,652
有钱又有时间的人最先买的东西——不是车,也不是奢侈品 2026年02月17日 5,028
用一台 Mac mini 打造属于自己的 AI 助手的故事 2026年02月02日 4,708

其中还包含了没有要求的浏览量。AI 发现文章页面中有浏览量后,主动建议一并加入。示范采集时也会确认下一页是否能够正常打开。

[展示示范采集结果的 AI 消息与保存后请求审核的说明](images/040/02_대화시범수집저장.png)

▲ 对话中会展示示范采集结果,回复“保存”后,采集方法就会被保存。

[最后的示范采集面板 — 在列表中找到 9 个地址,打开 5 个详情页,预览显示 5 行数据](images/040/04_시범수집_미리보기.png)

▲ 屏幕右侧会同时显示示范采集表格,也确认了下一页是否同样显示 9 篇文章。

如果对结果不满意,可以当场用文字修改。例如:“去掉发布日期”、“正文只保留前 200 个字”等。

4. 经人工确认后再运行

保存后点击“请求管理员审核”,不会立即开始采集,而是会经过两个步骤。

  • 安全检查(1~3 分钟) —— 检查采集地址是否安全、网站的采集规则(robots.txt)是否禁止、示范结果中是否存在看似个人信息的数据,以及单次请求是否过多。这个机器人以“单次约 30 次请求、每个网站间隔 1 秒”的条件通过了检查。
  • 管理员确认(通常 1 个工作日) —— 由人工确认采集方法以及每条数据所需的积分后进行批准。

[正在创建的机器人面板 — 从列表收集地址 → 从详情页提取字段,输入框为要采集的页数,已批准 · 每条 25 积分](images/040/03_만든봇승인.png)

▲ 批准后,机器人的采集方法、输入项及每条积分费用一目了然,并可通过“打开机器人”继续操作。

不直接运行 AI 创建的机器人,而是再由人工确认一次,原因很简单:为了避免发布会给他人网站带来负担,或收集不应收集的数据的机器人。本示例是代表本人自己的博客,因此没有问题,但遵守待采集网站的使用条款及相关法律的责任,仍由创建机器人的会员承担。

5. 用机器人采集——27 条,675 积分

批准后,在机器人页面中输入页数 3 并开始采集。

[机器人页面 — 开始采集按钮与采集结果 27 条、675 积分](images/040/05_봇화면수집결과.png)

▲ 机器人页面。可以在与其他爬虫机器人相同的界面中开始采集并查看结果。

  • 采集时间:约 1 分 20 秒
  • 结果:27 篇文章(标题、发布日期、浏览量、正文、文章地址)
  • 费用:每条 25 积分 × 27 条 = 675 积分

收集到的数据与其他机器人一样会累积为数据集,可下载为 Excel。

[数据集页面 — 收到的数据 27 条,已使用积分 675,标题、发布日期、浏览量、正文、页面地址表格](images/040/06_데이터셋_27건.png)

▲ 收集的 27 篇文章已累积到数据集中,可通过“下载 Excel”进行下载。

用 AI 可以创建与无法创建的内容

可以创建 无法创建
公开的列表、论坛、商品页面 必须登录后才能查看的页面
列表 → 详情的两阶段采集、多个页面 出现机器人验证(验证码)的页面
“查看更多”按钮、需打开页面后才渲染的页面(通过浏览器打开后采集,耗时更长) App、个人信息

对于封锁严格的购物网站,或存在登录、验证码的网站,建议不要使用 AI 机器人,而是委托 Hashscraper 开发人员直接制作采集器。

常见问题

Q. 创建需要费用吗?
创建和示范采集免费。只有实际收集的数据才会按每条基础 25 积分扣除;如果管理员确认后费用有所变化,会通过通知告知您。

Q. 完全不懂代码也可以吗?
可以。只需用文字写下地址和想要的字段即可。例如可以这样写:“我想在 OO 商城搜索洗发水,收集商品名、价格和评论数。”

Q. 对话内容会被发送到哪里?
为了创建和审核机器人,对话内容会被发送给外部 AI 服务提供商(美国)。因此会提示您不要在对话中填写个人信息或密码。

结论

此前,创建爬虫机器人是一项“读取页面结构、选择选择器、编写翻页逻辑”的开发工作。用 AI 创建机器人将这件事转变为了对话:从一行地址开始,回答两次问题,查看示范结果,再通过经人工确认的机器人进行采集。目前仍处于 Beta 阶段,可能还有不足之处。欢迎试用并告诉我们,我们会尽快改进。

立即开始

评论

发表评论

您的邮箱不会公开,仅用于回复通知。

继续阅读

获取新文章通知

해시스크래퍼 기술 블로그 发布新内容时,我们会通过邮件通知您。

您的邮箱仅用于新文章通知。