用AI制作爬虫机器人——只需一行博客地址即可收集27篇文章

介绍“用AI创建机器人(测试版)”:只要用语言说明网站地址和所需内容,AI就会生成爬虫机器人,并按对话顺序展示为一个博客创建机器人、收集27篇文章的过程。

• 65
用AI制作爬虫机器人——只需一行博客地址即可收集27篇文章
目录

“我想收集这个网站的数据,但机器人列表里没有。”

这是想委托爬虫的人最常遇到的难题。自己写代码要花时间,找外包又得先为小需求询价。因此 Hashscraper 以 Beta 版开放了用 AI 创建爬虫机器人功能。只要用文字说明想收集的网站和所需字段,AI 就会创建采集方法,先进行示范采集展示结果,经人工确认后再作为机器人运行。本文将按照实际对话顺序,展示为一个博客创建机器人的全过程。

定义。 无代码爬虫是一种无需编写代码即可收集网页数据的方法。既可以通过在页面上点击选择字段,也可以通过说明想要的内容,让 AI 创建采集方法。

定义。 Hashscraper 的“用 AI 创建机器人(Beta)”是一项通过对话创建采集方法(机器人),经安全检查和管理员确认后,在 Hashscraper 服务器上进行采集的功能。收集到的数据将以数据集形式提供。

[左侧菜单中的用 AI 创建机器人(Beta)页面 — 新建机器人按钮与已创建机器人列表](images/040/00_AI로봇만들기_메뉴.png)

▲ 在菜单中的“用 AI 创建机器人(Beta)”点击“新建机器人”,即可打开与 AI 的对话。


TL;DR

  • 用文字写下地址和所需字段,AI 会创建一个能够处理列表 → 文章详情 → 多个页面的机器人。
  • 例如,我们选择了 Hashscraper 代表金京浩的个人博客(bamchi.me),仅通过几轮对话就创建了机器人,并在约 1 分 20 秒内收集了 27 篇文章(标题、发布日期、浏览量、正文、地址)。
  • 创建和示范采集免费,正式采集每条基础费用为 25 积分。无法创建需要登录的页面、验证码、App 或涉及个人信息的采集机器人。

1. 从一行地址开始

最开始发送的话只有这一句。

收集 Bamchi.me 博客文章

AI 首先直接打开查看了页面,并这样回答:“每页有 9 篇文章,分为多个页面。列表中每篇文章都有标题、发布日期、摘要和文章地址。”

这里重要的是,人并没有说明 HTML 结构。标题在哪个标签里、下一页地址如何变化,都是 AI 读取页面后自行识别出来的。

[与 AI 的对话 — 发送一行地址后,AI 打开页面查看,并询问只收集列表还是连正文也收集](images/040/01_대화주소와방식.png)

▲ 实际对话界面。发送一行地址后,AI 会先打开页面查看,并询问要收集什么、如何收集。

2. 只收集列表?还是连正文也收集?——AI 会先询问

AI 并不会马上创建,而是先询问采集方式。

  1. 只收集列表 —— 快速获取标题、发布日期、摘要和地址
  2. 连正文也收集 —— 先从列表收集文章地址,再进入每篇文章获取完整正文

选择第 2 项后,接着出现了下一个问题:“要收集到第几页?3 页大约是 27 篇。也可以让您在每次采集时修改页数。”在提出这样设置后,“要采集的页数”就成了机器人的设置项。这周可以收集 1 页,下个月收集 10 页,无需重新创建机器人即可修改使用。

从列表进入详情页的两阶段爬取,以及翻页,原本是写代码时最费工夫的部分。这个过程只用两次提问就完成了。

3. 通过示范采集提前查看

AI 先从第一页试着收集了 5 篇文章并展示出来。

标题 发布日期 浏览量
GPT-5.6 Sol,最强模型的陷阱 2026年07月13日 2,652
有钱又有时间的人最先买的东西——不是车,也不是奢侈品 2026年02月17日 5,028
用一台 Mac mini 打造属于自己的 AI 助手的故事 2026年02月02日 4,708

其中还包含了没有要求的浏览量。AI 发现文章页面中有浏览量后,主动建议一并加入。示范采集时也会确认下一页是否能够正常打开。

[展示示范采集结果的 AI 消息与保存后请求审核的说明](images/040/02_대화시범수집저장.png)

▲ 对话中会展示示范采集结果,回复“保存”后,采集方法就会被保存。

[最后的示范采集面板 — 在列表中找到 9 个地址,打开 5 个详情页,预览显示 5 行数据](images/040/04_시범수집_미리보기.png)

▲ 屏幕右侧会同时显示示范采集表格,也确认了下一页是否同样显示 9 篇文章。

如果对结果不满意,可以当场用文字修改。例如:“去掉发布日期”、“正文只保留前 200 个字”等。

4. 经人工确认后再运行

保存后点击“请求管理员审核”,不会立即开始采集,而是会经过两个步骤。

  • 安全检查(1~3 分钟) —— 检查采集地址是否安全、网站的采集规则(robots.txt)是否禁止、示范结果中是否存在看似个人信息的数据,以及单次请求是否过多。这个机器人以“单次约 30 次请求、每个网站间隔 1 秒”的条件通过了检查。
  • 管理员确认(通常 1 个工作日) —— 由人工确认采集方法以及每条数据所需的积分后进行批准。

[正在创建的机器人面板 — 从列表收集地址 → 从详情页提取字段,输入框为要采集的页数,已批准 · 每条 25 积分](images/040/03_만든봇승인.png)

▲ 批准后,机器人的采集方法、输入项及每条积分费用一目了然,并可通过“打开机器人”继续操作。

不直接运行 AI 创建的机器人,而是再由人工确认一次,原因很简单:为了避免发布会给他人网站带来负担,或收集不应收集的数据的机器人。本示例是代表本人自己的博客,因此没有问题,但遵守待采集网站的使用条款及相关法律的责任,仍由创建机器人的会员承担。

5. 用机器人采集——27 条,675 积分

批准后,在机器人页面中输入页数 3 并开始采集。

[机器人页面 — 开始采集按钮与采集结果 27 条、675 积分](images/040/05_봇화면수집결과.png)

▲ 机器人页面。可以在与其他爬虫机器人相同的界面中开始采集并查看结果。

  • 采集时间:约 1 分 20 秒
  • 结果:27 篇文章(标题、发布日期、浏览量、正文、文章地址)
  • 费用:每条 25 积分 × 27 条 = 675 积分

收集到的数据与其他机器人一样会累积为数据集,可下载为 Excel。

[数据集页面 — 收到的数据 27 条,已使用积分 675,标题、发布日期、浏览量、正文、页面地址表格](images/040/06_데이터셋_27건.png)

▲ 收集的 27 篇文章已累积到数据集中,可通过“下载 Excel”进行下载。

用 AI 可以创建与无法创建的内容

可以创建 无法创建
公开的列表、论坛、商品页面 必须登录后才能查看的页面
列表 → 详情的两阶段采集、多个页面 出现机器人验证(验证码)的页面
“查看更多”按钮、需打开页面后才渲染的页面(通过浏览器打开后采集,耗时更长) App、个人信息

对于封锁严格的购物网站,或存在登录、验证码的网站,建议不要使用 AI 机器人,而是委托 Hashscraper 开发人员直接制作采集器。

常见问题

Q. 创建需要费用吗?
创建和示范采集免费。只有实际收集的数据才会按每条基础 25 积分扣除;如果管理员确认后费用有所变化,会通过通知告知您。

Q. 完全不懂代码也可以吗?
可以。只需用文字写下地址和想要的字段即可。例如可以这样写:“我想在 OO 商城搜索洗发水,收集商品名、价格和评论数。”

Q. 对话内容会被发送到哪里?
为了创建和审核机器人,对话内容会被发送给外部 AI 服务提供商(美国)。因此会提示您不要在对话中填写个人信息或密码。

结论

此前,创建爬虫机器人是一项“读取页面结构、选择选择器、编写翻页逻辑”的开发工作。用 AI 创建机器人将这件事转变为了对话:从一行地址开始,回答两次问题,查看示范结果,再通过经人工确认的机器人进行采集。目前仍处于 Beta 阶段,可能还有不足之处。欢迎试用并告诉我们,我们会尽快改进。

立即开始

评论

发表评论

您的邮箱不会公开,仅用于回复通知。

继续阅读

Get notified of new posts

We'll email you when 해시스크래퍼 기술 블로그 publishes new content.

Your email will only be used for new post notifications.