一句话说清楚
爬虫从网页抓取结构化数据,现代形态包括无代码采集器(配置即用)、浏览器自动化(Playwright/Puppeteer)和 AI 爬虫(LLM 直接从 HTML 提字段)。AI 时代的爬虫更多服务于 RAG 知识库与数据集构建。
这对你选工具意味着什么
一次性小规模采集用浏览器插件或无代码工具;定时监控(价格/舆情)用调度型采集平台;需要登录态和复杂交互的用浏览器自动化写脚本。遵守 robots.txt 与服务条款是底线。
常见误区
只写了采集没写监控——目标网站改版后爬虫静默失败,数据断供一周才被发现。生产级爬虫必须有采集量告警。