crawl4ai:专门把网页喂成LLM能吃的Markdown

开源项目日报(10月13日)活跃榜列出 unclecode/crawl4ai,定位面向 LLM/Agent 的开源爬虫:把任意网站转成 LLM-ready Markdown,当时星标量级在榜单前列。[1]

Python 里写采集并不稀奇,稀奇的是默认输出就按「给模型吃」来设计。课设或内部知识库接入前,先看 robots/合规和站点条款,别只盯星标。

你们是自写BeautifulSoup流水线,还是已经换成这类LLM-ready爬虫?

[1] 开源项目日报(10月13日),2026年10月13日。

#crawl4ai #爬虫 #LLM #Python #开源