crawl4ai:专门把网页喂成LLM能吃的Markdown
开源项目日报(10月13日)活跃榜列出 unclecode/crawl4ai,定位面向 LLM/Agent 的开源爬虫:把任意网站转成 LLM-ready Markdown,当时星标量级在榜单前列。[1]
Python 里写采集并不稀奇,稀奇的是默认输出就按「给模型吃」来设计。课设或内部知识库接入前,先看 robots/合规和站点条款,别只盯星标。
你们是自写BeautifulSoup流水线,还是已经换成这类LLM-ready爬虫?
[1] 开源项目日报(10月13日),2026年10月13日。
#crawl4ai #爬虫 #LLM #Python #开源
