API 参考
CrawlForge MCP API 参考
全部 23 个 CrawlForge MCP 工具的完整参考。使用我们以开发者为先的 API 构建强大的网页抓取应用。
API 概览
基础 URL
Bash
身份验证
所有 API 请求都需要在 X-API-Key 请求头中传入 API 密钥:
Bash
从控制台获取你的 API 密钥。
请求格式
所有工具端点都在请求体中接收 JSON:
Json
响应格式
所有响应都遵循统一格式:
Json
HTTP 状态码
| 状态码 | 说明 |
|---|---|
| 200 | OK — 请求成功 |
| 400 | Bad Request — 参数无效 |
| 401 | Unauthorized — API 密钥无效或缺失 |
| 402 | Payment Required — credits 不足 |
| 429 | Too Many Requests — 超出速率限制 |
| 500 | Internal Server Error |
速率限制
速率限制按 API 密钥计算,并因计划而异。超出限制将返回
429 Too Many Requests 响应。Free 计划
每秒 1 次请求
Hobby 计划
每秒 2 次请求
Professional 计划
每秒 4 次请求
Business 计划
每秒 10 次请求
全部工具
基础工具 1-2 credits
list_ollama_models
列出本地安装的 Ollama 模型(免费的发现辅助工具)
0 credits
fetch_url
抓取并解析网页,自动处理各类情况
1 credit
extract_text
通过智能解析从 HTML 中提取干净文本
1 credit
extract_links
发现并提取网页中的所有链接
1 credit
extract_metadata
提取页面元数据、OpenGraph 和 Twitter Card 标签
1 credit
scrape_template
面向 10 个热门站点的预置抓取器(Amazon、GitHub、YouTube 等)
1 credit
scrape_structured
使用 CSS 选择器提取结构化数据
2 credits
extract_content
通过可读性检测从网页中提取主要内容
2 credits
map_site
发现并映射网站结构和 URL
2 credits
process_document
处理多种格式的文档,包括 PDF
2 credits
localization
面向抓取的多语言和地理位置管理
2 credits
高级工具 3-5 credits
track_changes
通过基线、定时监控和告警跟踪页面变更
3 credits
analyze_content
分析内容的情感、语言和主题
3 credits
extract_structured
由 LLM 驱动的 schema 提取,并支持 CSS 选择器回退
3 credits
extract_with_llm
由 LLM 驱动的提取,默认使用本地 Ollama(可选 OpenAI/Anthropic)
3 credits
summarize_content
为文本内容生成智能摘要
4 credits
crawl_deep
使用广度优先搜索进行深度网站爬取
4 credits
stealth_mode
带指纹随机化的反检测浏览器管理
5 credits
scrape_with_actions
在抓取前执行浏览器操作(点击、表单等)
5 credits
batch_scrape
通过异步作业管理同时处理多个 URL
5 credits
search_web
使用 Google Custom Search API 搜索网络
5 credits
generate_llms_txt
生成符合标准的 llms.txt 和 llms-full.txt 文件
5 credits
高阶工具 10 credits
错误处理
所有错误都遵循统一格式,包含
error.code 和 error.message 字段。Json
完整的错误代码列表和解决方案请参阅常见问题。