CrawlForge
基础工具1 credit

extract_links

发现并提取网页中的所有链接。非常适合站点地图生成、链接分析和爬取工作流。

使用场景

生成站点地图

通过提取所有内部链接构建全面的站点地图

为爬取发现链接

在网页爬取工作流中找出所有要访问的 URL

内部链接分析

分析内部链接结构以进行 SEO 优化

失效链接检测

查找并校验页面上的所有链接

Endpoint

POST/api/v1/tools/extract_links
Auth Required
Free 计划 2 req/s
1 credit

Parameters

NameTypeRequiredDefaultDescription
url
stringRequired-
要从中提取链接的 URL
Example: https://example.com
filter_external
booleanOptionalfalse
若为 true,仅返回内部链接(同域名)
Example: false
base_url
stringOptional-
用于解析相对链接的基础 URL
Example: https://example.com

请求示例

cURL - 提取所有链接

terminalBash

TypeScript - 仅内部链接

extractLinks.tsTypescript

响应示例

200 OK210ms
{
"success": true,
"data": {
"url": "https://example.com",
"links": [
{
"text": "Home",
"url": "https://example.com/",
"internal": true
},
{
"text": "About",
"url": "https://example.com/about",
"internal": true
},
{
"text": "Products",
"url": "https://example.com/products",
"internal": true
},
{
"text": "External Resource",
"url": "https://other-site.com",
"internal": false
}
],
"total_links": 4,
"internal_links": 3,
"external_links": 1
},
"credits_used": 1,
"credits_remaining": 999,
"processing_time": 210
}
Field Descriptions
data.links所有已发现链接的数组,包含文本和 URL
data.total_links找到的链接总数
data.internal_links指向同域名的链接数量
data.external_links指向外部域名的链接数量

相关工具

fetch_url
在提取链接前抓取页面(1 credit)
smart_crawl
带链接发现的智能爬取(8 credits)
准备好提取链接了吗?免费注册,获取 1,000 credits。