图 1-3
AI 平台与爬虫族谱:每一种功能底下是哪几家、哪几只
👆 点图放大,双指缩放看每个字点图放大;滚轮缩放、拖曳移动,按 Esc 缩回
看图表文字版
从根到枝看功能、AI 平台与爬虫;同一家在不同分支,表示参与不同功能。
爬虫分类家族树 2026/3/3–10/8 · AI 请求 1.23 亿 → 用途 → AI 平台 → 爬虫/自动浏览(60 条)· 枝线粗细=请求数的平方根 根 记录+另列自动浏览 第 1 层 · 用途 7 类,按功能与营销受众由上而下 第 2 层 · AI 平台 圆点=品牌色/灰色 第 3 层 · 爬虫/自动浏览(60 条) 胶囊=名称+请求数,灰字=本报告功能;同类按请求数排序 AI 请求(记录+另列) 1.23 亿 单位:请求次数 抄回去训练 S3 5,220 万 占总量 42.3% AI 爬虫 建搜索目录 S4 4,126 万 占总量 33.4% 搜索引擎爬虫:同批也做 AI 概览 建 AI 目录 S4 399 万 占总量 3.2% AI 爬虫 有人问 AI S5 65.1 万 占总量 0.5% 当场来读(AI 爬虫) 替客人办事 S8 1,809 万 占总量 14.7% AI Agent(含自动浏览) AI 的工具 708 万 占总量 5.7% 机械爬虫 · 自动化信息服务 实测跟踪中 15.3 万 占总量 0.1% 机械爬虫 · 自动化信息服务 Anthropic Meta OpenAI Amazon 跟踪中 Common Crawl Microsoft Google Yandex ByteDance Sogou 跟踪中 DuckDuckGo Baidu Brave Yahoo Japan Apple 自家 AI 搜索 OpenAI Perplexity Parallel Huawei Linkup Anthropic You.com 跟踪中 Kagi OpenAI Perplexity Anthropic DuckDuckGo Google 跟踪中 Mistral 另列统计 TollBit mcpbeat Golemreach 跟踪中 Andi AgentTools-Cloud 跟踪中 Google DeepSeek 跟踪中 Anthropic Cohere NICT ROIS ClaudeBot 2,448 万 抄回去训练 meta-externalagent 1,158 万 抄回去训练 GPTBot 1,060 万 抄回去训练 Amazonbot 545 万 抄回去训练 Reflectionbot 6.4 万 抄回去训练 信息服务爬虫 307 抄回去训练 其他浏览器 39 抄回去训练 CCBot 1.9 万 抄回去训练 bingbot 1,205 万 建搜索目录、做 AI 概览 Googlebot 341 万 建搜索目录、做 AI 概览 YandexBot 51.1 万 建搜索目录、做 AI 概览 Bytespider 25.6 万 建搜索目录、做 AI 概览 Sogou 25.3 万 建搜索目录、做 AI 概览 其他搜索爬虫 3.1 万 建搜索目录、做 AI 概览 DuckDuckBot 1.2 万 建搜索目录、做 AI 概览 Baiduspider 4,630 建搜索目录、做 AI 概览 Bravebot 39 建搜索目录、做 AI 概览 Y!J-DLC 30 建搜索目录、做 AI 概览 Applebot 2,462 万 建搜索目录、做 AI 概览 AI Search 281 万 建 AI 目录 AI Search External 5,918 建 AI 目录 OAI-SearchBot 76.1 万 建 AI 目录 PerplexityBot 21.8 万 建 AI 目录 ShapBot 12.6 万 建 AI 目录 PetalBot 11.4 万 建搜索目录、做 AI 概览 LinkupBot 6.0 万 建 AI 目录 Claude-SearchBot 1.1 万 建 AI 目录 YouBot 596 建搜索目录、做 AI 概览 Googlebot-Video 5 建搜索目录、做 AI 概览 Kagibot 4 建搜索目录、做 AI 概览 ChatGPT-User 63.5 万 当场来读 Perplexity-User 1.1 万 当场来读 Claude-User 2,494 当场来读 DuckAssistBot 1,624 当场来读 Google NotebookLM 464 当场来读 Gemini DeepResearch 10 当场来读 Python-urllib 19 当场来读 TABINOTE-ArrivalAudit 2 当场来读 curl 2 当场来读 HatchFeed 1 当场来读 MIN-SourceReview 1 当场来读 Meta-WebIndexer 1 当场来读 MistralAI-User 6 当场来读 AI Agent(自动浏览) 1,795 万 自动浏览(另列) tollbot 12.6 万 替人办事、查门牌 mcpbeat 7,925 替人办事、查门牌 GolemreachTrustBot 5,683 替人办事、查门牌 真浏览器 AI Agent 5,102 替人办事、查门牌 (另计) Andi-AgentSurfaceProbe 1,956 替人办事、查门牌 agent-tools.cloud-crawler 1,866 替人办事、查门牌 AI 的工具 708 万 AI 的工具 GoogleOther 14.2 万 实测跟踪中 GoogleOther-Image 34 实测跟踪中 DeepSeek 9,551 实测跟踪中 HanaleiBot 574 实测跟踪中 anthropic-ai 27 实测跟踪中 Claude-Web 21 实测跟踪中 CohereBot 30 实测跟踪中 ICC Crawler 30 实测跟踪中 Cotoyogi 2 实测跟踪中 记录 105,487,618 次(2026/3/3–10/8)+AI Agent 自动浏览 17,948,162 次(2026/8/26–10/8)=树根 123,435,780 次。 机械爬虫=AI 的工具 7,079,310 次+实测跟踪中 152,613 次;搜索引擎爬虫的建搜索目录、做 AI 概览来自同一批请求。 枝线粗细沿用原图请求数平方根比例(至少 1.5px);每列只挂一次。胶囊数值按万/亿四舍五入。 ID EO
| 项目 | 数值 |
|---|---|
| ClaudeBot | 2,448 万 |
| meta-externalagent | 1,158 万 |
| GPTBot | 1,060 万 |
| Amazonbot | 545 万 |
| Reflectionbot | 6.4 万 |
| 信息服务爬虫 | 307 |
| 其他浏览器 | 39 |
| CCBot | 1.9 万 |
| bingbot | 1,205 万 |
| Googlebot | 341 万 |
| YandexBot | 51.1 万 |
| Bytespider | 25.6 万 |
| Sogou | 25.3 万 |
| 其他搜索爬虫 | 3.1 万 |
| DuckDuckBot | 1.2 万 |
| Baiduspider | 4,630 |
| Bravebot | 39 |
| Y!J-DLC | 30 |
| Applebot | 2,462 万 |
| AI Search | 281 万 |
| AI Search External | 5,918 |
| OAI-SearchBot | 76.1 万 |
| PerplexityBot | 21.8 万 |
| ShapBot | 12.6 万 |
| PetalBot | 11.4 万 |
| LinkupBot | 6.0 万 |
| Claude-SearchBot | 1.1 万 |
| YouBot | 596 |
| Googlebot-Video | 5 |
| Kagibot | 4 |
| ChatGPT-User | 63.5 万 |
| Perplexity-User | 1.1 万 |
| Claude-User | 2,494 |
| DuckAssistBot | 1,624 |
| Google NotebookLM | 464 |
| Gemini DeepResearch | 10 |
| Python-urllib | 19 |
| TABINOTE-ArrivalAudit | 2 |
| curl | 2 |
| HatchFeed | 1 |
| MIN-SourceReview | 1 |
| Meta-WebIndexer | 1 |
| MistralAI-User | 6 |
| AI Agent(自动浏览) | 1,795 万 |
| tollbot | 12.6 万 |
| mcpbeat | 7,925 |
| GolemreachTrustBot | 5,683 |
| 真浏览器 AI Agent | 5,102 |
| Andi-AgentSurfaceProbe | 1,956 |
| agent-tools.cloud-crawler | 1,866 |
| AI 的工具 | 708 万 |
| GoogleOther | 14.2 万 |
| GoogleOther-Image | 34 |
| DeepSeek | 9,551 |
| HanaleiBot | 574 |
| anthropic-ai | 27 |
| Claude-Web | 21 |
| CohereBot | 30 |
| ICC Crawler | 30 |
| Cotoyogi | 2 |
怎么看 从根到枝看功能、AI 平台与爬虫;同一家在不同分支,表示参与不同功能。
延伸图:图 1-2〈AI 流量判别树〉判断 AI 请求属于哪类 AI 流量;图 1-3〈AI 平台与爬虫族谱〉列出各功能下的 AI 平台与爬虫。