- 数据集
- 数据工程
- 数据分析
【免费下载链接】internship-warehouse
internship-warehouse 是 FlyRank 实习生计划发布的匿名化内容绩效数据仓库(v20260703 版,约 8180 万行),采用星型模型(Star Schema)组织,覆盖 GSC 搜索表现与 GA4 站点流量,甚至包含 ChatGPT、Perplexity、Gemini 等AI 流量渠道的细分指标。对想做数据分析、SEO 或 AI 搜索趋势课题的新手来说,这是一套"开箱即用"的 Capstone 数据底座。本文给出 6 个由浅入深的选题方向,帮你从基线指标一路分析到 AI 流量趋势。
数据集全景:4 张表 + 月度分区
仓库的核心结构如下,官方说明见 README.md,字段清单见 dataset_infos.json:
| 表 | 行数 | 粒度(Grain) |
|---|---|---|
| dim_clients.parquet | 104 | 每个匿名化客户一行 |
| dim_content.parquet | 519,606 | 每个匿名化内容项一行 |
| fact_content_daily_performance(月度分区) | 78,835,655 | 报告日期 × 客户 × 内容项 |
| fact_content_query_90d.parquet | 2,414,248 | 客户 × 内容项 × query hash(固定 90 天窗口) |
几个新手必须知道的设计点:
- 按月分区:日表按
month=YYYY-MM目录切分,如 fact_content_daily_performance/month=2026-06/data_0.parquet,共 2025-01 至 2026-06 共 18 个月 - 样本文件先行:
fact_content_daily_performance_sample.parquet是最新完整月份,README 明确建议"从这里开始" - 盐化哈希主键:
client_hash_id、content_hash_id等均为加盐命名空间哈希,盐值不下发,天然防反识别 - 非平衡面板:各客户的历史深度不同,分析时间跨度前先看 dim_clients.parquet 里的
gsc_data_start/ga4_data_start
⚠️ 合规提醒:数据集仅限匿名化研究与教学用途,任何公开产出(报告、图表、Demo)中不得出现可识别客户的信息。
方向一:数据基线健康检查(最适合作为第 0 步)
长尾关键词:数据仓库质量检查、缺失值与覆盖率分析
不要上来就做业务分析。推荐第一个课题就是基线指标与数据健康度审计:
- 覆盖率统计:日表中
client_has_gsc、client_has_ga4、gsc_data_available、ga4_data_available四类标志位组合,计算每个客户的"数据可用矩阵" - 缺失模式定位:哪些客户 × 月份组合 GSC 指标全空?是接入时间晚,还是断流?
- 一致性校验:
gsc_impressions、gsc_clicks是否存在负值或异常尖峰;gsc_avg_position与gsc_sum_position是否自洽 - 产出物:一张"数据可用日历"(客户 × 月份热力矩阵)+ 异常清单
这个课题工作量小、结论扎实,是 Capstone 答辩中展示工程严谨性的加分项,也能让后续所有方向建立在可信数据上。
方向二:搜索基线指标——CTR 与平均排名分布
长尾关键词:SEO 基线指标分析、GSC CTR 排名关系
基于日表做最经典的搜索绩效基线:
- CTR 分布:
gsc_clicks / gsc_impressions在内容项层面的分布,找出"高曝光零点击"的内容 - 排名分层效应:按
gsc_avg_position分桶(1-3 / 4-10 / 11-20 / 20+),对比各层的 CTR 与点击贡献,验证"首页门槛效应" - 时间趋势:利用 18 个月分区,观察整体基线排名是否漂移
- 维度下钻:关联 dim_content.parquet 的
content_type、word_count、backlinks、competition_level,回答"什么类型的内容更容易获得高排名"
📌 建议先用 fact_content_daily_performance_sample.parquet 验证 SQL/Python 逻辑跑通,再全量扫描fact_content_daily_performance/**/*.parquet。
方向三:流量渠道结构分析(GA4 Sessions 拆解)
长尾关键词:流量渠道占比分析、GA4 会话渠道拆解
日表内置了完整的渠道会话字段:sessions_organic、sessions_direct、sessions_referral、sessions_social、sessions_paid、sessions_ai。选题思路:
- 客户级渠道画像:每个客户的渠道占比向量,聚成几类典型模式(自然搜索主导 / 直接访问主导 / 付费主导)
- 渠道 × 内容相关性:高
sessions_organic的内容是否也拥有更高gsc_impressions?跨渠道一致性检查 - 参与度对比:不同渠道来源的
ga4_engaged_sessions、ga4_total_engagement_sec差异,判断哪个渠道带来"更值"的访问 - 时间结构演变:18 个月窗口内各渠道占比的月度变化曲线
方向四:AI 流量趋势分析(本数据集最大亮点)⭐
长尾关键词:AI 搜索流量趋势、AI 渠道 SEO 分析
数据集单独拆出了 8 个 AI 相关字段:sessions_ai、ai_chatgpt、ai_perplexity、ai_gemini、ai_copilot、ai_claude、ai_meta、ai_other——这在公开实习数据集中非常稀缺。可做的课题:
- AI 流量渗透率曲线:
sessions_ai / ga4_sessions的月度走势,量化"AI 渠道份额"的增长斜率 - 模型份额博弈:ChatGPT vs Gemini vs Perplexity vs Claude 的占比变化,找出领跑者与被追赶者
- AI 友好内容画像:AI 流量占比高的内容项,在 dim_content.parquet 中的
word_count、backlinks、main_intent、provider_used/model_used(内容生产方式)上有什么共性? - GSC 交叉验证:AI 流量上升的内容,
gsc_clicks是同步上升还是被分流?这是"AI 搜索是否蚕食自然点击"问题的绝好实验场
💡 答辩建议:把"传统渠道 vs AI 渠道"的此消彼长做成一张双轴趋势图,是最有记忆点的结论页。
方向五:Query 粒度深度分析(90 天固定窗口)
长尾关键词:搜索词粒度分析、长尾查询流量结构
fact_content_query_90d.parquet 提供 query 级数据,固定 90 天窗口,且带impressions_last30/impressions_prev30子窗口,天然支持环比分析:
- 查询集中度:每个内容项的
content_visible_query_count与头部 query 占比,识别"单点依赖"型内容 - 长尾稀有度:
rare_query_count(曝光 < 10 的 query 数)与rare_impressions_share,衡量长尾流量的健康度 - 匿名化占比处理:
anonymized_impressions_share字段记录了 Google 匿名化曝光的聚合份额——课题中讨论"小样本数据偏差"时可直接引用 - 趋势方向:
avg_position_last30vsavg_position_prev30,筛出排名快速上升 / 下滑的 query-内容组合,做"机会清单"与"预警清单"
方向六:内容优化效果归因(进阶难度)
长尾关键词:内容优化 ROI 分析、A/B 前后对比
dim_content.parquet 中同时存在"投入侧"与"内容画像侧"字段:last_optimized_date、optimization_eligible_date、is_published、is_deleted、search_volume、competition、cpc。选题:
- 优化前后对比:以
last_optimized_date为锚点,取前后各 30 天的日表指标,评估优化对gsc_impressions/gsc_avg_position的边际影响 - 意图 × 难度分层:按
main_intent(搜索意图)×competition_level分层,看哪类组合的投入产出比最优 - 生产方式对比:
provider_used/model_used区分的内容,在绩效上是否有显著差异——直接回答"AI 生产的内容效果如何" - 注意混杂因素:dim_clients.parquet 的
access_profile与数据起始日期不同,建议先做客户内(within-client)对比而非跨客户简单平均
新手上手路线图
- 第 1 天:读取样本文件 fact_content_daily_performance_sample.parquet,熟悉 28 个字段含义(对照 dataset_infos.json)
- 第 2-3 天:完成方向一(基线健康检查),建立数据可用日历
- 第 4 周:从方向二 / 四中挑一个主课题深入,其余方向作为稳健性检验
- 工具建议:数据在 Hugging Face 上按 gated 发布,README 给出的两种加载方式——
datasets流式读取或 DuckDB 直连(无需全量下载)都适合 Colab 环境
⚡ 一句话总结:先用方向一打好地基,再用方向四做出亮点——AI 流量趋势是当前 SEO 领域最稀缺的分析视角,也是这份 internship-warehouse 数据相对其他练习数据集的核心差异化价值。
- 数据集
- 数据工程
- 数据分析
【免费下载链接】internship-warehouse
相关推荐
Claude Octopus命令清单:9条核心命令搞定90%的多模型AI工作流
Claude Octopus命令清单:9条核心命令搞定90%的多模型AI工作流 Claude Octopus 是一款多模型 AI 工作流编排插件:把同一个研究、
GitHub_Trending/le/LeetCode-Questions-CompanyWise:Salesforce 6个月内面试题趋势分析
GitHub_Trending/le/LeetCode Questions CompanyWise:Salesforce 6个月内面试题趋势分析 项目概述 Gi
数据集LWJGL 3模块系统详解:如何按需选择OpenGL、Vulkan与OpenCL组件
LWJGL 3模块系统详解:如何按需选择OpenGL、Vulkan与OpenCL组件 LWJGL 3(Lightweight Java Game Library
游戏开发图形学音视频跨平台
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考