判断采集是否遗漏,核心不是看总流量高低,而是做一次“对账”:拿同一时间段的站内统计、搜索引擎报告、第三方估算和服务器日志,按来源、落地页、参数三个维度交叉比对。若某来源在站内统计里有量,在日志里却找不到对应请求,或反过来日志有明显请求而报表缺失,就说明采集链路存在遗漏。下面给出两种处理方案的适用条件、具体做法和验收信号。
发现差异后,处理方式通常分两类,适用条件完全不同。
选错方案会白费功夫:明明是口径问题却去补采,只会让重复数据更多;明明是漏采却去改口径,差异永远对不上。
取同一时间段(建议至少完整一天,避开跨时区结算),比较三组数字:站内统计的访问次数、服务器日志的去重IP或请求数、搜索引擎报告中的点击量。三者本就不该相等,因为口径不同:日志含爬虫和静态资源请求,搜索引擎报告只统计从结果页点击进入的次数。所以这一步只看数量级是否合理,比如日志请求量远大于统计访问量,可能正常;但统计访问量大于日志请求量,基本可判定异常。
把站内统计的“来源/渠道”报表导出,与日志中Referer字段的分布对比。重点看两类遗漏:
第一种通常指向来源识别规则未覆盖,第二种可能是统计脚本把无Referer的请求错误归因,或存在刷量。
选3到5个带参数的推广链接,手动访问一次,然后检查:统计后台是否记录了这次访问、来源是否识别正确、落地页URL参数是否完整保留。若参数在跳转中被剥离,后续来源归因就会丢失,表现为“直接访问”增多。这一步可以实际执行,且结果可复核。
补采方案验收:手动测试链接在日志和统计中都能查到,且来源、参数一致;连续观察一个周期,原先缺失的来源出现稳定记录。改口径方案验收:调整规则后重新跑同一时间段数据,差异缩小到可解释范围,且不再出现某来源整体归零或整体归入“直接访问”。
如果两种方案都试过仍对不上,优先怀疑时间窗口不一致、时区设置不同或数据延迟,而不是继续加规则。此时应固定同一时区和同一结算周期再比一次。
下一步:选一个你怀疑遗漏最严重的来源,按上面的三层对账跑一遍,先确定是漏采还是口径问题,再决定补采还是改规则。