跳到主要内容

采集数据的任务-数据的采集

在上一章中讲解了项目中责任链的加载和执行过程，从本章节开始会详细讲解责任链中每一个节点的执行逻辑

采集节点​

org.javaup.chain.impl.GatherDataChainHandler#handler

protected void handler(final TotalParamTransfers totalParamTransfers) {
    ParamTransfers paramTransfers = totalParamTransfers.getParamTransfers();
    //获取采集处理器 包括 基础维度和高级维度
    //如果业务的维度是video，时间的维度是day，那么采集处理器就是基础维度，其他的都是高级维度
    GatherHandler gatherHandler =
            gatherHandlerContext.getGatherHandler(paramTransfers.getVideoDimensionType().getValue() + UNDER_LINE
                    + paramTransfers.getRequestTime().getDateType().getValue());
    if (Objects.isNull(gatherHandler)) {
        return;
    }
    //采集数据
    gatherHandler.doGather(totalParamTransfers);
}

获取采集处理器​

GatherHandler gatherHandler =
            gatherHandlerContext.getGatherHandler(paramTransfers.getVideoDimensionType().getValue() + UNDER_LINE
                    + paramTransfers.getRequestTime().getDateType().getValue());

这里依旧是使用了熟悉的策略模式，项目中用到此模式的地方非常的多，所以建议大家要掌握此模式的使用

采集处理器接口接口​

首先要定义采集执行的顶层设计，规定好有要执行的方法，以及采集维度类型

public interface GatherHandler {

    /**
     * 采集数据
     * @param totalParamTransfers 总参数传输对象
     * */
    void doGather(TotalParamTransfers totalParamTransfers);
    
    /**
     * 获取采集维度类型（基础 或者 高级）
     * @return 规则类型
     * */
    List<String> queryDimensionTypeList();
}

项目中对于GatherHandler的实现有基础维度采集BaseGatherHandler，高级采集器AdvancedGatherHandler

采集处理器上下文​

有了策略后，要将所有的策略放到上下文中，这样就可以根据策略类型来获取对应的实现策略处理了

@Component
public class GatherHandlerContext {

    @Autowired
    private List<GatherHandler> gatherHandlerList;
    
    private Map<String, GatherHandler> gatherHandlerMap = new HashMap<>();
    
    @PostConstruct
    public void init(){
        for (GatherHandler gatherHandler : gatherHandlerList) {
            List<String> dimensionTypeList = gatherHandler.queryDimensionTypeList();
            for (final String dimensionType : dimensionTypeList) {
                gatherHandlerMap.put(dimensionType, gatherHandler);
            }
        }
    }
    
    public GatherHandler getGatherHandler(String dimensionType) {
        return gatherHandlerMap.get(dimensionType);
    }
    
}

付费内容提示

该文档的全部内容仅对「码力全开」项目实战&技术讲解 知识星球用户开放

加入星球，一次获得完整项目资料、全栈技术知识库和长期答疑服务。

100万+字全栈技术知识库深入讲解技术核心、数据库、中间件和分布式等内容
8套热门的实战项目持续更新的企业级项目覆盖高并发、微服务、数据中台 和 AI Agent 等方向
AI 技术知识大模型面试详解覆盖 AI 模型原理、Agent、RAG、MCP、Skills、Harness 等核心知识点
文档 + 视频两种讲解形式既能系统阅读，也能跟随视频理解核心业务

完整项目实战资料

每套项目均包含从 0 到 1 讲解文档核心业务讲解视频

从基础项目到复杂业务场景，项目资料会持续更新。

8 套项目
  • 01Nexus Agent AI 智能体
  • 02Nexus Agent Pro 完全版
  • 03黑马点评Plus
  • 04大麦
  • 05大麦Pro
  • 06大麦AI
  • 07流量切换
  • 08数据中台

加入后还能获得

进入星球后，即可享受上述所有服务，保证不会再有其他隐藏费用。

从学习、面试到项目启动，都可以继续获得支持。

  • 1 对 1 解答项目和技术问题都可以提问
  • 针对性补充没有讲清楚的内容会继续补充
  • 面试与简历指导梳理回答技巧和项目亮点
  • 中间件云环境项目依赖可以直接接入使用
  • 面试后复盘被问住的问题可以继续交流
  • 远程问题解决项目启动问题可协助排查
知识星球二维码

扫码进入知识星球

  1. 打开微信，扫描左侧二维码，加入「码力全开」项目实战&技术讲解 知识星球
  2. 查看星球使用指导，获取完整项目讲解资料索引
解锁全部付费内容
🎁优惠