logo AI编程社区

AI编程社区
商务合作咨询人工智能入门机器学习入门深度学习入门机器学习基础知识
去全站搜索看看?

登录社区云

登录社区云,与社区用户共同成长

AI编程社区

邀请您加入社区

欢迎加入社区

欢迎加入社区

mr
  • hive on spark/mr 启动慢/报错:NoClassDefFoundError: org/apache/tez/dag/api/TezConfiguration

    本文介绍了禁用Hive中Tez功能的完整方案。通过在hive-site.xml配置文件中设置hive.server2.tez.sessions.per.default.queue=0和hive.server2.tez.initialize.default.sessions=false等参数来禁用Tez会话池,同时建议移除Hive lib目录下的所有Tez相关JAR包以防止类加载。文章还提供了重启H

    Empty city °姝霞
    2026-02-03 22:42:52
     255 
     4 
    #hive#spark#mr +2
  • 基于 Spring Batch 的电信 MR 数据亿级记录清洗实战

    本文介绍了基于SpringCloudAlibaba微服务架构的电信MR数据清洗系统设计。针对海量测量报告数据处理的三大痛点(效率低、资源竞争、容错差),系统采用XXL-JOB实现分布式调度,结合SpringBatch的分片读写机制,通过多线程并行处理将10小时任务缩短至1小时内。关键技术包括:按cell_id分片的ShardingItemReader、支持GeoHash转换的定制Processor

    x179326051
    2026-06-14 22:13:53
     478 
     15 
    #spring#batch#mr
没有更多了
回到
顶部
logo 提供社区服务与技术支持
logo 提供社区服务与技术支持
©1999-2023北京创新乐知网络技术有限公司 京ICP备19004658号