LLuminary
文章项目标签关于
全部标签

#Doris

10 篇 · 3 站
出现在硬件行情湖仓数据平台6Olist 电商湖仓3数据平台工程1
0102
2026年3月Olist 电商湖仓一体项目复盘HDFS、Hive、Spark、Kafka、Doris 全链路湖仓复盘,含质量门禁与图分析。项目复盘2025年12月一个环境变量让 Doris BE 假死,报错全在下游BE 启动脚本对代理环境变量做"存在即拒绝"的自检,于是进程起不来;FE 心跳连不上就显示 Alive: false;紧接着改副本数会报"replication num should be less than the number of available backends"。三个报错分属三层,起点是一个 `http_proxy`。工程笔记2025年12月Spark 写出的 CSV,Doris 并不认把湖仓结果导出成 CSV 再 Stream Load 进 Doris 这一段,故障都不在计算里:多分区输出会写多次表头,分隔符模式不认 CSV 的引号转义,case class 带出的列名是 camelCase 而表结构是 snake_case,`max_filter_ratio` 默认是 0 所以一行坏数据整批不加载。工程笔记
2025年11月Hive、Spark 与 Doris 在数仓链路里的分工基于 BigData-Notes 的学习整理和本地项目文档,梳理 Hive Metastore、Spark SQL、Parquet、Doris 服务层的定位,以及为什么不要把所有表都同步到 Doris。OLAP
Luminary

真实项目、工程复盘与长期技术笔记。

LUO / FIELD NOTES
友链RSSGitHub© 2026 Luo