Doris 2.1.4版本,be内存持续升高问题

Viewed 152

doris版本信息:doris 版本 2.1.4,Version: doris-2.1.4-rc03-e93678fd1e

以下信息采集自某台内存即将达到阈值的be节点,如果有需要补充的信息,请社区大佬提出,会尽快补充~

  1. Memtracker页面截图
    image.png

  2. be内存监控看板
    image.png

3 Answers

be节点上是否有混部的情况

2.1.4 版本,参考这个文档 https://doris.apache.org/zh-CN/docs/admin-manual/memory-management/memory-tracker/,看下 http://beip:8040/mem_tracker?type=global 中 SegmentCache 的值是多少,如果值较大,参考下面的文档关闭 SegmentCache

3.5.2. Label=SegmentCache 内存使用多
MemTracker Label=SegmentCache[size], Parent Label=DetailsTrackerSet, Used=1.64 MB(1720543 B), Peak=18.78 MB(19691997 B)

缓存已打开的 Segment 的内存大小,SegmentCache 内存使用多时。

  • 执行 curl -X POST http:/BeIP:8040/api/update_config?disable_segment_cache=true 对正在运行的 BE 清空 SegmentCache 并禁用,等待最长 10 分钟后生效,但这是临时方法,BE 重启后 SegmentCache 将重新生效。
  • 若经过上一步操作后确认要减少 SegmentCache 的内存使用,参考 BE 配置项,在 conf/be.conf 中调整 segment_cache_capacitysegment_cache_memory_percentage 减小 SegmentCache 的容量,或调小 tablet_rowset_stale_sweep_time_sec 减小 DataPageCache 缓存有效时长,或者在 conf/be.conf 中增加 disable_segment_cache=true 禁用 SegmentCache 并重启 BE 进程。

内存升高以后,辛苦执行curl http://{be_host}:{be_web_server_port}/api/running_pipeline_tasks/60 拿一下接口返回数据我这边分析下