【已解决】stream load error: current running txns on db 11001 is 200, larger than limit 200, see more in null

Viewed 286

1,请问有没有办法监控当前进行streamload的数量,以及 当前运行的 Stream Load 事务导入任务数量。
2,使用 Flink 一次checkpoint 对应几个 StreamLoad 任务?会产生多少事务? 和数据量有关系吗? 如果有关系,需要在入Doris的聚合模型之前,先在Flink端预聚合一次吗?
3,max_running_txn_num_per_db 参数的值建议设置为多少?

1 Answers
  1. show stream load会记录每次streamload的信息,https://doris.apache.org/zh-CN/docs/dev/sql-manual/sql-reference/Show-Statements/SHOW-STREAM-LOAD?_highlight=show&_highlight=stream
  2. 默认单并发下,一次checkpoint,就是一次streamload任务,一个事务。
  3. 2.0版本默认是1000,可以根据自己的业务侧的导入频率增加