【用户案例】从 ClickHouse 到 Apache Doris：在网易云音乐日增万亿日志数据场景下的落地

Viewed 46
content

网易云音乐 每天都会产生大量用户行为数据、业务数据及日志数据，这些数据在异常行为跟踪、客诉问题定位、运行状态监控、性能优化等方面扮演守护者的角色。面对每日万亿级别数据的增量，网易云音乐早期的日志库以 ClickHouse 为核心构建，但面临运维成本高、并发查询能力不足、写入性能不稳定、使用费用高昂等问题，在新需求的满足上稍显吃力。

为寻找更优质解决方案，结合当前的业务需求，网易云音乐引入 Apache Doris 作为日志库新方案，替换了 ClickHouse。目前已经稳定运行 3 个季度，规模达到 50 台服务器，2PB 数据，每天新增日志量超过万亿条，峰值写入吞吐达 6GB/s。 本文将介绍从 ClickHouse 到 Apache Doris 的迁移思考及调优实践，并分享网易云音乐如何在运维效率、并发能力、查询响应以及存储性能上实现全方位提升。

欢迎点击阅读全文：从 ClickHouse 到 Apache Doris：在网易云音乐日增万亿日志数据场景下的落地

椰子Echo@SelectDB1008
1 Answers

原文节选

升级收益

网易云音乐使用 Apache Doris 替换 ClickHouse 构建了新的日志平台，已经稳定运行三个季度，规模达到 50 台服务器、2PB 数据量。这次架构升级带来查询响应、并发能力、稳定性和运维效率等多方面可观的收益。

  • 查询响应提升：整体 P99 查询延迟降低了 30%。特别是通过倒排索引加速，Doris 的全文检索 MATCH 查询性能比 LIKE 查询提升了 3-7 倍（在查询约 6TB 数据时，LIKE 查询耗时 7-9 秒，而 MATCH 查询仅需 1-3 秒）。此外，倒排索引的全文检索具备自动的大小写和单复数归一化能力，能够高效检索出更多相关日志。
  • 查询并发提升：ClickHouse 并发查询数超过 200 时就会经常出现 Too many simultaneous queries 错误，而 Apache Doris 能够支撑 500+ 并发查询。Doris 还可以对单次查询的数据量和并发数进行调整，以灵活应对不同场景下的并发要求。
  • 写入稳定性提升：FE / BE 发生单点故障时，都能自动感知和重试恢复，保证服务高可用。
  • 运维成本降低：在坏盘和宕机场景下，Doris 的自恢复能力结合进程自动拉起脚本，降低人工干预的运维成本。扩容或停机维护场景下，Doris 的自动均衡能力很强，扩容后随着 tablet 的自动均衡和老数据的清理，集群会自动达到均衡状态。

此外，网易云音乐在技术能力上也有良好的积累，积极与 Doris 社区同学深入沟通、解决关键性问题，同时也积极向社区提交相关 Issue 和 PR，共同推动 Doris 社区的建设与发展。

椰子Echo@SelectDB1008