Elasticsearch以其優秀的分布式架構與全文搜索引擎等特點在機器數據的存儲、分析領域廣為使用，但隨著數據量的增長，其聚合分析性能已無法滿足業務需求。而ClickHouse作為一個高性能的OLAP列式數據庫管理系統有望解決這一痛點。

本文是對ClickHouse與Elasticsearch聚合性能的簡單對比測試。主要關注查詢語句的響應時間，暫不考慮資源占用情況。

使用ClickHouse官方提供的測試數據集，共67G，約6億行。

其中，ClickHouse使用LO_ORDERDATE字段作為分區鍵，使用LO_ORDERDATE, LO_ORDERKEY作為排序鍵。

某字段出現次數TOP 10

# ClickHouse
SELECT LO_SHIPMODE,COUNT() FROM lineorder GROUP BY LO_SHIPMODE ORDER BY COUNT() DESC LIMIT 10

# Elasticsearch
GET lineorder/_search
{
  "aggs": {
    "1": {
      "terms": {
        "field": "LO_SHIPMODE.keyword",
        "order": {
          "_count": "desc"
        },
        "size": 10
      }
    }
  },
  "size": 0
}

某字段按年進行計數

# ClickHouse
SELECT toYear(LO_ORDERDATE),COUNT() FROM lineorder GROUP BY toYear(LO_ORDERDATE) FORMAT PrettyCompactMonoBlock

# Elasticsearch
GET lineorder/_search
{
  "aggs": {
    "2": {
      "date_histogram": {
        "field": "LO_ORDERDATE",
        "calendar_interval":"1y",
        "format":"yyyy-MM-dd"
      }
    }
  },
  "size": 0
}

多個字段按年進行統計

# ClickHouse
SELECT LO_ORDERDATE,LO_ORDERKEY,LO_SHIPMODE,LO_ORDERPRIORITY,LO_COMMITDATE FROM lineorder WHERE LO_ORDERDATE >= '1992-01-01' AND LO_ORDERDATE < '1993-01-01' ORDER BY LO_ORDERDATE  LIMIT 500

# Elasticsearch
GET lineorder/_search
{
  "size": 500,
  "sort": [
    {
      "timestamp": {
        "order": "desc",
        "unmapped_type": "boolean"
      }
    }
  ],
  "query": {
    "bool": {
      "must": [],
      "filter": [
        {
          "match_all": {}
        },
        {
          "match_all": {}
        },
        {
          "range": {
            "LO_ORDERDATE": {
              "gte": "1992-01-01",
              "lte": "1993-01-01",
              "format": "strict_date_optional_time"
            }
          }
        }
      ],
      "should": [],
      "must_not": []
    }
  }
}

基于時間的多字段聚合

# ClickHouse
SELECT toYear(LO_ORDERDATE),LO_SHIPMODE,COUNT() FROM lineorder GROUP BY toYear(LO_ORDERDATE),LO_SHIPMODE ORDER BY toYear(LO_ORDERDATE) FORMAT PrettyCompactMonoBlock

# Elasticsearch
GET lineorder/_search
{
  "aggs": {
    "3": {
      "terms": {
        "field": "LO_SHIPMODE.keyword",
        "order": {
          "_count": "desc"
        },
        "size": 10
      },
      "aggs": {
        "2": {
          "date_histogram": {
            "field": "LO_ORDERDATE",
            "calendar_interval": "1y",
            "time_zone": "Asia/Shanghai",
            "min_doc_count": 1
          }
        }
      }
    }
  },
  "size": 0
}

基于時間的多字段聚合

# ClickHouse
SELECT toYear(LO_ORDERDATE),LO_SHIPMODE,COUNT() FROM lineorder GROUP BY toYear(LO_ORDERDATE),LO_SHIPMODE ORDER BY toYear(LO_ORDERDATE) FORMAT PrettyCompactMonoBlock

# Elasticsearch
GET lineorder/_search
{
  "aggs": {
    "3": {
      "terms": {
        "field": "LO_SHIPMODE.keyword",
        "order": {
          "_count": "desc"
        },
        "size": 10
      },
      "aggs": {
        "2": {
          "date_histogram": {
            "field": "LO_ORDERDATE",
            "calendar_interval": "1y",
            "time_zone": "Asia/Shanghai",
            "min_doc_count": 1
          }
        }
      }
    }
  },
  "size": 0
}

聚合嵌套（非時間字段）

# ClickHouse
SELECT LO_SHIPMODE,COUNT(LO_SHIPMODE),LO_ORDERPRIORITY,COUNT(LO_ORDERPRIORITY) FROM lineorder GROUP BY LO_SHIPMODE,LO_ORDERPRIORITY ORDER BY COUNT(LO_SHIPMODE),COUNT(LO_ORDERPRIORITY) LIMIT 5 BY LO_SHIPMODE,LO_ORDERPRIORITY

# Elasticsearch
GET lineorder/_search
{
  "aggs": {
    "2": {
      "terms": {
        "field": "LO_SHIPMODE.keyword",
        "order": {
          "_count": "desc"
        },
        "size": 5
      },
      "aggs": {
        "3": {
          "terms": {
            "field": "LO_ORDERPRIORITY.keyword",
            "order": {
              "_count": "desc"
            },
            "size": 5
          }
        }
      }
    }
  },
  "size": 0
}

相同數據量下，ClickHouse的聚合性能都要優于Elasticsearch，且如果基于排序鍵進行聚合，性能更好，是ES的數倍。
此外，ClickHouse的SummaryMergeTree、AggregatingMergeTree表引擎支持后臺自動聚合數據，所以在某些場景下其聚合分析性能會更優。