* enbaskakova-DOCSUP-652 (#101)
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
* Update docs/en/sql_reference/aggregate_functions/combinators.md
Co-Authored-By: BayoNet <da-daos@yandex.ru>
* Update docs/en/sql_reference/aggregate_functions/combinators.md
Co-Authored-By: BayoNet <da-daos@yandex.ru>
* Update docs/en/sql_reference/aggregate_functions/combinators.md
Co-Authored-By: BayoNet <da-daos@yandex.ru>
* Update docs/en/sql_reference/aggregate_functions/combinators.md
Co-Authored-By: BayoNet <da-daos@yandex.ru>
* Update docs/en/sql_reference/aggregate_functions/combinators.md
Co-Authored-By: BayoNet <da-daos@yandex.ru>
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
* "docs(orNull&orDefault): Functions 'orNull&orDefault' have been edited"
Co-authored-by: elenbaskakova <elenbaskakova@yandex-team.ru>
Co-authored-by: BayoNet <da-daos@yandex.ru>
* Revert "enbaskakova-DOCSUP-652 (#101)" (#107)
This reverts commit 639fee7610
.
* CLICKHOUSEDOCS-624: Fixed links. Was 60, became 13.
* CLICKHOUSEDOCS-624: Finished fix links in Enlish version.
* CLICKHOUSEDOCS-624: Fixed RU links
Co-authored-by: elenaspb2019 <47083263+elenaspb2019@users.noreply.github.com>
Co-authored-by: elenbaskakova <elenbaskakova@yandex-team.ru>
Co-authored-by: Sergei Shtykov <bayonet@yandex-team.ru>
7.7 KiB
GraphiteMergeTree
Движок предназначен для прореживания и агрегирования/усреднения (rollup) данных Graphite. Он может быть интересен разработчикам, которые хотят использовать ClickHouse как хранилище данных для Graphite.
Если rollup не требуется, то для хранения данных Graphite можно использовать любой движок таблиц ClickHouse, в противном случае используйте GraphiteMergeTree
. Движок уменьшает объём хранения и повышает эффективность запросов от Graphite.
Движок наследует свойства от MergeTree.
Создание таблицы
CREATE TABLE [IF NOT EXISTS] [db.]table_name [ON CLUSTER cluster]
(
Path String,
Time DateTime,
Value <Numeric_type>,
Version <Numeric_type>
...
) ENGINE = GraphiteMergeTree(config_section)
[PARTITION BY expr]
[ORDER BY expr]
[SAMPLE BY expr]
[SETTINGS name=value, ...]
Смотрите описание запроса CREATE TABLE.
В таблице должны быть столбцы для следующих данных:
-
Название метрики (сенсора Graphite). Тип данных:
String
. -
Время измерения метрики. Тип данных
DateTime
. -
Значение метрики. Тип данных: любой числовой.
-
Версия метрики. Тип данных: любой числовой.
ClickHouse сохраняет строки с последней версией или последнюю записанную строку, если версии совпадают. Другие строки удаляются при слиянии кусков данных.
Имена этих столбцов должны быть заданы в конфигурации rollup.
Параметры GraphiteMergeTree
config_section
— имя раздела в конфигурационном файле, в котором находятся правила rollup.
Секции запроса
При создании таблицы GraphiteMergeTree
используются те же секции запроса, что и при создании таблицы MergeTree
.
Устаревший способ создания таблицы
!!! attention "Attention" Не используйте этот способ в новых проектах и по возможности переведите старые проекты на способ описанный выше.
CREATE TABLE [IF NOT EXISTS] [db.]table_name [ON CLUSTER cluster]
(
EventDate Date,
Path String,
Time DateTime,
Value <Numeric_type>,
Version <Numeric_type>
...
) ENGINE [=] GraphiteMergeTree(date-column [, sampling_expression], (primary, key), index_granularity, config_section)
Все параметры, кроме config_section
имеют то же значение, что в MergeTree
.
config_section
— имя раздела в конфигурационном файле, в котором находятся правила rollup.
Конфигурация Rollup
Настройки прореживания данных задаются параметром graphite_rollup в конфигурации сервера . Имя параметра может быть любым. Можно создать несколько конфигураций и использовать их для разных таблиц.
Структура конфигурации rollup:
required-columns
patterns
Требуемые столбцы (required-columns)
path_column_name
— столбец, в котором хранится название метрики (сенсор Graphite). Значение по умолчанию:Path
.time_column_name
— столбец, в котором хранится время измерения метрики. Значение по умолчанию:Time
.value_column_name
— столбец со значением метрики в момент времени, установленный вtime_column_name
. Значение по умолчанию:Value
.version_column_name
— столбец, в котором хранится версия метрики. Значение по умолчанию:Timestamp
.
Правила (patterns)
Структура раздела patterns
:
pattern
regexp
function
pattern
regexp
age + precision
...
pattern
regexp
function
age + precision
...
pattern
...
default
function
age + precision
...
!!! warning "Внимание" Правила должны быть строго упорядочены:
1. Правила без `function` или `retention`.
1. Правила одновремено содержащие `function` и `retention`.
1. Правило `default`.
При обработке строки ClickHouse проверяет правила в разделе pattern
. Каждый pattern
(включая default
) может содержать параметр агрегации function
, параметр retention
, или оба параметра одновременно. Если имя метрики соответствует шаблону regexp
, то применяются правила pattern
, в противном случае правило default
.
Поля для разделов pattern
и default
:
regexp
– шаблон имени метрики.age
– минимальный возраст данных в секундах.precision
– точность определения возраста данных в секундах. Должен быть делителем для 86400 (количество секунд в сутках).function
– имя агрегирующей функции, которую следует применить к данным, чей возраст оказался в интервале[age, age + precision]
.
Пример конфигурации
<graphite_rollup>
<version_column_name>Version</version_column_name>
<pattern>
<regexp>click_cost</regexp>
<function>any</function>
<retention>
<age>0</age>
<precision>5</precision>
</retention>
<retention>
<age>86400</age>
<precision>60</precision>
</retention>
</pattern>
<default>
<function>max</function>
<retention>
<age>0</age>
<precision>60</precision>
</retention>
<retention>
<age>3600</age>
<precision>300</precision>
</retention>
<retention>
<age>86400</age>
<precision>3600</precision>
</retention>
</default>
</graphite_rollup>