* Update combinators.md (#39) * DOCAPI-7415: RU translation * DOCAPI-7415: fix.
10 KiB
Комбинаторы агрегатных функций
К имени агрегатной функции может быть приписан некоторый суффикс. При этом, работа агрегатной функции некоторым образом модифицируется.
-If
К имени любой агрегатной функции может быть приписан суффикс -If. В этом случае, агрегатная функция принимает ещё один дополнительный аргумент - условие (типа UInt8). Агрегатная функция будет обрабатывать только те строки, для которых условие сработало. Если условие ни разу не сработало - возвращается некоторое значение по умолчанию (обычно - нули, пустые строки).
Примеры: sumIf(column, cond)
, countIf(cond)
, avgIf(x, cond)
, quantilesTimingIf(level1, level2)(x, cond)
, argMinIf(arg, val, cond)
и т. п.
С помощью условных агрегатных функций, вы можете вычислить агрегаты сразу для нескольких условий, не используя подзапросы и JOIN
-ы.
Например, в Яндекс.Метрике, условные агрегатные функции используются для реализации функциональности сравнения сегментов.
-Array
К имени любой агрегатной функции может быть приписан суффикс -Array. В этом случае, агрегатная функция вместо аргументов типов T принимает аргументы типов Array(T) (массивы). Если агрегатная функция принимает несколько аргументов, то это должны быть массивы одинаковых длин. При обработке массивов, агрегатная функция работает, как исходная агрегатная функция по всем элементам массивов.
Пример 1: sumArray(arr)
- просуммировать все элементы всех массивов arr. В данном примере можно было бы написать проще: sum(arraySum(arr))
.
Пример 2: uniqArray(arr)
- посчитать количество уникальных элементов всех массивов arr. Это можно было бы сделать проще: uniq(arrayJoin(arr))
, но не всегда есть возможность добавить arrayJoin в запрос.
Комбинаторы -If и -Array можно сочетать. При этом, должен сначала идти Array, а потом If. Примеры: uniqArrayIf(arr, cond)
, quantilesTimingArrayIf(level1, level2)(arr, cond)
. Из-за такого порядка получается, что аргумент cond не должен быть массивом.
-State
В случае применения этого комбинатора, агрегатная функция возвращает не готовое значение (например, в случае функции uniq — количество уникальных значений), а промежуточное состояние агрегации (например, в случае функции uniq
— хэш-таблицу для расчёта количества уникальных значений), которое имеет тип AggregateFunction(...)
и может использоваться для дальнейшей обработки или может быть сохранено в таблицу для последующей доагрегации.
Для работы с промежуточными состояниями предназначены:
- Движок таблиц AggregatingMergeTree.
- Функция finalizeAggregation.
- Функция runningAccumulate.
- Комбинатор -Merge.
- Комбинатор -MergeState.
-Merge
В случае применения этого комбинатора, агрегатная функция будет принимать в качестве аргумента промежуточное состояние агрегации, доагрегировать (объединять вместе) эти состояния, и возвращать готовое значение.
-MergeState
Выполняет слияние промежуточных состояний агрегации, аналогично комбинатору -Merge, но возвращает не готовое значение, а промежуточное состояние агрегации, аналогично комбинатору -State.
-ForEach
Преобразует агрегатную функцию для таблиц в агрегатную функцию для массивов, которая применяет агрегирование для соответствующих элементов массивов и возвращает массив результатов. Например, sumForEach
для массивов [1, 2]
, [3, 4, 5]
и [6, 7]
даст результат [10, 13, 5]
, сложив соответственные элементы массивов.
-Resample
Позволяет поделить данные на группы, а затем по-отдельности агрегирует данные для этих групп. Группы образуются разбиением значений одного из столбцов на интервалы.
<aggFunction>Resample(start, end, step)(<aggFunction_params>, resampling_key)
Параметры
start
— начальное значение для интервала значенийresampling_key
.stop
— конечное значение для интервала значенийresampling_key
. Интервал не включает значениеstop
([start, stop)
).step
— шаг деления полного интервала на подинтервалы. ФункцияaggFunction
выполняется для каждого из подинтервалов независимо.resampling_key
— столбец, значения которого используются для разделения данных на интервалы.aggFunction_params
— параметрыaggFunction
.
Возвращаемые значения
- Массив результатов
aggFunction
для каждого подинтервала.
Пример
Рассмотрим таблицу people
со следующими данными:
┌─name───┬─age─┬─wage─┐
│ John │ 16 │ 10 │
│ Alice │ 30 │ 15 │
│ Mary │ 35 │ 8 │
│ Evelyn │ 48 │ 11.5 │
│ David │ 62 │ 9.9 │
│ Brian │ 60 │ 16 │
└────────┴─────┴──────┘
Получим имена людей, чей возраст находится в интервалах [30,60)
и [60,75)
. Поскольку мы используем целочисленное представление возраста, то интервалы будут выглядеть как [30, 59]
и [60,74]
.
Чтобы собрать имена в массив, возьмём агрегатную функцию groupArray. Она принимает один аргумент. В нашем случае, это столбец name
. Функция groupArrayResample
должна использовать столбец age
для агрегирования имён по возрасту. Чтобы определить необходимые интервалы, передадим в функцию groupArrayResample
аргументы 30, 75, 30
.
SELECT groupArrayResample(30, 75, 30)(name, age) from people
┌─groupArrayResample(30, 75, 30)(name, age)─────┐
│ [['Alice','Mary','Evelyn'],['David','Brian']] │
└───────────────────────────────────────────────┘
Посмотрим на результаты.
Jonh
не попал в выдачу, поскольку слишком молод. Остальные распределены согласно заданным возрастным интервалам.
Теперь посчитаем общее количество людей и их среднюю заработную плату в заданных возрастных интервалах.
SELECT
countResample(30, 75, 30)(name, age) AS amount,
avgResample(30, 75, 30)(wage, age) AS avg_wage
FROM people
┌─amount─┬─avg_wage──────────────────┐
│ [3,2] │ [11.5,12.949999809265137] │
└────────┴───────────────────────────┘