#pragma once #include #include #include #include #include #include #include #include #include #include #include #include namespace DB { struct AggregateDescription { AggregateFunctionPtr function; ColumnNumbers arguments; Names argument_names; /// Используются, если arguments не заданы. String column_name; /// Какое имя использовать для столбца со значениями агрегатной функции }; typedef std::vector AggregateDescriptions; /** Разные структуры данных, которые могут использоваться для агрегации * Для эффективности сами данные для агрегации кладутся в пул. * Владение данными (состояний агрегатных функций) и пулом * захватывается позднее - в функции ConvertToBlock, объектом ColumnAggregateFunction. */ typedef std::map AggregatedData; typedef AggregateDataPtr AggregatedDataWithoutKey; typedef HashMap AggregatedDataWithUInt64Key; typedef HashMap AggregatedDataWithStringKey; typedef HashMap, UInt128Hash, UInt128ZeroTraits> AggregatedDataHashed; struct AggregatedDataVariants { /// Наиболее общий вариант. Самый медленный. На данный момент, не используется. AggregatedData generic; /// Специализация для случая, когда ключи отсутствуют. AggregatedDataWithoutKey without_key; /// Специализация для случая, когда есть один числовой ключ (не с плавающей запятой). AggregatedDataWithUInt64Key key64; /// Специализация для случая, когда есть один строковый ключ. AggregatedDataWithStringKey key_string; Arena string_pool; /** Агрегирует по 128 битному хэшу от ключа. * Если все ключи фиксированной длины, влезающие целиком в 128 бит, то укладывает их без изменений в 128 бит. * Иначе - вычисляет SipHash от набора из всех ключей. * (При этом, строки, содержащие нули посередине, могут склеиться.) */ AggregatedDataHashed hashed; enum Type { EMPTY = 0, GENERIC = 1, WITHOUT_KEY = 2, KEY_64 = 3, KEY_STRING = 4, HASHED = 5, }; Type type; AggregatedDataVariants() : type(EMPTY) {} bool empty() const { return type == EMPTY; } size_t size() const { switch (type) { case EMPTY: return 0; case GENERIC: return generic.size(); case WITHOUT_KEY: return 1; case KEY_64: return key64.size(); case KEY_STRING: return key_string.size(); case HASHED: return hashed.size(); default: throw Exception("Unknown aggregated data variant.", ErrorCodes::UNKNOWN_AGGREGATED_DATA_VARIANT); } } }; typedef SharedPtr AggregatedDataVariantsPtr; typedef std::vector ManyAggregatedDataVariants; /** Агрегирует источник блоков. */ class Aggregator { public: Aggregator(const ColumnNumbers & keys_, AggregateDescriptions & aggregates_, size_t max_rows_to_group_by_ = 0, Limits::OverflowMode group_by_overflow_mode_ = Limits::THROW) : keys(keys_), aggregates(aggregates_), keys_size(keys.size()), aggregates_size(aggregates.size()), initialized(false), max_rows_to_group_by(max_rows_to_group_by_), group_by_overflow_mode(group_by_overflow_mode_), log(&Logger::get("Aggregator")) { } Aggregator(const Names & key_names_, AggregateDescriptions & aggregates_, size_t max_rows_to_group_by_ = 0, Limits::OverflowMode group_by_overflow_mode_ = Limits::THROW) : key_names(key_names_), aggregates(aggregates_), keys_size(key_names.size()), aggregates_size(aggregates.size()), initialized(false), max_rows_to_group_by(max_rows_to_group_by_), group_by_overflow_mode(group_by_overflow_mode_), log(&Logger::get("Aggregator")) { } /// Агрегировать источник. Получить результат в виде одной из структур данных. void execute(BlockInputStreamPtr stream, AggregatedDataVariants & result); /// Получить пример блока, описывающего результат. Следует вызывать только после execute. Block getSampleBlock() { return sample; } /// Преобразовать структуру данных агрегации в блок. Block convertToBlock(AggregatedDataVariants & data_variants); /// Объединить несколько структур данных агрегации в одну. (В первый элемент массива.) Все варианты агрегации должны быть одинаковыми! AggregatedDataVariantsPtr merge(ManyAggregatedDataVariants & data_variants); /** Объединить несколько агрегированных блоков в одну структуру данных. * (Доагрегировать несколько блоков, которые представляют собой результат независимых агрегаций.) */ void merge(BlockInputStreamPtr stream, AggregatedDataVariants & result); private: ColumnNumbers keys; Names key_names; AggregateDescriptions aggregates; size_t keys_size; size_t aggregates_size; /// Для инициализации от первого блока при конкуррентном использовании. bool initialized; Poco::FastMutex mutex; size_t max_rows_to_group_by; Limits::OverflowMode group_by_overflow_mode; Block sample; Logger * log; /** Если заданы только имена столбцов (key_names, а также aggregates[i].column_name), то вычислить номера столбцов. * Сформировать блок - пример результата. */ void initialize(Block & block); /** Выбрать способ агрегации на основе количества и типов ключей. */ AggregatedDataVariants::Type chooseAggregationMethod(const ConstColumnPlainPtrs & key_columns, bool & keys_fit_128_bits, Sizes & key_sizes); }; }