#pragma once #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include namespace DB { /// uniq struct AggregateFunctionUniqUniquesHashSetData { typedef UniquesHashSet> Set; Set set; static String getName() { return "uniq"; } }; /// Для функции, принимающей несколько аргументов. Такая функция сама заранее их хэширует, поэтому здесь используется TrivialHash. struct AggregateFunctionUniqUniquesHashSetDataForVariadic { typedef UniquesHashSet Set; Set set; static String getName() { return "uniq"; } }; /// uniqHLL12 template struct AggregateFunctionUniqHLL12Data { typedef HyperLogLogWithSmallSetOptimization Set; Set set; static String getName() { return "uniqHLL12"; } }; template <> struct AggregateFunctionUniqHLL12Data { typedef HyperLogLogWithSmallSetOptimization Set; Set set; static String getName() { return "uniqHLL12"; } }; struct AggregateFunctionUniqHLL12DataForVariadic { typedef HyperLogLogWithSmallSetOptimization Set; Set set; static String getName() { return "uniqHLL12"; } }; /// uniqExact template struct AggregateFunctionUniqExactData { typedef T Key; /// При создании, хэш-таблица должна быть небольшой. typedef HashSet< Key, HashCRC32, HashTableGrower<4>, HashTableAllocatorWithStackMemory > Set; Set set; static String getName() { return "uniqExact"; } }; /// Для строк будем класть в хэш-таблицу значения SipHash-а (128 бит). template <> struct AggregateFunctionUniqExactData { typedef UInt128 Key; /// При создании, хэш-таблица должна быть небольшой. typedef HashSet< Key, UInt128TrivialHash, HashTableGrower<3>, HashTableAllocatorWithStackMemory > Set; Set set; static String getName() { return "uniqExact"; } }; template struct BaseUniqCombinedData { using Key = UInt32; using Set = CombinedCardinalityEstimator< Key, HashSet >, 16, 14, 17, TrivialHash, UInt32, HyperLogLogBiasEstimator, mode >; Set set; }; template struct BaseUniqCombinedData { using Key = UInt64; using Set = CombinedCardinalityEstimator< Key, HashSet >, 16, 14, 17, TrivialHash, UInt64, HyperLogLogBiasEstimator, mode >; Set set; }; /// Агрегатные функции uniqCombinedRaw, uniqCombinedLinearCounting, и uniqCombinedBiasCorrected /// предназначены для разработки новых версий функции uniqCombined. /// Пользователи должны использовать только uniqCombined. template struct AggregateFunctionUniqCombinedRawData : public BaseUniqCombinedData { static String getName() { return "uniqCombinedRaw"; } }; template struct AggregateFunctionUniqCombinedLinearCountingData : public BaseUniqCombinedData { static String getName() { return "uniqCombinedLinearCounting"; } }; template struct AggregateFunctionUniqCombinedBiasCorrectedData : public BaseUniqCombinedData { static String getName() { return "uniqCombinedBiasCorrected"; } }; template struct AggregateFunctionUniqCombinedData : public BaseUniqCombinedData { static String getName() { return "uniqCombined"; } }; namespace detail { /** Хэш-функция для uniq. */ template struct AggregateFunctionUniqTraits { static UInt64 hash(T x) { return x; } }; template <> struct AggregateFunctionUniqTraits { static UInt64 hash(Float32 x) { UInt64 res = 0; memcpy(reinterpret_cast(&res), reinterpret_cast(&x), sizeof(x)); return res; } }; template <> struct AggregateFunctionUniqTraits { static UInt64 hash(Float64 x) { UInt64 res = 0; memcpy(reinterpret_cast(&res), reinterpret_cast(&x), sizeof(x)); return res; } }; /** Хэш-функция для uniqCombined. */ template struct AggregateFunctionUniqCombinedTraits { static UInt32 hash(T x) { return static_cast(intHash64(x)); } }; template <> struct AggregateFunctionUniqCombinedTraits { static UInt32 hash(Float32 x) { UInt64 res = 0; memcpy(reinterpret_cast(&res), reinterpret_cast(&x), sizeof(x)); return static_cast(intHash64(res)); } }; template <> struct AggregateFunctionUniqCombinedTraits { static UInt32 hash(Float64 x) { UInt64 res = 0; memcpy(reinterpret_cast(&res), reinterpret_cast(&x), sizeof(x)); return static_cast(intHash64(res)); } }; /** Структура для делегации работы по добавлению одного элемента в агрегатные функции uniq. * Используется для частичной специализации для добавления строк. */ template struct OneAdder; template struct OneAdder::value || std::is_same >::value>::type> { template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { const auto & value = static_cast &>(column).getData()[row_num]; data.set.insert(AggregateFunctionUniqTraits::hash(value)); } template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { StringRef value = column.getDataAt(row_num); data.set.insert(CityHash64(value.data, value.size)); } }; template struct OneAdder >::value || std::is_same >::value || std::is_same >::value || std::is_same >::value>::type> { template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { const auto & value = static_cast &>(column).getData()[row_num]; data.set.insert(AggregateFunctionUniqCombinedTraits::hash(value)); } template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { StringRef value = column.getDataAt(row_num); data.set.insert(CityHash64(value.data, value.size)); } }; template struct OneAdder >::value>::type> { template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { data.set.insert(static_cast &>(column).getData()[row_num]); } template static void addImpl(Data & data, const IColumn & column, size_t row_num, typename std::enable_if::value>::type * = nullptr) { StringRef value = column.getDataAt(row_num); UInt128 key; SipHash hash; hash.update(value.data, value.size); hash.get128(key.first, key.second); data.set.insert(key); } }; } /// Приближённо или точно вычисляет количество различных значений. template class AggregateFunctionUniq final : public IUnaryAggregateFunction > { public: String getName() const override { return Data::getName(); } DataTypePtr getReturnType() const override { return new DataTypeUInt64; } void setArgument(const DataTypePtr & argument) { } void addImpl(AggregateDataPtr place, const IColumn & column, size_t row_num) const { detail::OneAdder::addImpl(this->data(place), column, row_num); } void merge(AggregateDataPtr place, ConstAggregateDataPtr rhs) const override { this->data(place).set.merge(this->data(rhs).set); } void serialize(ConstAggregateDataPtr place, WriteBuffer & buf) const override { this->data(place).set.write(buf); } void deserializeMerge(AggregateDataPtr place, ReadBuffer & buf) const override { this->data(place).set.readAndMerge(buf); } void insertResultInto(ConstAggregateDataPtr place, IColumn & to) const override { static_cast(to).getData().push_back(this->data(place).set.size()); } }; /** Для нескольких аргументов. Для вычисления, хэширует их. * Можно передать несколько аргументов как есть; также можно передать один аргумент - кортеж. * Но (для возможности эффективной реализации), нельзя передать несколько аргументов, среди которых есть кортежи. */ template class AggregateFunctionUniqVariadic final : public IAggregateFunctionHelper { private: static constexpr bool is_exact = std::is_same>::value; size_t num_args = 0; public: String getName() const override { return Data::getName(); } DataTypePtr getReturnType() const override { return new DataTypeUInt64; } void setArguments(const DataTypes & arguments) override { if (argument_is_tuple) num_args = typeid_cast(*arguments[0]).getElements().size(); else num_args = arguments.size(); } void add(AggregateDataPtr place, const IColumn ** columns, size_t row_num) const override { this->data(place).set.insert(UniqVariadicHash::apply(num_args, columns, row_num)); } void merge(AggregateDataPtr place, ConstAggregateDataPtr rhs) const override { this->data(place).set.merge(this->data(rhs).set); } void serialize(ConstAggregateDataPtr place, WriteBuffer & buf) const override { this->data(place).set.write(buf); } void deserializeMerge(AggregateDataPtr place, ReadBuffer & buf) const override { this->data(place).set.readAndMerge(buf); } void insertResultInto(ConstAggregateDataPtr place, IColumn & to) const override { static_cast(to).getData().push_back(this->data(place).set.size()); } static void addFree(const IAggregateFunction * that, AggregateDataPtr place, const IColumn ** columns, size_t row_num) { return static_cast(*that).add(place, columns, row_num); } IAggregateFunction::AddFunc getAddressOfAddFunction() const override final { return &addFree; } }; }