2011-09-19 01:42:16 +00:00
|
|
|
|
#pragma once
|
|
|
|
|
|
2013-02-08 19:34:44 +00:00
|
|
|
|
#include <DB/Common/Arena.h>
|
|
|
|
|
|
2011-09-19 01:42:16 +00:00
|
|
|
|
#include <DB/AggregateFunctions/IAggregateFunction.h>
|
|
|
|
|
|
2014-06-05 23:52:28 +00:00
|
|
|
|
#include <DB/Columns/IColumn.h>
|
2011-09-19 01:42:16 +00:00
|
|
|
|
|
2014-05-22 14:09:10 +00:00
|
|
|
|
#include <DB/Core/Field.h>
|
|
|
|
|
|
|
|
|
|
#include <DB/IO/ReadBufferFromString.h>
|
2015-10-12 07:05:54 +00:00
|
|
|
|
#include <DB/IO/WriteBuffer.h>
|
|
|
|
|
#include <DB/IO/WriteHelpers.h>
|
|
|
|
|
|
2011-09-19 01:42:16 +00:00
|
|
|
|
|
|
|
|
|
namespace DB
|
|
|
|
|
{
|
|
|
|
|
|
2013-02-08 23:41:05 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
/** Столбец состояний агрегатных функций.
|
|
|
|
|
* Представлен в виде массива указателей на состояния агрегатных функций (data).
|
|
|
|
|
* Сами состояния хранятся в одном из пулов (arenas).
|
|
|
|
|
*
|
|
|
|
|
* Может быть в двух вариантах:
|
|
|
|
|
*
|
|
|
|
|
* 1. Владеть своими значениями - то есть, отвечать за их уничтожение.
|
2015-01-02 03:16:28 +00:00
|
|
|
|
* Столбец состоит из значений, "отданных ему на попечение" после выполнения агрегации (см. Aggregator, функция convertToBlocks),
|
2014-06-08 22:17:44 +00:00
|
|
|
|
* или из значений, созданных им самим (см. метод insert).
|
|
|
|
|
* В этом случае, src будет равно nullptr, и столбец будет сам уничтожать (вызывать IAggregateFunction::destroy)
|
|
|
|
|
* состояния агрегатных функций в деструкторе.
|
2014-06-05 20:34:13 +00:00
|
|
|
|
*
|
2014-06-08 22:17:44 +00:00
|
|
|
|
* 2. Не владеть своими значениями, а использовать значения, взятые из другого столбца ColumnAggregateFunction.
|
|
|
|
|
* Например, это столбец, полученный перестановкой/фильтрацией или другими преобразованиями из другого столбца.
|
|
|
|
|
* В этом случае, в src будет shared ptr-ом на столбец-источник. Уничтожением значений будет заниматься этот столбец-источник.
|
|
|
|
|
*
|
|
|
|
|
* Это решение несколько ограничено:
|
|
|
|
|
* - не поддерживается вариант, в котором столбец содержит часть "своих" и часть "чужих" значений;
|
|
|
|
|
* - не поддерживается вариант наличия нескольких столбцов-источников, что может понадобиться для более оптимального слияния двух столбцов.
|
|
|
|
|
*
|
|
|
|
|
* Эти ограничения можно снять, если добавить массив флагов или даже refcount-ов,
|
|
|
|
|
* определяющий, какие отдельные значения надо уничтожать, а какие - нет.
|
|
|
|
|
* Ясно, что этот метод имел бы существенно ненулевую цену.
|
2014-06-05 20:34:13 +00:00
|
|
|
|
*/
|
2014-06-08 22:17:44 +00:00
|
|
|
|
class ColumnAggregateFunction final : public IColumn
|
2014-06-05 20:34:13 +00:00
|
|
|
|
{
|
|
|
|
|
public:
|
2014-06-08 22:17:44 +00:00
|
|
|
|
typedef PODArray<AggregateDataPtr> Container_t;
|
2014-06-05 20:34:13 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
private:
|
|
|
|
|
Arenas arenas; /// Пулы, в которых выделены состояния агрегатных функций.
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
struct Holder
|
2014-06-05 20:34:13 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
typedef SharedPtr<Holder> Ptr;
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
AggregateFunctionPtr func; /// Используется для уничтожения состояний и для финализации значений.
|
|
|
|
|
const Ptr src; /// Источник. Используется, если данный столбец создан из другого и использует все или часть его значений.
|
|
|
|
|
Container_t data; /// Массив указателей на состояния агрегатных функций, расположенных в пулах.
|
2014-06-05 20:34:13 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
Holder(const AggregateFunctionPtr & func_) : func(func_) {}
|
|
|
|
|
Holder(const Ptr & src_) : func(src_->func), src(src_) {}
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
~Holder()
|
|
|
|
|
{
|
|
|
|
|
IAggregateFunction * function = func;
|
2014-06-05 20:34:13 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
if (!function->hasTrivialDestructor() && src.isNull())
|
|
|
|
|
for (auto val : data)
|
|
|
|
|
function->destroy(val);
|
|
|
|
|
}
|
|
|
|
|
};
|
2013-02-08 19:34:44 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
Holder::Ptr holder; /// NOTE Вместо этого можно было бы унаследовать IColumn от enable_shared_from_this.
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
/// Создать столбец на основе другого.
|
|
|
|
|
ColumnAggregateFunction(const ColumnAggregateFunction & src)
|
|
|
|
|
: arenas(src.arenas), holder(new Holder(src.holder))
|
|
|
|
|
{
|
|
|
|
|
}
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
|
|
|
|
public:
|
2014-06-08 22:17:44 +00:00
|
|
|
|
ColumnAggregateFunction(const AggregateFunctionPtr & func_)
|
|
|
|
|
: holder(new Holder(func_))
|
2014-06-06 19:35:41 +00:00
|
|
|
|
{
|
|
|
|
|
}
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
ColumnAggregateFunction(const AggregateFunctionPtr & func_, const Arenas & arenas_)
|
|
|
|
|
: arenas(arenas_), holder(new Holder(func_))
|
2013-02-08 23:41:05 +00:00
|
|
|
|
{
|
|
|
|
|
}
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
void set(const AggregateFunctionPtr & func_)
|
2013-02-08 19:34:44 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
holder->func = func_;
|
2013-02-08 20:34:30 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
AggregateFunctionPtr getAggregateFunction() { return holder->func; }
|
|
|
|
|
AggregateFunctionPtr getAggregateFunction() const { return holder->func; }
|
2014-02-27 12:49:21 +00:00
|
|
|
|
|
2013-02-08 20:34:30 +00:00
|
|
|
|
/// Захватить владение ареной.
|
2013-02-08 23:41:05 +00:00
|
|
|
|
void addArena(ArenaPtr arena_)
|
2013-02-08 20:34:30 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
arenas.push_back(arena_);
|
2013-02-08 19:34:44 +00:00
|
|
|
|
}
|
2013-02-08 23:41:05 +00:00
|
|
|
|
|
2015-09-14 21:09:33 +00:00
|
|
|
|
ColumnPtr convertToValues() const
|
2014-02-27 12:49:21 +00:00
|
|
|
|
{
|
2015-09-14 21:09:33 +00:00
|
|
|
|
const IAggregateFunction * function = holder->func;
|
2014-02-27 12:49:21 +00:00
|
|
|
|
ColumnPtr res = function->getReturnType()->createColumn();
|
|
|
|
|
IColumn & column = *res;
|
2014-06-08 22:17:44 +00:00
|
|
|
|
res->reserve(getData().size());
|
2014-02-27 12:49:21 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
for (auto val : getData())
|
|
|
|
|
function->insertResultInto(val, column);
|
2014-02-27 12:49:21 +00:00
|
|
|
|
|
|
|
|
|
return res;
|
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
std::string getName() const override { return "ColumnAggregateFunction"; }
|
2014-06-05 20:34:13 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
size_t sizeOfField() const override { return sizeof(getData()[0]); }
|
2014-06-05 19:52:13 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
size_t size() const override
|
2014-06-05 23:52:28 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return getData().size();
|
2013-02-03 23:11:21 +00:00
|
|
|
|
}
|
2011-09-19 01:42:16 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
ColumnPtr cloneEmpty() const override
|
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return new ColumnAggregateFunction(holder->func, Arenas(1, new Arena));
|
2014-06-05 23:52:28 +00:00
|
|
|
|
};
|
2011-09-19 01:42:16 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
Field operator[](size_t n) const override
|
2011-09-19 01:42:16 +00:00
|
|
|
|
{
|
2014-05-22 14:09:10 +00:00
|
|
|
|
Field field = String();
|
|
|
|
|
{
|
|
|
|
|
WriteBufferFromString buffer(field.get<String &>());
|
2014-06-08 22:17:44 +00:00
|
|
|
|
holder.get()->func->serialize(getData()[n], buffer);
|
2014-05-22 14:09:10 +00:00
|
|
|
|
}
|
|
|
|
|
return field;
|
2011-09-19 01:42:16 +00:00
|
|
|
|
}
|
2012-10-07 06:30:10 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void get(size_t n, Field & res) const override
|
2013-01-07 06:47:15 +00:00
|
|
|
|
{
|
2014-06-05 23:52:28 +00:00
|
|
|
|
res = String();
|
2014-05-22 14:09:10 +00:00
|
|
|
|
{
|
|
|
|
|
WriteBufferFromString buffer(res.get<String &>());
|
2014-06-08 22:17:44 +00:00
|
|
|
|
holder.get()->func->serialize(getData()[n], buffer);
|
2014-05-22 14:09:10 +00:00
|
|
|
|
}
|
2013-01-07 06:47:15 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
StringRef getDataAt(size_t n) const override
|
2012-10-07 06:30:10 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return StringRef(reinterpret_cast<const char *>(&getData()[n]), sizeof(getData()[n]));
|
2014-05-22 14:09:10 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void insertData(const char * pos, size_t length) override
|
2014-05-22 14:09:10 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
getData().push_back(*reinterpret_cast<const AggregateDataPtr *>(pos));
|
2014-05-26 16:11:20 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void insertFrom(const IColumn & src, size_t n) override
|
2014-05-26 16:11:20 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
getData().push_back(static_cast<const ColumnAggregateFunction &>(src).getData()[n]);
|
|
|
|
|
}
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
/// Объединить состояние в последней строке с заданным
|
|
|
|
|
void insertMergeFrom(const IColumn & src, size_t n)
|
|
|
|
|
{
|
|
|
|
|
holder.get()->func.get()->merge(getData().back(), static_cast<const ColumnAggregateFunction &>(src).getData()[n]);
|
2014-06-05 23:52:28 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void insert(const Field & x) override
|
2014-06-05 23:52:28 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
IAggregateFunction * function = holder.get()->func;
|
|
|
|
|
|
|
|
|
|
getData().push_back(arenas.back().get()->alloc(function->sizeOfData()));
|
|
|
|
|
function->create(getData().back());
|
|
|
|
|
ReadBufferFromString read_buffer(x.get<const String &>());
|
|
|
|
|
function->deserializeMerge(getData().back(), read_buffer);
|
2014-06-05 23:52:28 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void insertDefault() override
|
2014-06-05 23:52:28 +00:00
|
|
|
|
{
|
|
|
|
|
throw Exception("Method insertDefault is not supported for ColumnAggregateFunction.", ErrorCodes::NOT_IMPLEMENTED);
|
|
|
|
|
}
|
|
|
|
|
|
2015-10-04 03:17:36 +00:00
|
|
|
|
StringRef serializeValueIntoArena(size_t n, Arena & arena, char const *& begin) const override
|
|
|
|
|
{
|
|
|
|
|
throw Exception("Method serializeValueIntoArena is not supported for " + getName(), ErrorCodes::NOT_IMPLEMENTED);
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
const char * deserializeAndInsertFromArena(const char * pos) override
|
|
|
|
|
{
|
|
|
|
|
throw Exception("Method deserializeAndInsertFromArena is not supported for " + getName(), ErrorCodes::NOT_IMPLEMENTED);
|
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
size_t byteSize() const override
|
2014-06-05 23:52:28 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return getData().size() * sizeof(getData()[0]);
|
2013-02-16 20:15:45 +00:00
|
|
|
|
}
|
2014-05-28 14:54:42 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
ColumnPtr cut(size_t start, size_t length) const override
|
2013-05-03 05:23:14 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
if (start + length > getData().size())
|
2014-05-28 14:54:42 +00:00
|
|
|
|
throw Exception("Parameters start = "
|
|
|
|
|
+ toString(start) + ", length = "
|
|
|
|
|
+ toString(length) + " are out of bound in ColumnAggregateFunction::cut() method"
|
2014-06-08 22:17:44 +00:00
|
|
|
|
" (data.size() = " + toString(getData().size()) + ").",
|
2014-05-28 14:54:42 +00:00
|
|
|
|
ErrorCodes::PARAMETER_OUT_OF_BOUND);
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
ColumnAggregateFunction * res_ = new ColumnAggregateFunction(*this);
|
|
|
|
|
ColumnPtr res = res_;
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
res_->getData().resize(length);
|
2014-05-28 14:54:42 +00:00
|
|
|
|
for (size_t i = 0; i < length; ++i)
|
2014-06-08 22:17:44 +00:00
|
|
|
|
res_->getData()[i] = getData()[start + i];
|
2014-05-28 14:54:42 +00:00
|
|
|
|
return res;
|
2013-05-03 05:23:14 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
ColumnPtr filter(const Filter & filter) const override
|
2013-05-03 05:23:14 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
size_t size = getData().size();
|
2014-05-30 16:21:30 +00:00
|
|
|
|
if (size != filter.size())
|
|
|
|
|
throw Exception("Size of filter doesn't match size of column.", ErrorCodes::SIZES_OF_COLUMNS_DOESNT_MATCH);
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
ColumnAggregateFunction * res_ = new ColumnAggregateFunction(*this);
|
|
|
|
|
ColumnPtr res = res_;
|
2014-05-30 16:21:30 +00:00
|
|
|
|
|
|
|
|
|
if (size == 0)
|
|
|
|
|
return res;
|
|
|
|
|
|
2015-10-15 19:41:32 +00:00
|
|
|
|
auto & res_data = res_->getData();
|
|
|
|
|
|
|
|
|
|
res_data.reserve(size);
|
2014-05-30 16:21:30 +00:00
|
|
|
|
for (size_t i = 0; i < size; ++i)
|
|
|
|
|
if (filter[i])
|
2015-10-15 19:41:32 +00:00
|
|
|
|
res_data.push_back(getData()[i]);
|
|
|
|
|
|
|
|
|
|
/// Для экономии оперативки в случае слишком сильной фильтрации.
|
|
|
|
|
if (res_data.size() * 2 < res_data.capacity())
|
|
|
|
|
res_data = Container_t(res_data.cbegin(), res_data.cend());
|
2014-05-30 16:21:30 +00:00
|
|
|
|
|
|
|
|
|
return res;
|
2013-05-03 05:23:14 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
ColumnPtr permute(const Permutation & perm, size_t limit) const override
|
2013-05-03 05:23:14 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
size_t size = getData().size();
|
2014-05-28 14:54:42 +00:00
|
|
|
|
|
|
|
|
|
if (limit == 0)
|
|
|
|
|
limit = size;
|
|
|
|
|
else
|
|
|
|
|
limit = std::min(size, limit);
|
|
|
|
|
|
|
|
|
|
if (perm.size() < limit)
|
|
|
|
|
throw Exception("Size of permutation is less than required.", ErrorCodes::SIZES_OF_COLUMNS_DOESNT_MATCH);
|
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
ColumnAggregateFunction * res_ = new ColumnAggregateFunction(*this);
|
|
|
|
|
ColumnPtr res = res_;
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-06-08 22:17:44 +00:00
|
|
|
|
res_->getData().resize(limit);
|
2014-05-28 14:54:42 +00:00
|
|
|
|
for (size_t i = 0; i < limit; ++i)
|
2014-06-08 22:17:44 +00:00
|
|
|
|
res_->getData()[i] = getData()[perm[i]];
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
2014-05-28 14:54:42 +00:00
|
|
|
|
return res;
|
2013-05-03 05:23:14 +00:00
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
ColumnPtr replicate(const Offsets_t & offsets) const override
|
2013-02-08 23:41:05 +00:00
|
|
|
|
{
|
|
|
|
|
throw Exception("Method replicate is not supported for ColumnAggregateFunction.", ErrorCodes::NOT_IMPLEMENTED);
|
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void getExtremes(Field & min, Field & max) const override
|
2013-09-06 20:28:22 +00:00
|
|
|
|
{
|
|
|
|
|
throw Exception("Method getExtremes is not supported for ColumnAggregateFunction.", ErrorCodes::NOT_IMPLEMENTED);
|
|
|
|
|
}
|
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
int compareAt(size_t n, size_t m, const IColumn & rhs_, int nan_direction_hint) const override
|
2011-09-19 01:42:16 +00:00
|
|
|
|
{
|
|
|
|
|
return 0;
|
|
|
|
|
}
|
2011-09-26 11:05:38 +00:00
|
|
|
|
|
2014-10-31 22:15:17 +00:00
|
|
|
|
void getPermutation(bool reverse, size_t limit, Permutation & res) const override
|
2011-09-26 11:05:38 +00:00
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
size_t s = getData().size();
|
2013-12-08 02:29:40 +00:00
|
|
|
|
res.resize(s);
|
2011-09-26 11:05:38 +00:00
|
|
|
|
for (size_t i = 0; i < s; ++i)
|
|
|
|
|
res[i] = i;
|
|
|
|
|
}
|
2014-06-05 23:52:28 +00:00
|
|
|
|
|
|
|
|
|
/** Более эффективные методы манипуляции */
|
|
|
|
|
Container_t & getData()
|
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return holder.get()->data;
|
2014-06-05 23:52:28 +00:00
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
const Container_t & getData() const
|
|
|
|
|
{
|
2014-06-08 22:17:44 +00:00
|
|
|
|
return holder.get()->data;
|
2014-06-05 23:52:28 +00:00
|
|
|
|
}
|
2011-09-19 01:42:16 +00:00
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
}
|