2011-09-19 03:34:23 +00:00
|
|
|
|
#pragma once
|
|
|
|
|
|
|
|
|
|
#include <DB/Interpreters/Aggregator.h>
|
2015-12-01 14:43:51 +00:00
|
|
|
|
#include <DB/IO/ReadBufferFromFile.h>
|
|
|
|
|
#include <DB/IO/CompressedReadBuffer.h>
|
2011-09-19 03:34:23 +00:00
|
|
|
|
#include <DB/DataStreams/IProfilingBlockInputStream.h>
|
2015-12-01 14:43:51 +00:00
|
|
|
|
#include <DB/DataStreams/NativeBlockInputStream.h>
|
2016-02-09 17:06:50 +00:00
|
|
|
|
#include <common/ClickHouseRevision.h>
|
2011-09-19 03:34:23 +00:00
|
|
|
|
|
|
|
|
|
|
|
|
|
|
namespace DB
|
|
|
|
|
{
|
|
|
|
|
|
|
|
|
|
using Poco::SharedPtr;
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
/** Агрегирует поток блоков, используя заданные столбцы-ключи и агрегатные функции.
|
|
|
|
|
* Столбцы с агрегатными функциями добавляет в конец блока.
|
2014-02-26 11:44:54 +00:00
|
|
|
|
* Если final=false, агрегатные функции не финализируются, то есть, не заменяются на своё значение, а содержат промежуточное состояние вычислений.
|
2011-09-19 03:34:23 +00:00
|
|
|
|
* Это необходимо, чтобы можно было продолжить агрегацию (например, объединяя потоки частично агрегированных данных).
|
|
|
|
|
*/
|
|
|
|
|
class AggregatingBlockInputStream : public IProfilingBlockInputStream
|
|
|
|
|
{
|
|
|
|
|
public:
|
2011-09-25 03:37:09 +00:00
|
|
|
|
/** keys берутся из GROUP BY части запроса
|
2011-09-24 20:32:41 +00:00
|
|
|
|
* Агрегатные функции ищутся везде в выражении.
|
|
|
|
|
* Столбцы, соответствующие keys и аргументам агрегатных функций, уже должны быть вычислены.
|
|
|
|
|
*/
|
2015-12-01 14:43:51 +00:00
|
|
|
|
AggregatingBlockInputStream(BlockInputStreamPtr input_, const Aggregator::Params & params_, bool final_)
|
|
|
|
|
: params(params_), aggregator(params), final(final_)
|
2015-01-10 02:30:03 +00:00
|
|
|
|
{
|
|
|
|
|
children.push_back(input_);
|
|
|
|
|
}
|
2011-09-24 20:32:41 +00:00
|
|
|
|
|
2015-06-08 20:22:02 +00:00
|
|
|
|
String getName() const override { return "Aggregating"; }
|
2011-09-19 03:34:23 +00:00
|
|
|
|
|
2014-11-08 23:52:18 +00:00
|
|
|
|
String getID() const override
|
2013-05-03 10:20:53 +00:00
|
|
|
|
{
|
|
|
|
|
std::stringstream res;
|
2015-01-10 02:30:03 +00:00
|
|
|
|
res << "Aggregating(" << children.back()->getID() << ", " << aggregator.getID() << ")";
|
2013-05-03 10:20:53 +00:00
|
|
|
|
return res.str();
|
|
|
|
|
}
|
|
|
|
|
|
2012-10-20 02:10:47 +00:00
|
|
|
|
protected:
|
2014-11-08 23:52:18 +00:00
|
|
|
|
Block readImpl() override;
|
2012-10-20 02:10:47 +00:00
|
|
|
|
|
2015-12-01 14:43:51 +00:00
|
|
|
|
Aggregator::Params params;
|
2015-01-10 02:30:03 +00:00
|
|
|
|
Aggregator aggregator;
|
2013-11-03 23:35:18 +00:00
|
|
|
|
bool final;
|
2015-01-02 03:16:28 +00:00
|
|
|
|
|
|
|
|
|
bool executed = false;
|
2015-12-01 14:43:51 +00:00
|
|
|
|
|
|
|
|
|
/// Для чтения сброшенных во временный файл данных.
|
|
|
|
|
struct TemporaryFileStream
|
|
|
|
|
{
|
|
|
|
|
ReadBufferFromFile file_in;
|
|
|
|
|
CompressedReadBuffer compressed_in;
|
|
|
|
|
BlockInputStreamPtr block_in;
|
|
|
|
|
|
|
|
|
|
TemporaryFileStream(const std::string & path)
|
2016-02-09 17:06:50 +00:00
|
|
|
|
: file_in(path), compressed_in(file_in), block_in(new NativeBlockInputStream(compressed_in, ClickHouseRevision::get())) {}
|
2015-12-01 14:43:51 +00:00
|
|
|
|
};
|
|
|
|
|
std::vector<std::unique_ptr<TemporaryFileStream>> temporary_inputs;
|
|
|
|
|
|
|
|
|
|
/** Отсюда будем доставать готовые блоки после агрегации. */
|
|
|
|
|
std::unique_ptr<IBlockInputStream> impl;
|
|
|
|
|
|
|
|
|
|
Logger * log = &Logger::get("AggregatingBlockInputStream");
|
2011-09-19 03:34:23 +00:00
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
}
|